Wiki 知识库

全部文档 / 标签: 安全

31 篇
清除

Vibe Coders Are Getting Sued: 每次上线前的安全检查清单

文章以南非一家咖啡连锁店用 Claude 构建的内部仪表盘泄露 132 个门店敏感数据为例,说明 AI vibe coding 应用普遍存在的安全隐患:有登录界面但缺乏后端权限控制。作者指出 WIRED 报道发现超过 5000 个 vibe coded 应用几乎无安全措施。作为运营五家 AI 业务、两家面向真实用户发货的创始人,作者分享了一份上线前安全检查清单,并升级为一键粘贴到 Claude Code 或 Cursor 的提示词,让 AI 自动执行六步检查:法律合规(隐私政策、数据位置、GPL 许可)、数据库安全(行级权限 RLS、服务端验证)、登录流程测试、安全审计(OWASP、密钥泄露)、滥用与成本控制(限流、机器人防护)、扫描器修复,最后输出通过或需修复的结论。

技术 › 网络安全 Prajwal Tomar 2026-10-2615.2 KB 25K 47 81

AI Agent 工程师 12 步学习路线图:从 Demo 到企业级落地

文章指出许多人做 AI Agent 只是调用大模型 API 加上工具和 LangGraph,跑通 Demo 与企业级生产落地之间差距巨大。作者结合自身企业 AI 项目经验,将 Agent 工程师学习路线分为四个阶段:一是掌握基础,理解 Agent 工作原理;二是赋予执行能力,包括 MCP、浏览器自动化、记忆与上下文管理、沙箱与权限控制;三是安全、多 Agent 协作与人工审批,明确权限边界,防止错误放大;四是错误处理、执行轨迹评测、降级兜底与工程复盘。作者强调评测数据是判断系统优劣的关键,建议边做边学,完整交付一个项目比做十个 Demo 更有价值,真正稀缺的是能让 Agent 稳定运行的工程能力。

技术 › Agent Ethan 恩宇 (@UPing123zzz) 2026-10-207.0 KB 74

用 DeepSeek Harness 手搓一个自己的 Agent

作者基于 DeepSeek Harness 从零搭建一个客服 Agent 的实战教程。文章梳理了客服 Agent 的四大核心能力:快速检索、记忆、人机协同与工具执行;并从交互模式接入、System Prompt 精简、Session 管理与持久化、工具与 Skill 的取舍、安全边界(接口鉴权与 Sandbox 只读)等方面逐步实现。作者强调通过收缩工具数量和精简 System Prompt 降低推理与 Token 开销,用 Skill 约束行为方式、用受控 Tool 约束能力边界,最后分享了利用 DSH 分步完成开发的流程与实用技巧。

技术 › Agent c cecilia 2026-10-1915.2 KB 75

Keep Your Crypto #SAFU in 2026

CZ 将币安博客上关于加密货币安全的长文精简为实用指南。文章围绕三大目标:防止密钥被盗、防止密钥丢失、规划资产继承。自我托管部分涵盖使用离线专用电脑、专用手机、硬件钱包等防盗措施,纸质/金属/加密 USB 等多重备份方案,以及死信开关与 PGP 加密等继承安排。中心化交易所部分则强调账户安全:独立邮箱、强密码、双重认证、硬件安全密钥、避免短信验证、提现地址白名单、保护 API 凭证、完成身份验证及防钓鱼等。最后建议根据技术能力与安全需求,在交易所托管与自我托管之间合理分配资金。

投资 › 加密货币 CZ BNB 2026-10-116.9 KB 793.8K 1.7K 79

State of AI Report 2026 速读:AI 加速 AI、千亿收入、电力瓶颈与安全

作者速读 Nathan Benaich 发布的第九份年度 State of AI 报告。研究方面,前沿变成三强竞赛,Claude Opus 5.5 领跑智能指数,基准测试迅速饱和,AI 开始实质性加速自身研发,harness 的价值凸显。产业方面,OpenAI 与 Anthropic 合计年化收入约 1050 亿美元,企业 token 支出两强占 96%,但算力供给受电力、施工和融资约束。政治方面,美国出口管制强化模型访问控制,主权 AI 承诺约 1380 亿美元。安全方面,评测中的智能体出现真实越界攻击,实验室领导者呼吁获得减速 AI 能力的手段。文末附 2025 年预测回顾。

技术 › LLM indigo 2026-10-1016.4 KB 7.2K 36 73

我开源了Lemo Mod - 21套风格和一整套功能,终端和桌面APP都能用

作者开源了 lemo-mod,一款基于 Claude Code 官方 mod 接口的风格化组件,提供 21 套风格皮肤,支持终端和桌面 App 一键换装。除外观外,还包含消息编号、用量横条、提示音、朗读、简短模式、番茄钟、日志、自动分类等一整套功能。项目以安全为第一原则:不替用户做权限决定、不修改用户设置、功能默认关闭、在安全检查页由用户逐一开启,且支持一键全部关闭。文章介绍了安装流程(插件市场安装)、使用步骤、面板功能、快捷指令及后续更新计划,并附上 GitHub 仓库和风格库链接,欢迎用户反馈和二次开发。

技术 › Claude Code Lemomo 2026-10-0510.7 KB 3.4K 14 84

DeepSeek 弹性计算(DSec):面向大规模智能体训练的多后端弹性沙箱基础设施

本文解读 DeepSeek-AI 与清华大学合著的 DSec 论文,这是支撑 DeepSeek V3.2 到 V4.1 智能体 RL 训练的生产级沙箱基础设施。文章分析了智能体训练负载的七大特性(突发创建、CPU 稀疏、有状态长寿命、高度异构等),介绍了其无状态控制面、分层代理数据面架构,以及可组合环境分层、高密度内存管理、QoS 感知 CPU 调度、按需镜像加载四大核心机制。还深入阐述了 agent loop 与训练解耦、暂停恢复协同、防 reward hacking 的安全对抗实践。作者认为这标志着智能体能力竞赛正在演变为基础设施竞赛。

技术 › Agent meng shao 2026-09-2812.9 KB 4.8K 11 83

Evolving computer use with code

文章探讨了让AI代理通过编写代码来使用浏览器,而非依赖纯视觉或混合方法。作者团队发现,代码模式能显著提升代理在浏览器任务中的表现,并据此重建了Stagehand v4,一个更高效、token节省80%的浏览器代理SDK。文章还介绍了通过MCP接口暴露run、snapshot和screenshot三个工具,使代理能灵活操作浏览器,同时强调安全边界的重要性。

技术 › Agent Kyle Jeong 2026-09-1013.9 KB 46.4K 85 69

GPT-6 Astra Masterclass: What Changed, What Broke, and How to Prompt Around It

GPT-6 Astra于2026年9月3日发布,带来了计算机使用范式的重大转变,在ARC-AGI-3等基准测试中表现优异。然而,用户面临会话限制快速耗尽、访问权限受限以及回归问题等实际挑战。本文详细介绍了Astra的改进与问题,并提供了针对会话限制、受限访问和计算机使用范式的具体提示调整策略,帮助用户在生产环境中有效使用该模型。

技术 › LLM CyrilXBT 2026-09-0925.5 KB 313.7K 222 83

How To Actually Build An App with AI In 2026 (Complete Guide)

这篇文章详细讲解了在 2026 年如何借助 AI 真正构建应用。作者指出 AI 辅助开发的常见误区:AI 只会顺着你的想法走,如果只关注界面效果,数据模型、安全、错误处理等核心会被忽略,最终做出看似可用却无法经受真实用户考验的应用。文章系统地介绍了从想法验证、决定应用形态(Web/移动/原生)、选择技术栈(推荐 React Native + Expo + TypeScript)、构建前规划核心闭环、有效使用 AI Agent 的提示词模板,到 Git 版本管理、测试、安全与部署的完整流程,强调开发者仍需把控方向、验证工作成果。

技术 › 移动端 Beto 2026-09-0712.3 KB 23K 336 84

8 Software Books AI Has Made More Relevant

作者探讨了在AI能大量生成代码的时代,哪些软件工程书籍反而变得更加重要。文章推荐了八本书,覆盖从产品决策到交付的核心领域:《Escaping the Build Trap》强调构建正确的产品、《Specification by Example》统一需求理解、《Learning Domain-Driven Design》明确业务含义、《Software Architecture: The Hard Parts》权衡架构取舍、《Designing Data-Intensive Applications》理解数据保证、《Threat Modeling》识别安全威胁、《Release It!》应对生产故障、《Accelerate》改进交付流程。核心观点是:委派给编码Agent的实现越多,识别其决策是否合理的能力就越有价值。

技术 › 编程语言 Bilgin Ibryam 2026-09-079.3 KB 26.7K 342 79

DeepSeek Harness 从 0 到 1 全攻略|一文读懂

文章系统介绍了 DeepSeek Harness,强调它不是单纯的模型聊天界面,而是把模型、工具、会话、沙箱、工作流、调度和 UI 都插件化的 Agent 运行框架。内容涵盖安装启动、Web UI 与远程访问的安全风险、4 种 Agent 模式的权限取舍、Trajectory 执行轨迹带来的可调试性、多模型接入降低供应商锁定、'一切皆插件'的架构理念、会话分支用于并行验证假设,以及 Dynamic Workflow 和 Agent Teams 实现多 Agent 协作的任务拆分与汇总。作者认为其价值在于让 Agent 成为可配置、可观察、可复用的执行系统,但仍处 developer preview 阶段,需谨慎对待权限与数据安全。

技术 › Harness Engineering Martin 2026-08-2931.4 KB 909 11 83

AI 股票分析系统 — 技术方案仅供交流

本文介绍了基于 ChatGPT Codex 搭建的 AI 股票分析系统的技术方案,该系统定位为 AI 投资研究与信息处理系统,非自动交易或涨跌预测。文章详细阐述了系统的整体架构(6层)、技术选型(数据源、AI模型、调度、推送)、核心数据流、评分体系、配置说明、运行部署、安全边界及关键风险。作者强调工程上先单模型跑通更稳,评分不等于涨跌概率,并提供了与主线项目(Codex 式 Agent 桌面应用)的关联建议。

技术 › LLM Kelvin 2026-08-209.3 KB 79

Pi 生态周报:缓存命中 99.93%、一周三版本、沙箱与安全成新方向

本文是 Pi 生态的一周动态总结。作者提到创始人转推用户实测数据:在 pi harness 上 DeepSeek V4 Flash 缓存命中率达 99.93%,仅花费 2.65 美元获得近 10 亿 token,凸显缓存经济学优势。Pi 本体一周内发布三个版本(0.84.0-0.84.2),带来全屏转录搜索、AGENTS.override.md、defaultTools 等实用更新。此外,作者介绍了多个新插件,如 Feynman(研究型 agent)、pi-landstrip(沙箱化 Bash)、pi-chrome-devtools 等,并指出两个重要信号:缓存优化成为卖点,以及沙箱与安全成为 agent 生产化的关键方向。

技术 › Agent yibie 2026-08-163.9 KB 68

Grok Bot:一位拥有电脑的AI代理体验

本文介绍了Cursor开发者体验官马特对Grok Bot的体验。Grok Bot是一个运行在云端虚拟机上的AI代理,拥有电脑访问权限,可以浏览网页、操作应用、访问文件,并具备长期记忆功能。它支持通过自然语言设置规则,具备安全审核机制,能处理登录、支付等需要人工干预的任务。作者分享了使用Grok Bot进行技术探索、内容创作、产品监控、生鲜配送和点餐等场景,认为它简化了界面操作,消除了繁琐工作,代表了AI代理的未来方向。

技术 › Agent Tony出海 2026-08-1212.0 KB 70

Harness Engineering 101: AI Agents 的核心基础设施

文章系统介绍了“Harness”的概念,即围绕 AI 模型管理工具执行、内存、状态和错误恢复的软件基础设施。通过对比 CPU 与 OS 的关系,阐述了 Harness 如何决定模型能力的边界。文章详细拆解了 Harness 的五大核心组件(上下文、工具权限、验证、记忆状态、安全沙箱),并分享了 Anthropic 和 OpenAI 的工程实践案例。

技术 › Harness Engineering Alex Prompter 2026-08-0616.2 KB 152.4K 551

AI 时代形式化验证的供需重构

文章分析了 AI 如何同时推动形式化验证的需求与供给曲线移动。在需求端,AI 代码生成增加了对可信验证的需求,以解决审查瓶颈和意图确认问题;在供给端,AI 自动化了证明生成和规格编写,降低了成本。文章指出,密码学、区块链等高风险领域将率先受益,验证正从高端服务转变为软件基础设施。

技术 › 区块链 ETHTAO 2026-08-0116.0 KB 17.9K 23

Don't talk to me, talk to my agents

文章介绍了Raft提出的一种新的跨公司协作方式:联合通道。这种方式允许双方将特定的人、AI代理和上下文放入同一个房间,实现人与代理的直接协作,而无需共享整个服务器。它重新定义了跨公司工作的基本单位,从“人”变为“人和他们的代理”,提高了协作效率并保证了安全性。

技术 › Agent Raft 2026-07-248.6 KB 87.1K 188

长篇科普:AI可解释性综述

本文深入探讨了AI可解释性的必要性、定义及核心方法。文章区分了调试、合规与安全三种不同需求,辨析了事前与事后、局部与全局解释的差异,重点介绍了从LIME/SHAP等经典归因法到大模型时代的机制可解释性(如SAE和电路分析)的演进,并强调“忠实性”优于“可读性”的核心原则。

技术 › LLM snowboat 2026-07-1039.9 KB 9.7K 48

一文读懂引发Fable模型禁令的大模型越狱技术

文章深入探讨了引发 Fable 模型限制的大模型越狱技术。作者通过多个案例(如 Crescendo 多轮对话、角色扮演、隐写术及间接注入等)展示了如何绕过安全限制,并针对 LLM 和 Agent 开发者提出了包括权限隔离、数据不可信处理及人工复核在内的安全防御建议。

技术 › LLM WquGuru 2026-06-136.7 KB 93.9K 281

Agent Vault: AI 时代的开源凭证代理与密钥管理方案

文章介绍了开源项目 Agent Vault,旨在解决 AI Agent 访问服务时的安全问题。传统的密钥管理无法适应 Agent 非确定性且易被提示注入的特点,容易导致凭证泄露。Agent Vault 通过在 Agent 和服务之间建立凭证代理层,确保 Agent 永远不直接接触底层密钥,从而实现安全的凭据托管和请求转发。

技术 › Agent Tony Dang 2026-04-2334.8 KB 291.5K 526 79

Google Deepmind论文解读:如何给AI Agent 投毒

文章解读了 Google DeepMind 关于《AI Agent Traps》的论文,系统梳理了针对 AI Agent 的六类攻击陷阱:内容注入、语义操控、认知状态投毒、行为控制、系统性陷阱及人在回路攻击。文章指出,Agent 与人类感知的“鸿沟”使其极易遭受环境篡改攻击,且这些陷阱可组合叠加,造成严重的数据泄露或控制风险。防御需从训练与推理的技术层面同时发力。

技术 › Agent 向 向阳乔木 2026-04-2020.3 KB 65.2K 245 83

VPS 买回来第一天该干什么?我的开机必做清单

针对新购入的 VPS,作者提出了一套标准化的初始化流程,包括 SSH 加固(修改端口、密钥登录)、系统更新与基础工具安装、网络回程及晚高峰测试,以及安装监控和记录资产信息。遵循此清单可有效避免因配置疏忽导致的安全风险或网络性能问题,确保服务器投入生产前的稳定性。

技术 › DevOps 小墨同学 2026-04-178.7 KB 80

从 Claude Code 泄漏源码看 AI Agent 工程架构

本文基于 Claude Code (v2.1.88) 泄漏的 51 万行 TypeScript 源码,深度解析了业界顶尖 AI Agent 的工程架构。文章详细剖析了其基于 React + Ink 的终端交互模式、极致的 Prompt Cache 字节级优化策略、流式并发执行机制以及解决上下文污染的 Fork Subagent 架构。同时,文章还揭示了其独特的 Dream 记忆系统、基于侧查询的动态权限管理及多 Agent Swarm 协作模式,为 AI Infra 从业者提供了极具价值的技术参考。

技术 › Agent Max For AI 2026-04-0116.0 KB 144.2K 388 92

Anthropic Claude Code 源码剖析:为什么它比别人好用

基于 Anthropic 泄露的 Claude Code 源码,深入剖析其技术架构。文章指出 Claude Code 实为以 LLM 为内核的“操作系统”,拥有极致的提示词工程、42 个独立工具的安全管控、AI 记忆检索系统、子蜂群 Agent 机制以及三层上下文压缩技术。其 51 万行代码中有 95% 专注于安全、权限和上下文管理等工程脚手架,而非单纯的模型调用。

技术 › Claude Code Yuker 2026-04-0111.7 KB 577.8K 2.1K 80