Wiki 知识库

全部文档 / 作者: 美研芒格君 (@Kay2289123)

6 篇
清除

Agent Evaluation:难以被 AI 取代的职业方向及 Hugging Face 学习资料推荐

作者认为 Agent Evaluation 是少数仍需人力判断、未来难以被 AI 彻底取代的职业方向,并推荐了 Hugging Face 公开的 Training Agent 课程作为入门资料。课程共六节:1)Agentic Evaluations,讲解如何评估 Agent 及 benchmark 与真实体验的差异;2)Agent 强化学习的难点,包括环境搭建与 reward 设计;3)用 Agent 执行轨迹做 SFT 微调;4)将大模型能力蒸馏给小 Agent;5)SFT 后用 GRPO 继续 RL 训练;6)用 OpenEnv 搭建真实环境并训练 coding agent。视频公开在 YouTube,代码全部开源。

技术 › Agent 美研芒格君 (@Kay2289123) 2026-10-282.5 KB 74

如果你想做 AI 应用不妨考虑一下 Harness 开发

作者结合实际工作经验,整理出一份 AI Harness 开发的 11 条技能清单,涵盖后端与系统设计、RAG 与向量数据库、记忆与上下文管理、工具调用与 MCP、Agent 编排、护栏校验、评测、可观测性、模型路由降级、排队负载均衡以及推理部署引擎。作者指出 Harness 开发是硅谷热门方向(如 YC Demo Day 上大量项目),建议普通开发者从 AI 应用入手,把模型接入具体业务,并给出将清单交给 AI 逐项学习的 prompt 方法。

在 AI 时代我认为只有不敢学没有学不会

作者分享了在 AI 时代降低学习门槛的方法:一个 /eli5 Skill 和配套 Prompt 模板,可将任何学习资料生成图解 HTML 页面(Artifact)。Prompt 要求按概念依赖顺序梳理核心概念,用两格漫画卡片呈现每个概念的烦恼与解决办法,配固定角色、统一视觉风格(手绘风 SVG),并在末尾提供领域指标尺子和学习路线。作者用它来学习 AI Infra、投资等各领域内容,大幅降低理解成本。

技术 › Skill 美研芒格君 (@Kay2289123) 2026-09-114.3 KB 86

AI 时代普通人如何应对:财富洗牌下的行动建议

作者基于在硅谷的观察和重度使用 GPT-6 的经历,认为 AI 发展将终结现有社会分工、引发财富重新洗牌,并给出普通人应对建议:一是放手让 AI 帮忙寻找方向,弥补思维盲区;二是预算允许的话体验高额度模型(如 200 美元档 Codex 会员),用 AI 解决最难、拖延已久的问题;三是放下对现有工作和他人评价的执念,为未来试出新路并坚持;四是保持健身和睡眠,降低焦虑,每天推进具体的事情。作者认为这可能是普通人改变处境的重要机会。

技术 › LLM 美研芒格君 (@Kay2289123) 2026-09-073.1 KB 57

日没夜用了两天 GPT-6Fable 5.1

作者深度使用 GPT-6 和 Fable 5.1 两天,消耗超 21 亿 Token 后感受到焦虑与恐惧。他重构了所有工作流,删除 95% 的 prompt 效果反而更好,认为 AI 已跨越某个奇点,出现类似'灵性'的对话体验。作者核心判断是社会分工和财富将因 AI 重新洗牌,留给普通人调整的时间远比想象中少。他建议放下人类 ego,接受 AI 的指导,并通过购买 AI 基础设施股票进行对冲。

技术 › OpenAI 美研芒格君 (@Kay2289123) 2026-09-074.0 KB 55

一张图讲清 AI 推理内部流程:从发送请求到首 Token 输出

作者基于在硅谷大厂面试上百人的经验,介绍 AI 推理的完整内部流程:用户发送请求后,需经过 HTTPS 鉴权、模板化分词、路由排队与 KV 容量管理,Prefill 处理完未缓存的 Prompt 后才输出首个 Token,随后进入 Decode + sampling 循环,经增量反分词、SSE 分块返回客户端。作者强调 AI 推理不只是 GPU 速度问题,首 Token 延迟取决于并发排队与 Prefill 的均衡,持续输出取决于 Decode,需优化 KV Cache 以在有限硬件资源下服务更多用户。文中还提到帮团队成员规划了从 SDE 转型 AI infra 的 12 周学习路线。

技术 › LLM 美研芒格君 (@Kay2289123) 2026-08-302.0 KB 57