关于复杂性与涌现的数学思考
本文探讨了复杂性与涌现的数学本质,强调不连续性在系统跃迁中的关键作用。作者提出“堆叠流形”概念,解释神经网络如何通过无属性激活和满秩变换处理高阶非线性,指出涌现是数学上可预期的结果。
本文探讨了复杂性与涌现的数学本质,强调不连续性在系统跃迁中的关键作用。作者提出“堆叠流形”概念,解释神经网络如何通过无属性激活和满秩变换处理高阶非线性,指出涌现是数学上可预期的结果。
文章通俗易懂地解释了现代AI的基础原理,涵盖神经网络、Token化、Embeddings、注意力机制及Transformers架构。深入探讨了LLM的工作原理,如上下文窗口、温度控制和幻觉问题,并讲解了提示词工程技巧。
本文深入剖析了 AI 领域核心的注意力机制。文章回顾了 Attention 从早期神经机器翻译到 Transformer 架构的演变历史,详细解析了其解决固定长度向量瓶颈的原理。同时,通过图文并茂的方式,逐步拆解了从 Embedding 到上下文表示的过程,重点阐述了 Queries、Keys、Values (QKV) 机制的运作逻辑及其在现代大模型中的关键作用。
文章介绍 Anthropic 最新报告显示 Claude 已能作为“超级博后”全自动完成科研任务。仅凭一段 Prompt,Claude 可自主读文献、串联蛋白质开源模型,24-48 小时内完成 de novo 蛋白质设计;湿实验验证中 15 个靶点成功 14 个,单靶点命中率高达 35.1%,攻克了 TNFα 等地狱级靶点并实现跨物种结合。此外 Claude Opus 5 仅用 19 分钟即逆向解析 NMR 与质谱原始数据,纯度计算结果与人类专业实验室几乎一致。作者认为 AI 正从工具人进化为自主科研决策者,未来科研竞争将转向提出有价值的科学问题。
本文是 Paul Graham《What I Worked On》的中文编译,作者回顾了自己早年写作与编程的经历:从中学接触 IBM 1401 与 Fortran,到拥有 TRS-80 后真正开始编程;大学从哲学转向人工智能,自学 Lisp 并重实现 SHRDLU;研究生时期看清早期符号主义 AI 的局限,转而专注 Lisp 并写作《On Lisp》。毕业后赴佛罗伦萨美术学院学画,经历艺术院校的失望,后在美国靠编程与自由职业维生,在 Interleaf 工作并总结出“低端吞掉高端”等重要经验。文章展现了作者在写作、编程与绘画之间追寻能长久留存之事的探索历程。
本期 INDIGO TALK 对谈字节前工程师郭宇,从 2015 年字节作为神经网络驱动公司的往事讲起,谈到抖音意外胜出的内幕、Vibe Coding 背后的决策负担与工程师倦怠、Agent OS 的未来图景、智能的五个层次与商品化,以及软件为何会像牛奶一样便宜。当软件可以随时生成、用完即丢,个人化软件让分发失去意义,我们真正要交付的是什么?最后讨论当工作不再是必选项时,年轻人该如何选择人生方向。
文章提出'营销工程师'(Marketing Engineer)将成为新的10倍员工。作者回顾了营销行业从广告狂人时代、AdWords数字营销、增长黑客到AI辅助营销的演变,指出实验成本持续坍缩是贯穿历史的主线。借助Claude Code、Codex、MCP和定时Agent等工具,一个兼具营销思维与构建能力的人可以搭建由多个AI Agent组成的系统:阅读销售通话、生成落地页、投放广告、归因分析,实现每天数十个实验。文章给出搭建指南:配置Agent工作区、通过MCP连接工具、编写'大脑'文件夹以提供业务上下文。作者认为创业公司应尽快培养或雇佣营销工程师,这是当下最大的增长杠杆。