读张拳石《致 AI 圈的每一根韭菜》有感
作者分享张拳石老师《致 AI 圈的每一根韭菜》一文的读后感。文章指出一些本科生虽有3-5篇顶会论文,却答不上大模型生成token概率、交叉熵等基础问题,因为文献调研、代码、写作等环节都可由大模型代劳。论文越来越容易生产,数量加速贬值,真正难替代的是底层理解、问题判断与研究动机。作者结合读博经历感慨:读博需五六年,而AI研究范式一年数变,追热点风险极高。文章适合做AI研究和准备读博的人阅读,促使思考:当写论文变容易后,如何判断研究者真正的能力。
作者分享张拳石老师《致 AI 圈的每一根韭菜》一文的读后感。文章指出一些本科生虽有3-5篇顶会论文,却答不上大模型生成token概率、交叉熵等基础问题,因为文献调研、代码、写作等环节都可由大模型代劳。论文越来越容易生产,数量加速贬值,真正难替代的是底层理解、问题判断与研究动机。作者结合读博经历感慨:读博需五六年,而AI研究范式一年数变,追热点风险极高。文章适合做AI研究和准备读博的人阅读,促使思考:当写论文变容易后,如何判断研究者真正的能力。
是一篇推荐他人文章的短评,转述了关于AI圈论文贬值与研究者核心能力的有价值的观点,时效性强且引人思考,但信息密度有限、缺乏原创分析和可操作内容。
作者抱怨每天花两小时刷X只能看到别人嚼烂的AI二手信息,提出应该直接关注一手信息渠道。文章推荐了7个AI信息源:AI News(每日AI社区动态汇总)、The Batch(吴恩达团队AI周报)、Hugging Face Papers(社区热门论文)、alphaXiv(论文讨论区)、arXiv(一手论文源)、LMArena(大模型真人盲测平台)、Artificial Analysis(模型质量速度价格对比工具)。作者强调信息差的关键在于是否蹲守源头,而非知道多少。
文章认为入门AI硬件开发的最佳方式是在AI生成的交互式在线实验室中学习,而非先购买开发板。这种实验室由大模型生成的交互式UI、硬件行为模拟和渐进式教程流组成。文章介绍了Learn Arduino、Claude 3D设备拆解和ESP Labs三个项目:分别提供3D电路学习、可拆装的设备模型和完整的ESP32开发板教学平台。大模型在结构建模、原理动画、状态逻辑和固件映射方面能力已足够强,大幅降低了开发成本。文章同时指出其边界:模拟不等于真实芯片仿真,AI生成内容需专业人员把关,并给出了学习路线和维护者建议。
作者基于此前多次 OCR 横评经验,介绍百度文心团队开源的 Unlimited OCR 2。作者实测 1665 页《平凡的世界》图片版 PDF,40 分钟完整解析,3623 页《哈利·波特》也只需 90 分钟。其核心创新是 SR-SWA(稀疏参考滑动窗口注意力),通过 Page Gate 划定相关页面、Token Sieve 挑选 top-k 视觉块,使每步计算量不随页数增长;配合无限解码机制,百页文档峰值显存从 47GB 降至 1.77GB。与全注意力相比快 7 倍,在 MarathonDocBench 上保持 SOTA。短板是全局结构信息(如标题层级)保留不足。
作者以美妆企业 FDE 落地项目为例,讲解如何将小红书、抖音、视频号、微博等平台采集的多模态数据(文字、图片、音频、视频)清洗成一套可信、可查询的结构化数据。文章提出八步通用链路:定数据规范、保留原始内容、梳理用户/帖子/评论关系、多模态归一处理、冲突与质量清洗(含证据分级)、生成结构化数据、执行验收、按规则和版本入库。文中还给出 OCR/ASR 工具选型建议(FFmpeg、PaddleOCR、Whisper 等)以及大模型结构化输出的实践经验。
文章讲述了“生成骑自行车的鹈鹕SVG”这一AI测试题的来龙去脉。该题源自英国程序员Simon Willison,因同时考验模型的空间几何理解与代码生成能力而成为测试大模型的经典题目。随着模型进步,该测试已趋于饱和,连小体量开源模型Qwen3.6都能击败Claude Opus 4.7,引发其是否沦为“应试科目”的讨论。作者分析了鹈鹕测试依然流行的原因:直观易懂、已成为开发者社区的“开机仪式”,透过这只越来越像样的鹈鹕,能直观感受AI时代的快速发展。
作者开源了Muse-Bridge反向代理项目(v1.4.1),可在本机或服务器运行代理服务,将Muse.ai网页请求转发给Codex CLI、CC switch等命令行工具,让用户通过CLI调用Meta的Muse-Wonder大模型。文章介绍了部署步骤、Cookie获取方法、管理页面功能,并分享使用体验:作者连续使用约20天、累计106亿tokens,认为该模型在写作尤其是小说创作上表现出色,可与GPT-6.1 Sol媲美。同时提醒Cookie是登录凭证,需注意安全,不要泄露。
月之暗面发布 Kimi K3.1 Pro,基于 K3 做 post-training 升级,2.8T 总参数、104B 激活(MoE)、1M 上下文、多模态。Terminal-Bench 4.0 得分 65.7,超越 GPT-6 Astra(58.2),仅落后 Claude Opus 5.5(66.4)0.7 分,是开源模型离闭源最强最接近的一次。API 价格输入 $2/输出 $10,比上一代降价三分之一,权重将于 11 月 4 日开源。文章拆解了 14 项评测表现,指出其在编码、Agent、金融分析领域表现出色,但科学计算类任务偏科严重(38.1 vs 68.1),并给出小白使用入口与避坑清单。
本文从“模式”(一列乘一行的秩1矩阵)概念出发,系统讲解 LoRA 与 QLoRA 如何降低大模型微调的显存开销。LoRA 通过低秩近似冻结原有权重,只训练少量新增模式(B·A),将可训练参数减少到约万分之一;量化则用 4 位 NF4 格式配合分块缩放和双重量化存储权重,保留全部模式但降低每个数的精度。QLoRA 结合两者:冻结权重用 4 位存储,LoRA 分支用 16 位训练,使 65B 模型只需一块 48GB GPU 即可微调,Guanaco 在 Vicuna 评测中达到 ChatGPT 的 99.3%。文中还比较了低秩近似与量化误差结构的不同,并给出 7B 模型显存估算:全参数微调约 100GB,LoRA 约 15GB,QLoRA 约 5GB。
月之暗面发布旗舰模型Kimi K3.1 Pro,参数规模2.8T(MoE,104B激活),支持100万Token上下文,继续开源。API价格较K3砍半,仅为GPT-6 Astra的五分之一。跑分仅次于Claude Opus 5.5和GPT-6 Astra,Terminal-Bench 4.0达65.7%,OfficeQA Pro v2获SOTA,幻觉率从23.4%降至8.3%。作者重点测试了视觉方向:3D建模能力已可与GPT-6 Astra正面竞争,包括网页3D果冻、高精度机械键盘、根据户型图与装修图生成Three.js第一视角漫游网站、结合平面图与手持视频还原办公室3D模型。视频动效方面提升巨大,可一轮直出动效作品集、宣传片及科普视频,虽距Opus 5.5仍有差距,但已属国产模型巅峰水平。
作者整理了一份学术写作指南(GitHub 项目 EZ-to-write-a-paper),教硕博生如何借助 AI 助手(如 Codex、Claude Code)完成论文写作。文章按 Methodology、Result、Discussion、Introduction、Conclusion/Abstract 的顺序逐节讲解写作要点:方法部分实验已完成适合先写;结果先用通俗语言描述清楚;讨论部分写不好没关系可借助 AI 整理文献;引言晚点写;摘要结论最后让 AI 起草并人工核对。同时提醒 AI 用词不当、随意换词等通病,以及非母语者的写作问题,帮助读者顺利毕业并逃离学术圈。
文章以地铁图为比喻,为大模型学习者规划了一条清晰的学习路线。主干线按演进顺序设置八站:前置基础、Transformer、GPT-2(强调亲手实现作为锚点)、预训练、ChatGPT 时刻(RLHF)、LLaMA、MoE 稀疏专家、推理模型(o1/R1),终点是能独立读懂新论文。五条支线按兴趣选修:推理优化(KV Cache、FlashAttention、量化)、训练(Scaling Law、分布式并行)、对齐(SFT、LoRA、DPO、GRPO)、架构(RMSNorm、RoPE、MLA)、应用(RAG、Agent)。最后给出建议:GPT-2 必须亲手写一遍,主干加一至两条支线即可入门,学习原理时动手推算。
文章系统梳理了 AI 生态中的核心概念及其关系。首先介绍 AI 模型,按处理信息类型分为语言/多模态、图像生成、视频生成、音频语音和专用任务模型,并列举 GPT、Claude、Gemini、FLUX、Veo、Whisper 等代表产品。其次区分 AI 模型与 AI 产品,涵盖综合助手、AI 搜索、创作和办公开发工具。然后解释 Agent 如何从回答问题走向执行任务,分类介绍了编程 Agent(Codex、Claude Code)、跨应用 Agent(Manus、OpenClaw)和长期个人 Agent。最后厘清 Skill(可复用工作方法)、Tool(具体能力)、Plugin(功能集成)、API(软件接口)和 MCP(标准化连接协议)的区别,以及 Workflow、Memory、知识库和执行环境等支撑能力,帮助读者理解整个 AI 生态的组成与协作方式。