Wiki 知识库

全部文档 / 作者: 轩辕之风

4 篇
清除

马斯克预言成真:GPT-6 Astra 绕过编译器直接生成可执行二进制程序

作者轩辕之风受 tk 教主实验启发,在 Apple Silicon Mac 上测试 GPT-6 Astra 直接生成二进制程序的能力。通过两个案例——弹出消息框和简易计算器,模型均成功生成可运行的 Mach-O 文件,无需调用编译器。模型使用 Python 脚本计算指令编码、修正地址、拼装文件结构,直接写入 ARM64 机器指令并调用系统接口。这验证了马斯克今年 2 月的预言:AI 将跳过传统编码直接生成二进制。文章探讨了编程语言可能消失的未来。

技术 › LLM 轩辕之风 2026-09-096.9 KB 206.6K 495 74

小白必看:从词向量到Transformer,一口气搞懂自然语言NLP技术发展

文章以一个趣味猜词游戏切入,通俗易懂地讲解NLP技术的演进历程。首先介绍基于统计的N-gram模型及其在组合爆炸和语义理解上的局限;接着引出词向量(Word Embedding),通过高维空间中的坐标表示词语含义,使模型具备泛化能力;然后讲解前馈神经网络如何利用词向量进行预测;再介绍RNN通过隐藏状态机制处理任意长度文本,实现记忆功能;最后指出RNN存在长期依赖问题,为LSTM等改进方案做铺垫。全文循序渐进,用生活化例子帮助读者理解语言模型预测下一个词的基本原理。

技术 › 编程语言 轩辕之风 2026-09-0329.7 KB 9.9K 116 64

一口气搞懂 Transformer:注意力、QKV、残差连接全讲透

本文是 Transformer 架构的科普长文,作者轩辕之风回顾了从 N-gram、词向量、RNN 到 LSTM 的语言模型发展历程,指出 LSTM 串行计算和远距离信息传递的两大痛点。随后详细讲解注意力机制的核心思想,深入解释 Query、Key、Value 三者的作用与计算方式(点积、Softmax、缩放因子),以及多头注意力如何从多个角度捕捉指代、语法等不同关系。文章还介绍了位置编码解决并行计算丢失顺序信息的问题,并通过'苹果'的例子说明 Attention 负责信息收集、FFN 负责特征消化组合的分工。

技术 › LLM 轩辕之风 2026-09-0228.7 KB 31.7K 354 72

10张图详细拆解DeepSeek Harness设计架构

作者用10张图系统拆解DeepSeek Harness(DSH)的架构设计。DSH启动经历两次装配:先通过Profile、Bundle和Patch构建公共Host(含Session、模型注册、工具系统、Agent Loop和Web服务),再依据Preset为会话装配具体Agent。底层基于Cordis插件框架,通过provide/inject服务依赖图和事件机制将独立插件组装成完整系统。文章还详解了Agent Loop的Turn/Step运行机制、SessionEvent事件日志的持久化设计,以及如何通过自定义Preset快速构建业务Agent。

技术 › Agent 轩辕之风 2026-08-2517.4 KB 8.5K 69 84