Wiki 知识库

全部文档 / 作者: WquGuru / 标签: LLM

8 篇
清除

图解大语言模型部署

本文系统讲解大语言模型自部署的核心指标与实践要点,覆盖延迟类指标(TTFT、TPOT/ITL、P95/P99)、吞吐类指标(TPS、QPS、连续批处理)、资源类指标(显存与KV cache计算、量化精度)、服务质量(错误率、探针、可用性)以及成本核算(cost per token、TCO)。作者以 Ling-3.0-Flash MoE 模型在 DGX Spark 上的真实实测为例,将抽象指标落地为具体数字,帮助读者选对硬件配置、排查吞吐瓶颈与OOM问题、评估自建与API的划算临界点。

技术 › LLM WquGuru 2026-08-2927.1 KB 56.2K 199 89

DeepSeek Harness + OpenCode Go:完整指南

本文是DeepSeek Harness(dsh)与OpenCode Go订阅制模型网关的集成指南。作者详细介绍了为何选择该组合、安装步骤、配置方法,并通过一次真实的生产巡检案例展示了其成本效益。文章强调dsh的插件化架构与OpenCode Go的OpenAI兼容端点天然匹配,仅需两个环境变量即可切换推理流量。通过实测数据,作者分析了agent循环的输入放大效应、96.5%的缓存命中率以及订阅制在成本控制上的优势。最终,文章提供了完整的配置步骤和实战复盘,帮助开发者快速上手并高效利用该组合。

技术 › LLM WquGuru 2026-08-1413.6 KB 11.2K 42 83

OpenAI 技术面试全拆解:一份地狱难度的工程师进阶清单

本文详细拆解了 OpenAI 软件工程师的高难度面试流程,涵盖初筛、编码、系统设计、48小时居家项目、技术深潜、终面及未公开的 Agentic Coding 考试。文章分析了每轮考核的核心能力(如 MVCC、分布式一致性、推理系统扩缩容等),并指出面试标准正向“指挥 Agent 交付”迁移,是一份高质量的工程师进阶指南。

职场 › 职业发展 WquGuru 2026-08-0318.1 KB 49.8K 238

实战踩坑:便宜模型执行、贵模型编排?没这么简单!

文章通过三个真实案例,验证了“贵模型编排、便宜模型执行”这一省钱策略。作者发现,虽然便宜模型在文本判定等任务上能打平顶尖模型,但在高复杂度代码和开放式视觉任务上存在局限。关键在于控制模型能力代差和任务可验证性,否则返工成本将抵消节省的 token 费用。

技术 › Agent WquGuru 2026-07-2812.1 KB 10.9K 25

Gemini预训练负责人总结:如何进入头部AI团队的10条经验

Gemini预训练团队负责人撰文分享如何进入头部AI实验室。文章指出顶尖人才普遍具备方向准、数学硬、拼劲足三大特质。针对普通人,作者建议避开正面竞争,转而在底层优化或上层Agent系统发力,强调了开源项目、数学基础、动手复现及长期坚持的重要性。

职场 › 职业发展 WquGuru 2026-06-273.6 KB

一文读懂引发Fable模型禁令的大模型越狱技术

文章深入探讨了引发 Fable 模型限制的大模型越狱技术。作者通过多个案例(如 Crescendo 多轮对话、角色扮演、隐写术及间接注入等)展示了如何绕过安全限制,并针对 LLM 和 Agent 开发者提出了包括权限隔离、数据不可信处理及人工复核在内的安全防御建议。

技术 › LLM WquGuru 2026-06-136.7 KB 93.9K 281

Agent时代精力的重分配:Think与Make的新模型

本文探讨了AI Agent时代下个人时间分配模型的演变。作者提出,随着Agent接管基础执行工作,人类应将时间从传统的“70%执行+30%思考”向“50%执行+50%思考”迁移。文章重新定义了“Make”为编排式执行,“Think”为复合思维与系统设计,并提出了意图设计、工作流设计、质量判定及责任心等四项核心生存能力。

技术 › Agent WquGuru 2026-05-2815.0 KB 19.9K 69 83

Pi Coding Agent 最全面指南(完美支持/goal)

文章是一份针对 Claude Code 用户的 Pi Coding Agent 迁移与使用指南。作者对比了 Pi 与 Claude Code 的设计理念,指出 Pi 是一个更透明、可控且高度可配置的 Agent 底座。文章详细介绍了如何配置开源模型 Ring-2.6-1T,推荐了最小可用组件栈,列出了常见的配置陷阱,并通过构建现货-永续监控台的真实案例,阐述了在 Pi 环境下实施 plan-first + skill 工作流的重要性。

技术 › Agent WquGuru 2026-05-1815.5 KB 83.1K 504 85