35B 越狱版大模型：Codex 替你装，6GB 老卡也能跑
本文介绍了一种利用 Codex 桌面应用在 Windows 上本地部署 35B 无审查大模型的方法。通过 llama.cpp 和 MoE 架构的量化模型，即使用户只有 6GB 显存的显卡（如 GTX 1660）也能以 30 t/s 的速度流畅运行。文章详细讲解了无需命令行知识、利用 Codex 自动完成环境配置、模型下载及脚本编写的全流程，实现了零门槛的本地高隐私 AI 体验。
本文介绍了一种利用 Codex 桌面应用在 Windows 上本地部署 35B 无审查大模型的方法。通过 llama.cpp 和 MoE 架构的量化模型，即使用户只有 6GB 显存的显卡（如 GTX 1660）也能以 30 t/s 的速度流畅运行。文章详细讲解了无需命令行知识、利用 Codex 自动完成环境配置、模型下载及脚本编写的全流程，实现了零门槛的本地高隐私 AI 体验。