全部文档 / 标签: Groq

2 篇

2026 年最全免费 AI 资源盘点

作者花费 20 天实测了各类免费或近免费的 AI 模型获取渠道，包括免费 API、促销额度、创始人和学生计划、开源维护者资助等。文章指出多数“免费 AI”汇总信息过时且不准确，并从三个维度评估：永久配额与限时额度的区别、实验用途与生产用途的区别、以及隐藏的数据隐私代价。详细分析了 Google AI Studio、Groq、Cerebras、Mistral、Cloudflare Workers AI、OpenRouter、Cohere、OpenAI 等平台的免费额度与限制，还涵盖初创企业资助、学生福利、开源维护者计划以及地理限制，最后强调本地部署模型是唯一不可撤销的保底方案。

技术 › LLM

Innopro 2026-09-2610.8 KB 381.6K 156 85

如何提高 RAG 32x 的内存效率（附代码说明）

本文介绍了利用二进制量化技术将 RAG（检索增强生成）系统内存效率提高 32 倍的方法。作者以 Perplexity 和 Azure 为例，详细展示了如何使用 Llama Index、Milvus 向量数据库和 Groq 托管的 Kimi-K2 模型构建系统。该系统可在 30 毫秒内查询 3600 万个向量，并在 1 秒内生成响应。文章提供了从数据加载、生成二值嵌入、向量索引到检索生成的完整代码实现。

技术 › LLM

Avi Chawla 2026-04-055.4 KB 854.4K 907 78

RAG 二进制量化向量检索内存优化 Milvus LlamaIndex Groq 工程实践代码教程