「free-llm-api-resources」共找到 1391 篇相关文章
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
6.2k 谷歌开源LangExtract，主打精确溯源的长文档抽取
谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。
一个让CLI变好玩的项目，很有意思！
介绍开源项目 `weathr`，它用 Rust 编写，将天气信息搬进终端并做成动画。数据源于 Open - Meteo，无需 API Key，跨平台支持，功能丰富，安装和使用方法多样，还给出国内使用小贴士。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。
使用 Node.js + OpenAI + MongoDB 实现文本向量知识库搜索
本文介绍用 Node.js、OpenAI Embedding API 和 MongoDB 实现文本向量知识库搜索系统，涵盖环境准备、文本切分与向量存储、本地语义检索等，还提及用 MongoDB Atlas 提升性能及后续延伸方向。
睡觉也在卷！伯克利Letta新作「睡眠时计算」让推理效率飙升
Letta和UC伯克利研究者提出「睡眠时计算」技术，能让LLM在空闲时间提前思考以提升推理效率，降低推理成本，在多数据集实验中展现优势，在软件工程任务中也有应用。
Sora2甚至可以预测ChatGPT的输出
Sora2表现太卷，能预测ChatGPT输出，模拟交互还能渲染HTML，懂代码也懂物理，能体现玻璃折射现象，还能精准还原游戏支线任务关键要素，或基于LLM训练。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
MCP 丸辣？不不不，Agent 进生产都绕不开 MCP
文章指出 Agent 连接外部系统通常有直接 API 调用、CLI 及 MCP 三种方式，构建生产级 Agent 目前 MCP 更靠谱。分析各方式优劣，还介绍了 MCP 封装方法。
含全文！OpenAI发布GPT-5官方Prompt指南
OpenAI 发布《GPT-5 prompting guide》，介绍新模型变化及使用方法。新增 `reasoning_effort` 和 `verbosity` 参数，还有 Responses API。Cursor 分享实战心得，同时提及控制 Agent 积极性、解决指令冲突等内容。