「低延迟推理」共找到 2954 篇相关文章
野生DeepSeek火了，速度碾压官方版，权重开源
近日，德国AI咨询公司TNG推出的「DeepSeek R1T2」模型火了，速度比R1快20%，性能不弱于R1。它采用AoE技术，融合官方三大模型，开源且在Hugging Face开放权重，获不少人期待。
比10年专业医生准4倍！微软发布突破性医疗AI系统
微软首席执行官分享新发布的医疗AI系统MAI - DxO，它模型无关，能适配不同语言模型，模拟医生诊断流程。测试显示其准确率远超专业医生，成本大幅下降。此外还发布序贯诊断基准SDBench。
Agent性能暴涨90%，刷榜GAIA可太容易了～
今年AI Agent层出不穷，当前研究缺乏统一标准、复现难。oppo Agent团队分享构建高效Agent的关键组件及刷榜GAIA的方法，从事实获取能力和逻辑推理保真度两维度分析，介绍了强化感知和提升思维的策略。
开源TTS离线工具！浏览器本地运行，仅300MB模型大小，零服务器依赖，隐私0泄露！
传统TTS工具依赖云端，隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具，能在浏览器本地运行，零服务器依赖，隐私零泄露，具备多项实用功能。
Databricks × Snowflake 纷纷下注，PostgreSQL 成 AI 时代数据库标准？
文章结合作者对数据基础设施的实践与反思，探讨生成式AI时代数据系统的挑战与机遇。介绍数据基础设施新趋势，分析Neon、Supabase等公司受关注原因，指出PostgreSQL成行业标准，还提出Data Warebase概念及优势和应用场景。
微软再放LLM量化大招！原生4bit量化，成本暴减，性能几乎0损失
微软公布BitNet v2，性能几乎0损失，占用内存和计算成本显著降低。它首次实现对1比特LLMs的原生4比特激活值量化，通过H - BitLinear模块处理异常通道，实验显示其在多方面表现优异。
Memvid：把你的文档库变成一个小巧的视频，还能瞬间搜出你想要的！
传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件，能高效检索，解决存储冗余、检索延迟和网络依赖问题，使用简单，虽处概念原型阶段但值得尝试。
Claude 4破解困扰人类4年系统bug，30年码龄程序员200小时没搞定，GPT-4.1/Gemini-2.5也做不到
30年码龄程序员4年没搞定的顽固型‘白鲸bug’，Claude Opus 4配合Code模式，用30个prompt+1次重启，几小时就破解。此前GPT - 4.1等模型都失败，凸显Claude编程与推理能力强。
大厂程序员：AI正在将我们变成高速流水线工人，受不了了
亚马逊鼓励程序员用AI，结果成变相强迫，人员减半、项目提前，程序员只能让AI写代码，但AI编程正确率低，让工作更繁杂，职业晋升也成问题。亚马逊官方称AI能提效，双方看法不一。
OnlyFans和AI女友，谁会是最后的赢家？
OnlyFans以80亿美元估值寻求出售，此时AI女友市场正疯狂扩张。OnlyFans有真实性、商业生态等底牌，AI女友有成本和个性化优势。二者各有软肋，未来或市场分化，技术进步或使天平向AI倾斜。