「输出速度」共找到 900 篇相关文章
Anthropic再次挑衅AI输出范式， 谁才是标准?
Anthropic Claude Code团队工程师称HTML应成大模型输出新标准。文章探讨使用场景，如考虑为多看一眼付多少token、内容用途、交流对象等，建议按需选格式，HTML是可视化加班费。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
AI生成苹果Metal内核，PyTorch推理速度提升87%
Gimlet Labs研究显示，AI能自动生成苹果芯片Metal内核，使PyTorch推理速度提升87%，在215个PyTorch模块上平均加速1.87倍。多个模型组合生成最优内核概率更高，不过研究对比方式遭质疑。
LeCun世界模型：48倍规划速度，单卡就能跑
Yann LeCun团队推出LeWorldModel世界模型，仅靠两条数学规则，让机器几小时学会物理运转逻辑，动作规划速度超同类48倍。它跳出复杂训练修补怪圈，单卡训练，在多环境测试表现出色，还展现对物理法则的深刻理解。
Insanely Fast Whisper：开源社区让音频转录速度提升19倍
Insanely Fast Whisper工具将OpenAI Whisper转录速度提升19倍，采用Flash Attention 2技术，零质量损失。它集成多语言支持、说话人分离等实用功能，还支持跨平台，免费运行。最初是基准测试demo，值得音频处理用户关注。
英伟达&MIT等推出Long-RL，长视频训练速度翻倍
英伟达联合MIT等推出Long - RL，它是面向长序列推理和多模态强化学习的全栈训练框架，能提升RL训练数据长度上限，让训练速度翻倍。其核心MR - SP并行框架可降低训练耗时和显存，LongVILA - R1是其明星应用。
1000+页PDF解析速度暴涨3倍，MinerU模式不香了
百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
一封邮件拿下Shopify CEO：Firecrawl的1450万美元和v2十倍速度提升
Firecrawl发布v2版本，有10倍速度提升、语义爬取等核心升级，开发者体验也全面升级。同时完成1450万美元A轮融资，是靠直球式沟通拉到Shopify CEO投资。后续打算扩招团队，专注产品体验突围。
Mistral的首个强推理模型：拥抱开源，推理速度快10倍
本周二，欧洲人工智能公司 Mistral AI 发布全新大语言模型 Magistral 系列，有企业版 Magistral Medium 和 24B 参数开源版 Magistral Small。它推理强、多语言表现好，速度比竞品快 10 倍，应用于主流云平台，成本有竞争力。