「AI推理功能」共找到 11708 篇相关文章
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
目标出货一亿台，Altman和Ive的新公司「io」到底要做什么硬件？
本周三，OpenAI收购AI硬件创企「io」，引发对合作细节和硬件产品的猜测。Sam Altman和Jony Ive计划打造非手机、眼镜的设备，成第三核心小工具，计划出货1亿台，目标明年年底推出。
ACL 2025 | 清华&港中文提出 MorphMark：全新理论视角破解大模型水印效力与文本质量的两难困境
随着大模型广泛应用，AI 生成内容追溯和版权保护成问题，现有水印技术面临效力与文本质量的矛盾。清华和港中文团队提出 MorphMark 自适应水印框架，动态调强度，在多模型实验中表现优。
深度解析大模型技术演进脉络：RAG、Agent与多模态的实战经验与未来图景
大模型作为产业变革核心引擎，RAG、Agent与多模态技术重塑AI与现实交互边界。本文解析技术演进脉络、实战经验与未来图景，介绍三者在各领域应用及面临挑战，为产业升级提供指引。
Visual Studio 重磅更新！擅长处理复杂任务的 GitHub Copilot “智能体模式”预览版上线
微软 Visual Studio 官方宣布，GitHub Copilot 智能体模式登陆 17.14 预览版。此模式可自主处理开发全流程，有确定上下文、建议命令等功能。还引入 MCP 服务器，支持连接外部工具，且更新将更频繁。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
黑洞信息悖论推进至“定量完备性模量”：清华团队开源VeriLoop E2迈向可验证智能
针对大模型长链推理、科研任务中无法自我验证结果可靠性的结构性缺口，清华团队推出开源项目VeriLoop E2，拆分模型探索权与外部证据提交权，在多场景完成验证，推进可验证智能发展。
OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互
本文是InfoQ翻译的OpenAI技术分享，详细公开GPT-Live实现连续有状态低延迟语音交互的架构设计，分享了架构拆分、协议优化、上线测试等实践经验与设计权衡。
4秒卖出一只的爆款鸭，中国制造，宇树都来推销电机，复刻比买贵？
Hugging Face推出售价399美元的机器鸭Microduck，预售火爆，24小时销售额超260万美元。它开源且可玩性高，社区二创丰富。其配置“五脏俱全”，由中韩中多方合作，软件栈也全套开源，民间复刻成本超原版。
刚刚，神话级Fable 5.1来了！
今天，Claude Fable 5.1全平台上线，Mythos 5.1专供特定团队。新模型跑分有断层式代差，还降低了算力门槛。通过重绘金星、设计蛋白等案例展示其科研能力，在编程上也表现出色，同时在安全上采取‘一松一紧’策略。