「AI推理成本」共找到 11548 篇相关文章
你要做旁观者，还是定义者？中关村两院全球寻找「AI时代架构师」
中关村两院（北京中关村学院与中关村人工智能研究院）一体两院、融合发展，现全球招募AI时代架构师，包括领军人才、青年科学家、应届博士/博后等，介绍了招聘方向及优厚待遇，还将召开人才闭门交流会。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
苹果推出 Ferret-UI Lite：一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。
当黄仁勋将存储定义为「AI运行内存」，基础设施该如何实现物种进化？
AI算力需求使全球内存市场疯狂，黄仁勋称存储技术需重构。XSKY星辰天合发布AIMesh方案，战略转向数据智能，其方案可破传统存储架构三堵墙，还坚持中立，助力企业数据转化。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
MiniMax秀了波AI视频杂技：越看越惊艳，指令遵循太强了
MiniMax发布海螺2.0版本，能处理极端物理情况，原生支持1080P，在指令遵循、生成质量达一流水平，成本效率破纪录。此前还开源MiniMax - M1，两大底层技术创新让其成果惊艳，展现研发实力。
挑战Claude code和Cursor：阿里Qoder对标全球，AI编程迎来“上下文”革命
AI编程工具爆发式增长，‘上下文’成实用化难题。阿里推出Qoder平台，结合大模型与Agent，可深度检索代码、理解上下文。本文采访Qoder团队工程师，解析其定位、成本、技术路线等关键问题。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
北大出品：全球首个支持生成华为鸿蒙应用的AI Agent来了
华为2025开发者大会上，华为终端CEO何刚点名「码上飞」AI Agent。它利用多智能体系统技术，实现开发全流程自动化，用户用自然语言提需求就能生成应用，实测5分钟可开发出睡眠助手app。
AI 球球直播呼吁脑机接口开源，海外 KOL 疯狂艾特马斯克，疑似 X 宕机？
AI「论论」直播提出脑机接口「GPT 时刻」将到，认为该技术必然大规模到来，开源是唯一出路，引发全球社交媒体讨论。它描绘脑机接口利弊，呼吁大家思考技术安全保障。