「自优化」共找到 2176 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。
谷歌开源非结构化数据抽取工具
谷歌开源 Python 库 LangExtract，用 LLM 从非结构化文本文档提取结构化信息。它定位精确、输出可靠，针对长文档优化，有交互式可视化，支持多模型，适应多领域，还给出快速开始示例。
香港中科院发布聆音大模型，400万张图喂出个“AI超声神医”
中国科学院香港创新研究院发布超声大模型“聆音”，用超400万张图像的超声数据集，经自监督学习训练。它在多项诊断任务破纪录，临床效果佳，还将模型等开源，有望推动领域发展。
OmniInsert：全新无掩码视频插入技术
基于扩散模型的视频插入技术发展快，但以往方法有局限。字节提出InsertPipe和OmniInsert，解决数据不足等难题。OmniInsert设计巧妙，还建立评测平台InsertBench，虽有小问题，但推理快，可加速优化。
GPT-5-Codex 一手实测
OpenAI推出新编程模型GPT - 5 Codex，Every团队实测显示其表现狂野。它能动态选思考时间，可在不同开发环境无缝切换，代码审查更优。但也存在对任务挑剔、环境设置麻烦等问题。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
招聘最猛的竟不是OpenAI！这家陷入间谍案的HR初创，正在狂招工程师
自2022年11月ChatGPT推出，美国技术岗变化大。虽裁员潮缓解但新增岗位有限，竞争激烈。资深职位主导招聘，AI工程师需求旺，旧金山湾区优势明显，大厂任职年限拉长，远程岗位比例下降。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。
Agent狂欢下的冷思考：为什么说Data&AI数据基础设施，才是AI时代Infra新范式
文章指出Agent成AI主流叙事，但企业部署后效果不佳，因未认识到Agent平台无法单独构成AI Infra。强调数据是AI Infra核心，提出Data&AI数据基础设施是新范式，还分析赛道玩家并介绍科杰科技的实践。