「大模型推理训练」共找到 8435 篇相关文章
神秘模型「大象」：仅100B拿下SOTA，Token效率超高！
神秘模型「大象」面纱揭开，它出自蚂蚁Inclusion AI团队，仅100B大小，是同规模SOTA且省Token。经多方面实测及权威榜单评测，它快、准、省，能胜任多数日常工作，但也有不擅长的领域。
AI时代已来，魔幻的大模型投毒事件，我们怎么应对？
央视315晚会曝光针对大模型的蓄意信息围猎，虚构手环经力擎系统包装成科技尖货。黑产靠此吸金，利用技术污染证据链。多方已行动，厂商需提升安全能力，消费者要保持警惕。
CodeClash 通过多轮编程竞赛对大型语言模型进行基准测试
为评估大型语言模型（LLM）编码能力，斯坦福、普林斯顿和康奈尔研究人员开发 CodeClash 基准测试，让多个 LLM 在多轮比赛中较量，涉及多种代码竞技场，还评估模型分析代码库能力，未来将处理更大代码库。
谷歌开源基于物理模拟的气象模型，能预测暴雨、台风、大干旱
传统通用循环模型处理小尺度有局限，谷歌开源基于物理模拟的神经通用环流气象模型NeuralGCM，在预测突发恶劣天气出色，还介绍其动态核心、物理模拟模块等，经测试有一定优势。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学、中国人民大学等联合研发的 AgentCPM-Explore 开源，基于 4B 参数在深度探索任务上表现出色，打破参数壁垒，开源全流程基建，还探索出提升小模型性能的方法。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
最小模型仅 25MB，老设备无 GPU 也能流畅跑！
开源项目`KittenTTS`是文本转语音模型系列，核心特点是“小身材，大能量”。最小模型约1500万参数，体积25MB以内，无需GPU，靠CPU就能实现高质量语音合成，适合多种设备和场景。
Anthropic祭出大模型“读脑”杀手锏：LLM决策过程全给你扒开看
Anthropic宣布开源电路追踪工具，可追踪LLM神经元，通过生成“归因图谱”揭示模型输出原因。开源了生成图谱的库和交互式前端，并提供demo notebook。可追踪电路、可视化图谱、检验假设。
17 万模型背后：魔搭联合 AMD 送 1000 小时 GPU 的算盘
魔搭社区联合 AMD 推出「AMD 开发者激励计划」，提供最高 1000 小时 GPU 算力额度。魔搭社区对标 Hugging Face，托管超 17 万个开源模型。此次激励是三方匹配的生意，还释放了硬件去美元化和模型托管社区升级的信号。
十载磨「芯」：云天励飞冲击港股AI推理芯片第一股
7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。