「安全训练」共找到 2991 篇相关文章
如何科学地“设计”SFT 数据？一次关于 ODA 的完整平台级验证
大模型后训练阶段，SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告，基于OpenDataArena提出新范式，将数据集构建从‘随机艺术’变为‘确定性工程’，并进行平台级验证。
谷歌新模型登顶Nature，人类基因密码被解码
谷歌推出全新AI工具AlphaGenome，能精准预测人类DNA序列变异对调控基因生物过程的影响。它满足多项条件，在26个变异效应benchmark中25个达SOTA，还通过多个案例和实验验证了其性能。
SmartSearch：奖励驱动query精炼，让Agent中的RAG会“改错”
现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。
硅谷AI战火烧进医院！终于可以告别「天书」化验单了
OpenAI和Anthropic的战火燃至医疗领域，OpenAI发布ChatGPT健康，Anthropic推出医疗健康版Claude，还打通数据壁垒，提供个性化健康解答。其还在提升模型能力，保障隐私安全，且各有应用场景。
“心内推理”：一种动态多模态潜在空间推理范式 | 直播预约
当前多模态大模型推理效率低、稳定性不足。本次分享将介绍DMLR，它无需额外训练，仅在推理阶段生效，通过在潜空间优化潜在思考token、引入关键视觉信息，实现高效稳定的多模态推理。
王小川：30亿现金在手，明年IPO，toC产品马上就发
百川智能CEO王小川明确发展主线，百川开源新一代医疗大模型Baichuan-M3，在医疗评测中表现优异。公司约30亿资金，预计2027年IPO，今年将发两款to C医疗产品，重点在院外诊疗。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
告别“音画割裂”与“人物崩坏”！AutoMV：首个听懂歌词、卡准节拍的开源全曲级MV生成Agent
现有AI视频生成模型做全曲MV有时长限制、音画割裂和一致性差等问题。AutoMV作为开源多智能体系统，模拟人类影视制作流程，能生成长达数分钟、叙事连贯且音画同步的完整MV。
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
Ilya重新定义AGI: 为什么ChatGPT离真正的AGI还很远
OpenAI前首席科学家Ilya在访谈中提出对AGI的新定义，还指出AI规模时代结束，未来拼想法和研究深度。他分析模型评测强但经济影响弱的原因，阐述人类价值函数作用，且SSI战略或调整。