「安全研究」共找到 2693 篇相关文章
重磅！Thinking Machines开山之作：大模型输出随机的根本原因被揪出，并开源终结方案
由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客，开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化，并给出系统性解法，还开源方案。
从「会说」迈向「会做」，LLM下半场：Agentic强化学习范式综述
过去LLM训练多依赖PBRFT范式，但局限明显。2025年初起，Agentic RL新范式受关注。此综述论文梳理该方向，覆盖500+研究，构建理论框架，讨论未来挑战，助LLM从「会说」迈向「会做」。
Anthropic承认模型降智后仍放任其偷懒？Claude Code用户信任崩塌中
此前大模型厂商未正面承认‘降智’，OpenAI 研究科学家称是心理错觉。但 Anthropic 公开承认旗下 Claude Opus 4.1 和 Opus 4 质量降级，然而问题未解决，Claude Code 用户信任崩塌，纷纷转向 GPT - 5。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。
美国专家来中国转了一圈：AI比赛已经结束了
美国专家Rui Ma参观中国AI相关活动后称，中国AI企业实力强，能源问题已解决，大规模投资可持续能源，有安全低成本电力供应体系，而美国电网老化、审批慢、储备少，AI竞赛或已结束。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
MLLM集体翻车，缺乏婴儿级常识！业界首个核心认知基准发布，LeCun转赞
当前大模型在12项核心认知上普遍落后人类10 - 30%，越大的模型越易靠「背答案」糊弄。团队公开首个系统评测框架和题库，用Concept Hacking方法识破模型真假理解，指出模型存在核心知识缺失等问题。
马斯克：研究者不存在了，只有工程师；LeCun：大错特错
马斯克宣称xAI不再区分‘研究员’和‘工程师’，只有工程师，这一言论引发争议。支持者如工程师David Brown等认可其观点，反对者则从多方面反驳，图灵奖得主Yann LeCun还详细阐述研究与工程差异。
仅用提示词工程摘下IMO金牌！清华校友强强联手新发现，学术界不靠砸钱也能比肩大厂
清华校友杨林和黄溢辰，仅用提示词设计和自我迭代验证流程，让基础模型Gemini 2.5 Pro达到IMO金牌水平。他们设计的流程分六个步骤，用差异化提示词，最终为5道题生成严谨解答。
重塑浏览器！微软在Edge加入AI Agent，自动化搜索、预测、整合
今天凌晨微软官网宣布在浏览器Edge中加入Copilot模式，它像多层级混合智能体，能自动执行搜索、整合等操作，有标签筛选等创新功能，可提升效率，还保障隐私安全，已免费开放。