「工具管控模式」共找到 2851 篇相关文章
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
The Batch: 869 | 编码助手的训练数据
研究人员开发自动生成编码助手训练数据的流程。斯坦福等高校及阿里团队提出 SWE - smith 方法，从 128 个 Python 仓库入手合成漏洞、验证并生成修复样本，成果免费开放，有望改进 AI 辅助编程模型。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
美国程序员失业率创纪录：17万本科生难就业，AI抢饭碗！
《纽约时报》《路透社》发文指出，美国计算机专业毕业生失业率创新高。高盛经济学家称，ChatGPT等AI工具降低企业对IT人员需求，OpenAI新模型更甚。专家认为毕业生应将AI当帮手提升技能。
“神经-符号”融合规划器性能显著超越o1：借鉴人类运动学习机制｜中国科学院磐石研发团队
中国科学院磐石研发团队提出新型“神经 - 符号”融合规划器，融合神经与符号规划系统优势，借鉴人类运动学习机制构建双向规划机制，在规划覆盖率和效率上显著超越OpenAI o1，已加入“磐石·科学基础大模型”。
硅谷AI初创重新拥抱996
AI创业高潮下，硅谷初创公司竞相采用996模式，甚至沿用其名追赶中国。虽有公司提供福利，但遭部分人声讨，有人认为制造风险、透支生活，也有人觉得报酬可观。
加拿大丛林迷路五小时，ChatGPT救命神技，比地图还靠谱！
一群人在加拿大森林迷路5小时，手机电量低、Google Maps失灵，靠向ChatGPT发实时坐标获导航指引脱险。此外，上海交大团队推出PathGPT，用大模型让导航可自然对话，虽有不足但潜力大。
10 人 1600 万美金 ARR，华人团队 OpenArt 用了这 11 个 AI 技术栈
华人团队 OpenArt 10 人团队做到 1600 万美金 ARR，CEO Coco Mao 分享经验。包括找准定位，聚焦三类核心用户；用程序化 SEO 实现增长；战略转型做视觉故事讲述；解决角色一致性问题，还介绍多方面技术栈。
OpenAI 4 名王牌研究员“叛变”，Meta 上亿美元的签约奖金终于花出去了
近日，Meta 招募 4 名前 OpenAI 研究员加入超级智能实验室。招聘背景是其 Llama 4 Behemoth 模型有性能问题。Meta 还以高额奖金挖角，且不局限于 OpenAI，还投入巨资支持 AI 项目。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。