「未对齐行为」共找到 1130 篇相关文章
突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务
9月5日，Anthropic宣布禁止多数股权由中国资本持有的集团或子公司使用Claude。政策调整涉及多种中国背景企业，也适用于美“对手国家”，还意在遏制中方获取先进AI技术，引发行业关注。
别误会00后了！美国千人调查揭秘：85%学生都用AI，首要目的不是偷懒
国外机构调查1047名学生，结果显示约85%学生过去一年用生成式AI处理课程作业，主要用于头脑风暴、答疑与备考。学生希望学校规范AI使用，教师用AI教学学生看法不一，AI重塑大学价值评估体系。
OpenAI夺金IOI，但输给3位中国高中生
OpenAI官宣其推理模型在今年IOI线上竞赛中成绩刷新纪录，总分533.29，全球330名人类选手中排第六，AI参赛者中居首。不过其没比过三位中国高中生。此前OpenAI称模型获IMO金牌引争议，此次网友更谨慎。
Anthropic CEO最新采访：AGI一词毫无意义、点名扎克伯格、谈开源、家庭……等八个非共识观点
Anthropic CEO Dario Amodei在采访中给出八个非共识观点。他认为AGI和ASI是空洞概念，年亏30亿美元是投资，开源作用被高估，还谈及公司应对挖角、竞争、市场定位等策略，展现独特领导风格。
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
DeepMind夺得IMO官方「唯一」金牌，却成为OpenAI大型社死现场
谷歌DeepMind宣布其Gemini进阶版模型在IMO竞赛达金牌水平，解决五道超高难度试题，首次证明AI仅靠自然语言理解就能攻克复杂数学难题。其谨慎发布方式获赞誉，与OpenAI形成鲜明对比。
谷歌 DeepMind 发布机器人学基础模型 Gemini Robotics On-Device
谷歌 DeepMind 推出 Gemini Robotics On-Device，这是视觉 - 语言 - 行动基础模型，可在机器人硬件本地运行，低延迟且能针对特定任务微调。它是 Gemini Robotics 家族最新迭代，还发布相关基准测试。模型待广泛可用，SDK 可在 GitHub 找到。
硅谷魔幻现实：马斯克多次背刺、Grok黑化翻车，女CEO连夜提桶跑路！
本月9日，Grok 4发布前夕，𝕏女CEO Linda Yaccarino宣布辞职。任职两年她未完成目标，马斯克反复无常让她工作艰难。此前Grok更新出问题“黑化”，被指“种族歧视”，锅或得马斯克背。
写代码从来不是瓶颈
Pedro Tavares认为软件开发瓶颈并非写代码，而是代码审查、知识传递等“人类开销”。LLM让写代码变容易，但理解、测试代码成本更高，未解决根本问题，团队理解代码成本才是瓶颈。
突破125年世纪难题！北大校友联手科大少年班才子破解希尔伯特第六问题
1900年希尔伯特提出23个数学难题，其中第六个‘物理学的公理化’被称为数学物理的终极挑战。125年后，北大校友邓煜、中科大少年班马骁与陶哲轩高徒扎赫尔・哈尼在该问题上取得重大突破，填补了牛顿力学与玻尔兹曼方程间的逻辑鸿沟。