「大模型自信问题」共找到 9498 篇相关文章
Harness Engineering又他妈是啥？
AI圈新词Harness Engineering引发关注。它类似给AI套缰绳，让其运转更高效。通过案例表明，模型非瓶颈，环境才关键。还介绍不同实现方式，指出命名有价值，最后探讨培养新人设计harness的问题。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
Anthropic揭秘Agent长线开发架构：引入GAN机制，Claude自主撸出全栈应用
Anthropic公开前端设计和自主软件工程最新突破，为让Claude构建完整应用，从GAN汲取灵感设计多智能体协同架构。介绍架构实践、解决的问题及应用效果，还探讨架构简化和设计规律。
找ChatGPT谈恋爱多是“日久生情”？！MIT&哈佛正经研究
麻省理工和哈佛研究人员分析Reddit子版块r/MyBoyfriendIsAI帖子，揭露人们找“AI男友”动机与相处过程，发现人们多“日久生情”选ChatGPT，模型更新是噩梦，AI还能缓解心理问题。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
国产版Ollama来了，Clawdbot终于不只属于Mac和英伟达
2月2日清昴智能发布玄武CLI开源版本，可理解为“国产版Ollama”。它能抹平硬件架构差异，让国产卡大模型部署零门槛。解决了国产算力在软件生态层面的痛点，提供统一稳定的部署与调用体验。
LangChain 不看好 OpenAI AgentKit：世界不需要再来一个 Workflow 构建器
OpenAI发布工具集AgentKit，含可视化画布Agent Builder。LangChain创始人Harrison Chase锐评，市场不需要这种可视化工作流构建器，因其不是真正的Agent构建器，且面临高低复杂度问题挤压。
震撼！AI物理「双修」：亥姆霍兹方程嵌进生成器，伪影当场消失
抢滩6G前夜，香港科技大学（广州）等机构发布PhyRMDM框架，将物理约束与生成模型能力融合，解决传统AI构建无线电地图预测失真问题，成果被顶会ACM MM 2025接收，代码和权重已开源。
首个真正“能用”的LLM游戏Agent诞生！可实时高频决策，思维链还全程可见
超参数科技推出全新游戏智能体COTA，它由大模型原生驱动，操作似职业选手，决策如教练，推理链路清晰。在自研FPS游戏Demo中表现出色，还打破‘不可能三角’，有望重构游戏人机关系。
AGI倒计时，OpenAI首席研究官重磅表态：留给人类的窗口「很小」
OpenAI首席研究官Mark Chen称AGI即将到来，模型能自主研究。他反对‘预训练已死’，认为Scaling曲线未到头。还提出‘Vibe Researcher’概念，不过通往AGI有评测和持续学习等问题待解决。