「漏洞发现」共找到 1146 篇相关文章
A社你解释下，啥叫Sonnet 5比Fable 5还贵？
Anthropic推出新版性价比模型Sonnet 5，定位为“最能干活”，能力提升但价格暗藏玄机。开发者实测发现，新分词器使Token消耗增加，实际花费可能比Opus还高，且有性能相近但价格更低的替代模型。
穷人福音！MIT研究：不用堆显卡，抄顶级模型作业就成
MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。
数学题干带猫AI就不会了！错误率翻300%，DeepSeek、o1都不能幸免
研究发现，在数学题后加如“猫一生绝大多数时间都在睡觉”这类话术，会让大模型答错概率翻3倍，DeepSeek - R1、OpenAI o1等推理模型中招。研究探索攻击方式，总结出三种攻击模式。
LeCun团队揭示LLM语义压缩本质：极致统计压缩牺牲细节
图灵奖得主LeCun团队提出全新信息论框架，对比人类与LLM语义压缩策略。通过构建人类概念分类基准、选30+LLMs，发现LLM虽有语义组织能力，但难处理细粒度差异，侧重统计压缩，人类更重细节语境。
OpenAI偷装Anthropic Skills实锤，ChatGPT、Codex已植入！开发者实测11分钟造PDF：比MCP强！
近日开发者发现 OpenAI 悄悄支持了 Claude 构建的 Agent Skills 机制，内置 excel、word 和 pdf 等技能。其实现理念与 Anthropic 相似，且 Skills 支持功能已落地 ChatGPT 和 Codex。业内对 Skills 看法不一，但它为智能体发展带来新方向。
无需奖励函数！我们意外构建了自我进化的AI系统
牛津大学发现LLM可通过“部署 - 验证 - 再训练”循环自我进化，绕开人工奖励函数设计瓶颈。在三个经典规划领域实验效果惊人，还在理论上证明其与强化学习的数学等价关系，有优势也有隐患。
AI不会自动带来好结果
马斯克称未来劳动力成本趋近零，人人高收入、工作成爱好。但AI是存量优化，不创造新岗位。其观点有致命漏洞，如生产红利分配不公、高收入资金来源不明、忽略工作社会意义等。
谷歌AlphaEvolve太香了，陶哲轩甚至发了篇论文，启发数学新构造
著名数学家陶哲轩与 Google DeepMind 研究人员发表论文，展示谷歌 AlphaEvolve 作为工具可自主发现新数学构造，该系统结合 LLM 与进化计算，在多领域问题上表现出色，还能与其他 AI 工具结合。
不，AI 并没有让工程师的生产力提高 10 倍
作者 Colton Voege 分享自身经历，指出 AI 未让工程师生产力提升 10 倍。试用多种 AI 编程工具后，发现其有局限。从算笔账、分析 10 倍工程师等方面论证观点，还剖析鼓吹 AI 者的情况。
EvaLearn：AI下半场的全新评测范式！
OpenAI研究员指出传统基准测试难衡量AI实际效用。复旦大学与字节跳动等团队提出全新评测范式EvaLearn，以连续问题求解为核心，构建问题并设评分标准，对九个前沿大模型研究有诸多发现。