「自动给药」共找到 1235 篇相关文章
模型越聪明越“不听话”？MathIF基准揭示AI服从性漏洞
上海人工智能实验室与香港中文大学研究团队发布论文，用MathIF基准揭示大模型“聪明”和“听话”有矛盾，越擅长推理越易忽略指令，还分析了原因并给出让模型更“听话”的方法。
CVPR 25 |全面提升视觉感知鲁棒性，生成模型快速赋能三维检测
香港中文大学（深圳）等单位学者提出 DriveGEN 无训练自动驾驶图像可控生成方法，无需额外训练生成模型，通过两阶段策略扩展训练数据，提升三维检测模型鲁棒性，代码已开源。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
Agent的上限，可能不在模型，而在团队知识
文章记录安全中心团队搭建AI知识体系的实践，指出Agent输出质量取决于知识质量，分析传统知识库问题，介绍AI时代知识库转变、目标设定、搭建步骤、知识飞轮及避坑指南，还展示建设后的变化。
独立自主梦太多，是国产化的最大阻碍
我国虽建立完整工业体系，但 IT 领域差距大。国产基础组件百花齐放，给上层应用适配带来灾难。美国在基础能力上近乎垄断，大投入保持领先。国内小投入难出好产品，应整合市场。
Claude Code没有“魔法”
资深工程师 Daisy Hollman 在演讲介绍了 Claude Code 插件设计与上下文工程原语，以及 Anthropic 内部多 Agent 工作流。指出定制模型可放大能力，上下文窗口是关键，还探讨多种插件抽象与工作流扩展方式。
别再被昂贵 SEO 订阅费拿捏了：3.5k Star OpenSEO，直接做 Semrush/Ahrefs 开源替代
OpenSEO在GitHub约3.2k Star，想做开源版SEO工具箱，替代Semrush和Ahrefs。它把多项SEO工作流收进工具，通过MCP暴露给Agent，适合三类人，并非万能，是更开放的工具底座。
分享一个 Skill：如何找到值得做的创业 idea
作者分享找创业想法的方法，认为AI时代想法重要性回归。介绍通过AI获取各平台信号，还推荐Tabbit浏览器，其能创建复用妙招扫描机会，给出结构化清单，还可定时执行，有共享社区。
田渊栋AI创业估值315亿，老黄苏妈都投了，姚班施天麟也是合伙人
离职Meta的田渊栋成AI创业合伙人。Recursive Superintelligence获6.5亿美元融资，估值46.5亿美元。谷歌GV等领投，英伟达等参与。8位联创阵容豪华，要做AI自我改进，押注递归式自我改进。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。