「AutoResearch-LLM」共找到 982 篇相关文章
MCP协议曝出大漏洞：会泄露整个数据库
最新研究显示，MCP协议存在重大漏洞，攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库。研究者基于Supabase搭建系统演示攻击过程，还给出降低风险的解决措施。
所有Harness终将长成“龙虾”，但最后活下来的只有几只
在用户需求驱动下，工具从 LLM 向 Agent、Harness 再到 Claw 自然进化，但用户能容纳的 Claw 有限。Sam Bhagwat 拆解进化路径，指出各阶段核心竞争力，开发者应抢占用户心智空间。
达尔文.skill正式发布，一个无限进化的skill系统！
作者受Karpathy的autoresearch启发，开发了达尔文.skill系统，可自动评估和优化skill。它有五条原则、八维度评分体系，能批量解决skill质量问题，与Anthropic官方工具互补，现已开源。
第二代AI预训练范式：预测下个物理状态
英伟达科学家 Jim Fan 发布《第二代预训练范式》，指出当前以 LLM 为代表的第一代范式应用于物理世界时「水土不服」，认为第二代范式是「预测下一个物理状态」，引发机器学习社区讨论。
Transformer亲爹痛斥：当前AI陷死胡同，微调纯属浪费时间！
Sakana AI创始人Llion Jones是Transformer发明者之一，他警告当前Transformer虽成功，但业界或重蹈RNN覆辙，无数微调是浪费时间。他认为现在LLM非通用智能，已转向探索生物学启发的新架构。
清华挖出「幻觉」的罪魁祸首：预训练产生的0.1%神经元
清华大学孙茂松团队从神经元角度研究LLM幻觉微观机制，发现不到0.1%的H - 神经元可预测幻觉，与过度顺从行为相关，根源在预训练阶段，为解决幻觉问题、开发可靠大模型提供新思路。
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
强化学习之父：大语言模型走错了路，不符合「苦涩教训」精神
2024 年图灵奖得主、强化学习创始人之一 Richard Sutton 在播客中批评 LLM 发展方向，认为其无真正智能，违背「苦涩教训」原则，缺乏持续学习能力，仅模仿人类，未理解世界。此观点引发 AI 社区激烈讨论。
AI两天推翻20年工作习惯！Karpathy百行代码开源项目“封神”，AI替你通宵肝研究、战绩可查
特斯拉前AI总监Andrej Karpathy开源autoresearch项目，让AI Agent自主搞深度学习研究。两天内Agent完成276次实验，提升模型训练效率约11%。项目代码极简，未来目标是实现Agent大规模协作，已被开发者社区共建。
微软OEL框架：大模型一次部署，终身进化
微软最新论文Online Experiential Learning (OEL)提出让LLM在真实部署后持续自我进化的框架，无需人工标注等。介绍了在线体验学习的必要性、OEL方法论及实验验证，揭示关键洞察与启示。