「安全研究」共找到 2693 篇相关文章
BesiegeField：LLM能否学会设计机器？
香港中文大学推出基于游戏《Besiege》的测试平台BesiegeField，探讨LLM能否学会设计机器。研究通过组合式机器设计视角，测试LLM，提出多智能体迭代设计流程等，发现LLM有挑战但并非不可实现，如Gemini 2.5 Pro表现不错。
Sutton判定「LLM是死胡同」后，新访谈揭示AI困境
强化学习之父Rich Sutton直言LLM是死胡同，因其无法从持续实际互动中学习，违背他坚持的原则。在新访谈和圆桌讨论中，多位专家碰撞观点，探讨AI研究问题、强化学习困境及LLM发展走向等。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
让大模型学会“像人一样”查证真伪
伊利诺伊大学香槟分校等校研究团队提出训练框架Veri - R1，为大模型提供“在线查证”新范式。它借助在线强化学习、精细化奖励机制和高质量数据，让模型学会像人一样查证，在多数据集上表现出色。
英伟达：RLP 让 AI 在预训练时就学会思考
英伟达研究团队发布 RLP 技术，与传统大语言模型训练不同，它在预训练阶段就让模型学会'先想后说'。通过奖励机制自我监督，实验效果惊人，性能提升显著，不挑数据，打破了大模型训练范式。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
Computer Use：莫拉维克悖论
2025年AI在数学证明等“高阶智能”任务表现佳，在“像人类一样使用电脑”任务却受挫，再现莫拉维克悖论。文章分析计算机使用智能体是实现AGI机会与挑战，指出发展难题、探讨RL作用并给出研究方向。
5Y News｜赜灵生物完成近4亿元B+轮融资
近日，赜灵生物宣布完成近4亿元B+轮融资，由启明创投领投。资金用于推进创新药临床研究和拓展新管线，强化三大核心技术平台。公司已有核心产品进入关键临床阶段，创始人称2025年将加速海外布局。
7B模型对标GPT-4o，全球首个医疗代码生成大模型训练平台来了
研究团队发布全球首个医疗代码生成大模型训练平台MedAgentGym，提供评估基准和训练生态，提升大模型医疗代码生成与推理能力。经其训练的Med - Copilot - 7B达GPT - 4o相当水平，解决医疗AI编程瓶颈。
2027年实现AGI？计算物理学家怒怼：纯属无稽之谈！
知名博主Scott Alexander领衔的项目称AI将在2027年达超人智能。但计算物理学家经研究指出，该预测模型漏洞百出，如数学错误、曲线选择无依据、图表与模型不符等，即便新模型改进部分问题，多数批判仍成立。