「AI安全研究」共找到 10867 篇相关文章
幸好图灵不是一位好棋手
本文讲述图灵因棋艺平庸常和唐纳德·米奇对弈，二人合作博弈树算法成AlphaGo核心。米奇受其影响成AI研究先驱，开发算法、程序，其对国际象棋残局的研究影响众多后来者。
OpenAI内部路线图精简纯享版
这是OpenAI内部路线图精简版，包含自动化AI研究员目标、五层安全策略、产品向平台与AI云迈进等内容，还涉及算力投入、新公司结构、非营利组织资本部署及科学发现时间表。
震撼！OpenAI神秘模型连破6道前沿难题，奥特曼：AI在造「新知识」
OpenAI首席科学家爆料，其神秘内部模型一周攻克10道未发表顶尖数学难题中的6道。First Proof团队用公开模型测试，结果冷峻。虽OpenAI实际命中率或低于宣称，但AI解前沿题意义重大，也暂无法取代数学家。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
狂揽4万星！换掉OpenClaw太爽了，5美元就能养个AI打工人
Hermes Agent是NousResearch推出的开源Agent神器，上线后在GitHub超4万星。它运行在用户服务器，有六大核心特性，能跨平台对话。技能自维护，形成记忆 - 技能 - 训练数据闭环，应用场景丰富，演进注重安全、稳定与智能。
AI 是否已经杀死了敏捷宣言
凯捷集团执行副总裁 Steve Jones 宣称“AI 已杀死敏捷宣言”，指出智能体 SDLC 与敏捷宣言存在根本性矛盾，业界反应不一，软件开发正进入方法论变革期，敏捷未来成谜。
搜狐架构演进技术实践：我们如何用 MCP Registry 根治 AI Agent 的“千具之灾”
本文讲述搜狐团队在构建企业级 AI Agent 时遭遇‘千具之灾’，当前路由模型方案引发‘治理噩梦’。后通过研究 MCP Registry 获新思路，设计新架构，构建 PoC 原型，并对混合路由等问题展开思考。
AI发现医生看不见的隐藏心脏病风险，近90%准确率远超人类专家｜Nature子刊
登上《Nature》子刊的研究显示，约翰霍普金斯大学团队开发的多模态AI模型MAARS，用深度学习处理原始MRI图像，实现对心源性猝死风险高精度预测，准确率达89%，还能辅助制定个性化医疗方案。
首个代码世界模型引爆AI圈，能让智能体学会「真推理」，Meta开源
Meta重组后的AI部门推出首个代码世界模型CWM，是320亿参数开放权重LLM。它与传统大模型思路不同，能模拟代码执行。CWM在通用编程与数学任务表现不错，Meta还开放相关检查点以支持研究。