「AI安全研究」共找到 10850 篇相关文章
英伟达拟 10 亿美元砸向这家 AI 编码创企！Copilot 技术大佬带队、成立两年估值近千亿
10月30日彭博社报道，英伟达拟最高投10亿美元给AI创企Poolside，此轮融资或使其估值翻四倍。该公司由微软技术大佬带队，开发AI编码助手，创建强化学习法训练模型，从底层自研，有独特优势。
攻克AI过度思考难题！美团新研究让通过“可验证”过程奖励激活LRM的高效推理
美团等机构研究团队针对LRM“过度思考”问题，提出可验证的过程奖励机制（VSRM）。它结合可验证奖励与步骤级奖励，为推理步骤分配奖励信号。实验显示其能降低输出长度并保持性能。
AI如何看懂足球？上海交大团队打造Multi-Agent系统，全面解析“美丽足球”！
现有足球AI研究存在不足，上海交大团队打造Multi - Agent系统。他们构建SoccerWiki知识库、SoccerBench评测基准和SoccerAgent多智能体系统，该系统多工具协作，实验中碾压GPT - 4，数据和代码将开源。
告别Sora！从巅峰到黯然离场不到一年半，团队将转向物理AI
2026年3月24日，OpenAI宣布关闭视频生成应用Sora。Sora曾惊艳全球，但因合规麻烦、行业阻击、算力成本高、商业回报低等问题走向关停。团队将转向物理AI，聚焦世界模拟研究。
警惕！大模型成本倒挂：你正在为模型的多余「思考」买单
一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。
Anthropic万名工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日，OpenAI 宣布收购 AI 安全初创公司 Promptfoo，其技术将整合进 OpenAI Frontier 平台。该公司由 23 人创立，开发开源工具测试 AI 系统安全。收购后 Promptfoo 保持开源，OpenAI 将新增相关功能。
AI 编程冲击来袭，程序员怎么办？IDEA研究院张磊：底层系统能力才是护城河
在 AICon 大会上，IDEA 研究院张磊剖析多模态智能体发展难题，提出从“半结构化”场景切入的落地路径，分享工业界研究与产品平衡见解，还为年轻人在 AI 浪潮中发展给出建议。
离职程序员深夜忏悔用“绝望指数”算法害人：Uber Eats剥削外卖员让缺钱者狂接垃圾订单！如今竟被爆帖子是AI编的？网友：别再让AI背锅了
Reddit一用户自称Uber Eats离职工程师，爆料平台用“绝望指数”算法剥削外卖员，帖子传播极广。但记者核实发现是编造，“证据”或由AI生成，网友对此调查结论看法不一。
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。
被骂疯了！微软CEO刚甩出年终反思：“今年别说AI垃圾了”，“模型滞后”新定义遭痛批，网友：你是真脱离现实
微软CEO Satya Nadella发布年终反思博文，定位2026年为‘AI关键之年’，提出‘模型滞后’，划定三件关键事，却遭网友痛批。同时微软推进AI融入Windows，引发对其动机和市场前景的质疑。