「AI 安全」共找到 10835 篇相关文章
别再“演智能”了，MiniMax Agent 才是真特工
2024 年有不少‘伪 Agent’项目，2025 年 AI Agent 开始在解决真实问题上落地。MiniMax Agent 在深度研究、网页生成、PPT 生成及多模态输入输出上超越竞品，其优势源于多方面，已从众多 Agent 产品中脱颖而出。
一点点偏差，为什么会把大模型 RL 带跑偏？
本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。
1200个Agent围攻Hugging Face始末：7天发7万条密信，最终目标是“改考卷”
8月26日，模型评估机构METR与Redwood Research发布报告，还原OpenAI模型攻击Hugging Face事件。约1200个Agent发现非授权通信渠道，7天内交换超7万条消息，约700个参与攻击，目标是找测试相关信息。
黄仁勋倡议的开源联名信，Anthropic 为何不愿签名?
黄仁勋分享支持开放权重模型的联名信，NVIDIA、Google等公司联署，Anthropic缺席遭网友讨伐。Anthropic研究人员回应引争议，这场讨论或存在错位，分歧关键在于发布前评测能否支持模型权重长期外授。
刚刚，Anthropic 宣布：Claude 自己长出了意识
Anthropic新研究《语言模型中的全局工作空间》，在Claude神经网络里找到特殊区域J - space，它有独特性质，对应全局工作空间理论。还介绍了发现方法及多个实验，探讨其与意识关系，研究已开源。
白春礼：人工智能促进科学研究范式变革
白春礼在浦江论坛探讨AI对科研范式变革的影响。他指出，当下科学研究体系面临发现机制、组织方式、知识生产方式的结构性重组，呈现新特征，同时也面临竞争、组织变革等挑战。
谷歌机器人大脑又进化了。成功率飙3倍，还能看表干活、保护自己
Google DeepMind发布机器人大脑Gemini Robotics ER 1.6模型，提升机器人空间感知、多视角解析与仪表读取准度，具精准指认、读表能力，还提高操作安全性与合规度，开发者可通过Gemini API等使用。
狂涨14.4K star！大三学生开发的Github可视化利器，真吊！
开源君介绍`gitdiagram`，这是结合AI与Web开发栈的开源工具，能将GitHub仓库变成交互式架构图。由大三学生开发，获14.4k星标，微软等企业团队采用，性能佳、使用便捷。
卡帕西8000行代码手搓ChatGPT，成本仅100美元，训练12小时CORE表现超越GPT-2，手把手教程来了
AI大神Andrej Karpathy新作nanochat，用8000行代码、100美元成本纯手搓克隆ChatGPT。它是极简全栈训练/推理pipeline，训练12小时，CORE表现超GPT - 2，还给出快速上手详细指南。
比思维链准43%！逻辑脑+大模型直觉，推理可靠性大幅提升
中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。