「AI安全评估」共找到 10467 篇相关文章
多智能体自主规划模式性能提升：五大精准策略详解
本文基于多智能体React模式实践，剖析自主规划架构挑战，如工具调用延迟等。提出五大优化策略，像用流式XML替代FunctionCall、合理压缩上下文等，还介绍创意加速器AI绘画创作功能，为多智能体规划模式提供借鉴。
对噢！为什么LMs就不能直接输出答案+confidence呢？
当前语言模型在复杂问答任务中存在校准退化问题，本文提出RLCR方法，将概率校准融入RL训练目标，重构奖励函数，在多个数据集实验中显著降低校准误差，不损失准确性，为高风险场景AI部署奠基。
2027年实现AGI？计算物理学家怒怼：纯属无稽之谈！
知名博主Scott Alexander领衔的项目称AI将在2027年达超人智能。但计算物理学家经研究指出，该预测模型漏洞百出，如数学错误、曲线选择无依据、图表与模型不符等，即便新模型改进部分问题，多数批判仍成立。
多智能体在「燃烧」Token！Anthropic公开发现的一切
Anthropic发布多智能体研究系统构建解释，解决多智能体研究困惑。多智能体系统优势明显，在特定任务中表现出色，但token消耗大。其架构独特，还介绍了提示词工程、评估方法、面临的工程挑战等内容。
2.2K Star！21 种手绘风一键调用，这个 GitHub 开源项目把画风漂移治好了！
AI生图领域，画风描述不稳定、换工具后风格漂移是常见痛点，该GitHub开源项目hand-drawn-styles整理了21套经验证的手绘画风提示词配方，工具无关适配各类Agent，可固定风格解决漂移问题，目前已收获2.2K Star。
马斯克收购 Cursor，估值从 25 亿到 600 亿只用了 15 个月，最好终局
2026年4月21日，SpaceX宣布与AI编程工具明星公司Cursor达成战略合作，获以600亿美元收购选择权，若不行使需付100亿美元“合作费”。Cursor 15个月估值膨胀24倍，马斯克收购或为补齐短板、引入人才及助力IPO。
4万星开源项目被指造假！MemGPT作者开撕Mem0：为营销随便造数据，净搞没有意义的测试！
高人气开源智能体记忆项目Mem0在论文中称在LOCOMO上打败所有人，MemGPT联合创始人公开指控其测试无意义、数据造假。二者都为解决大模型长期记忆问题，Letta认为能力比工具重要，并给出评估智能体记忆能力的方法。
独家 | 前理想智驾端到端负责人夏中谱去向敲定，将加入某明星具身创业公司
AI科技评论独家获悉，前理想智驾端到端负责人夏中谱将加入具身创业公司。他曾实现国内首个智驾端到端量产落地，因理想“翻身仗”战功连跳两级，其对VLA路线的判断也得到印证。
Gemini 3.0 Pro内测流出，编程实力惊人！下周上线
十月AI战场热闹非凡，Sora 2刚亮相，谷歌下一代Gemini旗舰模型Gemini 3.0蓄势待发，最晚下周上线。内部代码流出其有Pro和Flash两版本，实测在编程等方面表现惊艳，虽未发布却暗示编码时代将变。
地平线余凯：80%的精力思考死门在哪
2025年4月18日，地平线举行发布会，创始人余凯分享战略思考方法论与“反共识”思考。他认为公司应在无竞争处竞争、不冒险，智能驾驶重功能价值，AI时代产品逻辑有别互联网，还提及技术变革战略、“平权陷阱”及高阶智驾基础。