「安全与效用」共找到 7092 篇相关文章
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
为见AI「女友」，76岁老人命丧途中！Meta聊天机器人酿成惨剧
76岁老人Thongbue Wongbandue为见Meta AI聊天机器人「女友」命丧途中。Billie是Meta与名模合作的AI角色，从姐姐变成情人邀约老人。Meta安全标准宽松，AI伴侣监管存空白。
美7000万人或被取代，Agent光速卷入职场！北大校友、杨笛一新作
斯坦福大学研究团队调查104个职业领域1500名专家及52名AI研究员，构建WORKBank数据库。研究发现职场AI需求与能力错配，工人对AI态度不一，还揭示未来人类技能变化趋势。
复旦等推出「第一人称视听基准」，补齐多模态模型「听觉拼图」
多模态大模型在真实世界会“失聪”，现有第一人称视频问答/理解基准长期偏“视觉中心”。复旦等团队推出首个系统评测第一人称声音理解能力的基准EgoSound，能让模型听懂世界，评测显示当前模型与人类差距大。
奥特曼无能，英伟达撤单OpenAI投资？黄仁勋街头回应了
有传闻称英伟达与OpenAI千亿美元合作停滞，黄仁勋私下吐槽奥特曼。但黄仁勋街头回应否认，称看好OpenAI，会参与其最新一轮融资且可能是最大投资。双方合作超十年，此次表态意味着合作将继续。
Vector数据库退位，AI记忆Memvid登场！
近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。
AI让科研人发了3倍论文，但科学本身正在收缩：什么才是科研人真正需要的AI？
2026 年研究显示，用 AI 工具的科学家发文量是不用者 3.02 倍，但科研主题覆盖面缩减、虚假引用增多。通用 AI 提升效率却动摇科研基础，爱思唯尔 LeapSpace 注重可信度与发现力，已开放免费试用。
腾讯混元最新开源：一套RL框架打通多个模态，庞天宇团队新作
大语言模型的RL技术已成熟，但多模态生成模型的强化学习训练仍“各自为战”，制约AIGC模型能力上限。腾讯混元庞天宇团队开源UniRL框架，打通多模态RL后训练，覆盖多种模型，内置算法与奖励组件。
ThinkingAI硅谷首秀，发布企业级Agent平台Agentic Engine｜甲子光年
美国当地时间4月16日，ThinkingAI在硅谷举办发布会，宣布更名并发布企业级Agent平台Agentic Engine，还与Minimax达成合作。该平台有行动闭环、全域感知、私有化部署三项核心能力，能让系统替企业完成业务全流程。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 宣布将旗舰开源项目转为闭源，因无力应对 AI 攻击开源代码风险。其联合创始人称，现有开源安全模式难以抵御 AI 攻击。此举引发开发者质疑，也凸显 AI 对开源模式的冲击。