「安全风险」共找到 1224 篇相关文章
Claude Mythos Preview来了！强大又危险，Anthropic还专门组了个研究团
今日凌晨，Anthropic发布Claude Mythos Preview新模型及AI网络安全项目Project Glasswing。该模型虽性能卓越，但有安全风险，Anthropic暂不全面开放。Project Glasswing汇聚众多巨头，获巨额资金支持，旨在构建AI防御联盟。
开源中小模型+Skills也性能暴增！卢森堡大学探索了小模型驾驭Skills的边界
卢森堡大学等研究探索小模型驾驭Skills的边界。工业界因数据安全渴望开源小模型，智能体Skills框架让小模型性能暴增。研究拆解小模型处理复杂任务的方法，还验证不同策略有效性，发现代码专用模型优势。
终于！OpenAI 开源了2款模型：gpt-oss-120b 和 gpt-oss-20b
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 开源模型，性能出色，如 120b 版本媲美 o4-mini，20b 版本能在笔记本甚至手机运行。采用 Apache 2.0 许可证，有多种特性与运行方式，还经安全分析。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。
公司业绩大爆发，芯片大佬身家逼近两百亿
在《2025新财富500创富榜》中，瑞芯微大佬励民身家173.8亿成福州第二富豪，财富较去年涨73%。他2001年创立瑞芯微，多次带领转型。近年公司业绩佳，但大股东抛减持计划，且面临行业风险。
炮轰黄仁勋，决裂奥特曼！1700亿美元估值背后，硅谷最不好惹的AI狂人
本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
马斯克开始用Grok替代员工了！最惨部门裁员90%
据The Information消息，马斯克用Grok取代X员工，负责信任与安全问题的工程团队从超100人裁至不足10人。他意图用AI替代人力、自动化替代传统工程，还推进“巨硬计划”，但也带来权责不对等、安全问题和业务受阻等风险。
靠创始人亲自假扮AI起家，如今估值10亿美元！印度CEO公开反内卷：从不在10点前起床，也不开例会
AI笔记创业公司Fireflies估值达10亿美元，其创始人曾人工假扮AI参会。CEO Krish Ramineni反内卷，让员工全远程自由工作。此“创业血泪史”公开后引争议，有人批有伦理风险，也有人认为是早期创业常态。
从马斯克并购 Cursor 说起：国内编程智能体的牌桌、裂缝与全链自主之路
文章从马斯克600亿美元收购Cursor切入，分析海外编程智能体“垂直整合”趋势，指出护城河在全链掌控。对比国内，玩家分散，面临版权、安全等风险。强调中国须走全链自主之路，各层发力，目标是经略全球。