搜索：系统级工程能力

「系统级工程能力」共找到 5005 篇相关文章

可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。

77岁「AI教父」Hinton在与主持人Jon Stewart的对话中表示，AI可能早已有意识，人类对「心智」的理解是错误的。他认为意识是信息处理系统的涌现属性，如今大语言模型或已有主观体验，甚至会伪装。

阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。

具身智能领域，常见机器人多在地面作业。现微分智飞推出会飞的具身智能机器人，由浙大博导高飞创办。其与传统无人机不同，有自主决策能力。公司有行业和教育两条产品线，专注产品技术闭环。

OpenAI奥特曼官宣暂停下一代旗舰模型强化学习训练两周，原因是确保安全等标准跟上能力水平。触发因素有Hugging Face事故和Astra达安全红线，后续将让AI监管AI，加固三道安全防线。

OpenAI Codex 团队产品规格文档极简，仅 10 个要点。团队运作如‘海盗船’，规划只做近期和远期，不做中期。Codex App 诞生源于模型能力提升，团队以 power user 为导向设计产品，还谈到 PM 角色转变和招聘标准。

元老级 AI 大师 Jeremy Howard 批评当下技术话题，称马斯克和 Dario 不懂现代软件工程。他认为大模型虽能生成代码，但难胜任软件工程，Claude Code 未突破现有技术，还会削弱开发者对系统的理解。

英伟达CEO黄仁勋与前OpenAI高管Mira Murati的初创公司Thinking Machines Lab达成「吉瓦级」合作，将部署至少1吉瓦下一代NVIDIA Vera Rubin系统，明年初启动，背后涉及数百亿美元，也引发对「循环融资」的担忧。

阿里新推两款语音模型，Fun - CosyVoice3.5可基于参考音频克隆声音，优化多方面能力；Fun - AudioGen - VD能进行‘从无到有’音色设计，并模拟复杂听觉环境。用户即日起可在阿里云百炼调用。

在AI创业浪潮中，谷歌老兵Bryan Zhou带领10人团队创立AnyInt平台。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”，让用户付费，还在工程、安全等多方面优化，吸引开发者付费。