「安全升级」共找到 1656 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
1亿签约金抢AI大神？谷歌AI元老劝退全网：别再读博了！
AI人才大战升级，Meta砸1亿美元挖OpenAI员工。谷歌元老Jad Tarifi警告，此时读博蹭AI热潮已晚，建议钻研AI+生物等新兴领域或远离。他还认为读博像赌博，社交与同理心等技能比学位重要。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
GPT-5编程专用版发布！独立连续编程7小时，简单任务提速10倍，VS Code就能用
OpenAI推出GPT-5-Codex特化版模型，支持独立连续编程7小时，有IDE插件版。新模型有“真·动态思考”能力，简单任务提速10倍，复杂任务推理更久。还重构了Codex产品体系，升级IDE扩展等。
Claude Opus 4.1模型发布，OpenAI继续被拉开差距
Anthropic发布Claude Opus 4.1模型，在各指标上超越Opus 4。Anthropic ARR达50亿美元，API收入首超OpenAI。新模型在多场景有进步，官网等渠道统一可用，还给出Claude Code使用建议。
从WAIC上爆火的功夫机器人，看到这家央企的具身智能「真功夫」
今年4月“功夫boy”机器人出圈，3个月后的WAIC上它全新升级。其背后是中国电信人工智能研究院（TeleAI），由李学龙教授带领。他们技术栈全面，在硬件、软件、数据等方面全栈自研，还布局智传网，未来发展潜力大。
2025 年 AI 编程趋势：智能体 10 倍生产率放大下的“粪围”蔓延
文章指出 2025 年是体系化跃迁起点，AI 编程工具不断升级。AI 代理能力超代码补全，编程从‘代码直生’转向‘计划先行’，自动验证增强，还有异步化、团队协作等趋势。但 AI 重构有问题，还会放大技术债。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
从1000通到1.5万通，百融智能的「硅基客服」真正开始「上岗」
今年7月，一家头部物流企业和大型综合类头部券商上线百融智能的AI客服，业务量和部署规模增长显著。百融智能正战略升级，以新一代AICC智能联络技术向多行业拓展，其创始人张韶峰分享了相关思考与技术优势。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。