「安全挑战」共找到 1906 篇相关文章
扩散不死，BERT永生！Karpathy凌晨反思：自回归时代该终结了?
苹果前员工Nathan Barry得出BERT本质是文本扩散一步的结论，将表示学习算法改造成生成算法。OpenAI创始员工Karpathy对此沉思，认为生成逻辑在LLM架构中可变。实验证明RoBERTa可转为生成引擎。
谷歌Dreamer大神离职！「辛顿门徒」自曝错过Transformer
谷歌世界模型大牛Danijar Hafner宣布离任，他自2016年起在谷歌相关团队工作近十年，曾获辛顿指导，主导开发Dreamer系列。他还自曝曾错过Transformer，当时未在意其优势。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
全球首例！科学家将腿部肌肉线粒体注入盲人眼球，瞳孔光反射短暂恢复
对于视神经严重受损致盲，临床缺有效修复手段。美国研究人员从失明女性腿部肌肉提取线粒体注入其双眼，初步验证了自体线粒体眼内移植的安全性，患者眼部有生理变化，但未恢复视力，实验疑问多。
用得越多、失业越快？GitHub 大改 Copilot 规则：默认拿个人代码训练 AI，还搬出 Anthropic 挡枪！
当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。
金山、Zilliz、腾讯、灵犀量子专家齐聚，揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战，Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家，分享上下文工程技术实践。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
Claude Sonnet 4.5被炸出来了，依旧最强编程，连续30小时自主运行写代码
新发布的Claude Sonnet 4.5在SWE - bench等多项测试中成绩提升，能连续30小时自主写代码，还改善了对齐和安全性指标，且提质不加价。此外，Anthropic官宣Claude Agent SDK，发布Imagine with Claude功能。
微软公开预览可充当 MCP 服务器的 Logic Apps
微软宣布 Azure Logic Apps（标准版）公开预览新功能，可充当 MCP 服务器，为开发者构建和管理代理提供灵活方式。MCP 是开放标准，让 LLM、AI 代理等与外部系统交互，此功能好处多。
微软发布5大AI Agent模式：一键解锁AI员工，打造智能体工厂
今天凌晨微软官网发布5种常用Agent模式助用户开发自动化AI员工。智能体比传统自动化工具更具优势，能推理协作等。各模式都有应用案例，且Azure AI Foundry支持多Agent模式开发。