搜索：人工智能安全

「人工智能安全」共找到 1356 篇相关文章

Browser Use 推出 Code Use：直接用代码控制浏览器

Browser Use 发布 0.9.0 版本，推出专为爬取数据设计的 Code Use。它开发特殊 Agent 和定制 LLM 输出特定代码，通过 CDP 直接操控浏览器，效率和准确性理论上更高，还给出使用示例，同时提醒了安全问题。

Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。

TranslucentTB是为Windows系统设计的开源轻量级工具，主打任务栏透明化。它资源占用低，功能丰富，有多种视觉效果、能智能动态切换等，还提供多种安装渠道。

Nanobrowser是开源Chrome扩展工具，专注AI驱动的网页自动化。免费且本地运行，保护隐私，支持多主流大模型。有多智能体协同等特点，还介绍了安装配置方法，是高效安全的网页自动化之选。

Kubernetes推出增强功能，通过与KMS插件系统集成的混合密钥交换机制支持后量子密码学，应对量子计算对加密协议的威胁，确保系统能随密码学标准演变灵活适应，此举措符合相关建议。

人工智能算力需求膨胀，行业陷入‘暴力美学’迷思。摩尔线程在2025 WAIC前夕提出‘AI工厂’理念，解构其‘五要素’，并展示多领域应用案例，为算力建设提供系统性解法。

OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。

Deepseek推动端侧AI加速落地，苹果、谷歌等企业纷纷布局。不过，端侧AI在发展中面临融合不佳、数据安全等问题。阿里研究院傅宏宇提出保障数据安全的建议，监管层也出台相关法规。

Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。