搜索：安全创业公司

「安全创业公司」共找到 2731 篇相关文章

对话Noitom Robotics CEO戴若犁：没有人比我更适合解决机器人的数据问题 | GAIR 2025

本文是对诺亦腾机器人CEO戴若犁的专访。他表示因机器人业务营收两年涨40倍，年初拆分成立机器人数据公司。该公司以数据为交割界面，有产品交付能力，已与六七十家头部公司合作。

该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。

本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。

近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。

文章讲述AI时代“一人公司”新现象，多位创业者借助AI构建企业运作逻辑。如叶纯俊的公司用AI完成多环节工作，许婷团队让AI参与编程。同时提到投资态度转变，“一人公司”发展有挑战也有机遇。

xAI工程师Sulaiman Ghori在播客大赞公司与马斯克，3天后却被解雇，或因曝光诸多敏感信息。他讲述公司无官僚流程、多线并行高效，马斯克决策快且能快速解决问题，公司还测试虚拟员工等。

本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。

为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。

离开Meta后，田渊栋参与创立Recursive_SI。该初创公司致力于打造可自主实验、自我改进的AI，已筹集6.5亿美元，估值46.5亿美元。团队成员经验丰富，在递归自我改进方向有深厚学术积累。

Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。