「安全训练」共找到 2970 篇相关文章
刚刚，美国AI霸主换了！Anthropic年收300亿，碾压OpenAI
外媒披露Anthropic年化营收达300亿美元，超越OpenAI的240亿。Anthropic由OpenAI前员工创立，15个月营收翻30倍，训练成本仅为对手四分之一。其80%收入来自企业端，而OpenAI陷入‘增收不增利’怪圈，内部也矛盾重重。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。
AI两天推翻20年工作习惯！Karpathy百行代码开源项目“封神”，AI替你通宵肝研究、战绩可查
特斯拉前AI总监Andrej Karpathy开源autoresearch项目，让AI Agent自主搞深度学习研究。两天内Agent完成276次实验，提升模型训练效率约11%。项目代码极简，未来目标是实现Agent大规模协作，已被开发者社区共建。
源神阿里！图像生成Ovis-Image再开源，7B小参数媲美GPT-4o和20B开源模型
阿里Ovis团队发布Ovis - Image，7B参数文本到图像模型，在文本渲染任务媲美GPT - 4o和20B + 开源模型。它架构优化、数据工程精细、训练范式独特，实测数据表现佳，显存占用低、推理快。
马斯克刚关注了这份AI报告
受谷歌DeepMind委托，Epoch发布报告剖析2030年AI的发展。指出训练成本或超千亿美元，公开文本数据2027年耗尽等，马斯克也关注此报告。还从多方面论证发展趋势可延续，且AI将加速多领域科研。
Lumina-mGPT 2.0：自回归模型华丽复兴，媲美顶尖扩散模型
上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。
当中国AI喊出「开源脑机」，马斯克站到全网的对立面
中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。
80万条数据揭示隐患：AI正在「污染」病历，你的诊疗数据可能越来越不靠谱
新加坡国立大学等机构团队研究显示，AI生成临床文本用于训练新模型，会使病理信息在数据迭代中消失，降低医疗AI诊断可靠性。研究分析80多万条合成数据，还提出缓解方法。