「安全设计」共找到 2126 篇相关文章
专访微软CTO：微软大力发展Agent，智能体将无处不在
微软CTO Kevin Scott在“Build2025”大会期间接受专访，解读微软推动智能体生态发展。微软重视智能体应用，众多组织用其平台开发。他还探讨编程看法、行业变化、安全模型、市场模式等问题。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
DeepSeek-R1发布100天后：全面复盘推理大模型复现研究及未来！
推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。
GPT-6 Astra：欢迎来到 AGI 时代。
OpenAI 发布 GPT - 6 Astra，总裁称开启 AGI 时代。演示视频展示其强大并行处理能力，跑分有争议，成绩不一。它有诸多成果和安全表现，也有可监控性降低问题，发布过程却状况百出。
奥特曼最新深度访谈：AI至今没有iPhone时刻！
OpenAI首席执行官山姆·奥特曼在深度对谈中复盘大模型发展，谈及砍掉Sora和自研浏览器聚焦平台，认为AI缺iPhone时刻，还分享ChatGPT决策过程、创业经历，提出从成功学经验等观点，反驳末日论。
本地运行、支持视觉与工具调用：Meta 开源智能体模型
Meta AI Research 推出 300 亿参数的开放权重模型 Muse Glimmer，采用 Apache 2.0 许可证。它专为本地工作流设计，能在消费级硬件运行，经多项优化，在基准评估中表现出色，还支持多种框架。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
长程执行成具身智能必考题，墨奇的答案是Agentic-Native｜甲子光年
具身智能中长程执行成关键问题，墨奇智能发布具身模型架构MoRA，提出Agentic - Native技术路线，让Agentic能力原生存在于策略模型中，还介绍了模型内部设计、所需数据等内容。
Cherry Studio 复盘：从 Chat 到 Agent，一款「套壳」开源产品如何推倒重来？
Cherry Studio最初是为用户在不同大模型间切换的聊天客户端，随行业从Chat转向Agent，它开启2.0版本重构，定位转向「个人Agent平台」，底层架构重写，要解决产品复杂性、完善协作等问题。
Karpathy头疼的“AI游戏困境”，被这款15分钟出包的国产神器破解了
8月初Andrej Karpathy指出通用AI做游戏时，LLM无法高效审查工作的弱点。而国产平台Spellcaster能先解析自然语言确定游戏设计，15分钟出包，还内置测试员验证，团队想工程化落地新方向。