「人工智能安全」共找到 1356 篇相关文章
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
已近2000亿美元注入，彭博社盘点2026年值得关注的24家AI初创公司
截至今年10月初，近2000亿美元注入人工智能初创企业。彭博社盘点2026年值得关注的24家AI初创公司，涉及模型开发、代码创作、实体智能等领域，还展现了AI产业思想分野。
视远·正心明智——机器之心2025年度AI榜单正式启动
2025年人工智能浪潮奔涌，大模型快速迭代，催生新应用形态，中国AI发展精彩。机器之心精心策划2025年度榜单，涵盖最强技术实力企业等多个类别，有意企业可扫码申报。
超级AI云，未来10年阿里云的核心战略 | 甲子光年
9月24日，阿里云CEO吴泳铭在云栖大会给出发展方向，要成全栈人工智能服务商。其All in AI，构建云基础设施、开源通义千问、布局Agent应用，按三阶段演进路线迈向ASI，还将加大投入提升数据中心能耗。
吴恩达：自动化测试在 AI 编程时代将变得极其重要
吴恩达分享团队用AI编程助手的经历，如Agent删代码。他认为AI辅助编程时代，自动化测试愈发重要，智能体测试能发挥作用，还强调优先测试基础设施代码，后端测试更关键。
大型语言模型正在掏空和填满你的钱包
人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。
LangChain 推出开源异步编码智能体 Open SWE
LangChain发布开源异步编码智能体Open SWE，可在云端处理复杂开发任务，能集成到开发者工作流。它连接GitHub仓库，在沙箱运行，强调人在回路控制，多智能体架构保障代码质量，早期反应褒贬不一。
上海交大/上海AI Lab翟广涛：当评测不再重要，AGI就实现了
上海交通大学教授翟广涛认为完美的AI评测体系等同于通用人工智能。当下评测体系存在数据污染、原子化能力评测局限等问题，他主张回归‘以人为本’，团队提出相关框架和技术路径，目标是训评一体。
彻底戳穿AI「失忆症」！超越OpenAI全局记忆，中国队开源LLM记忆操作系统
大语言模型有「记忆」缺失问题，国内顶尖团队打造出操作系统级AI记忆框架MemOS并开源且可商用。它将「记忆」升为「一级资源」，用MemCube封装记忆，评测显示性能优于OpenAI全局记忆方案。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。