「AI安全研究」共找到 10943 篇相关文章
AI公务员上线！OpenAI为全美国联邦政府提供ChatGPT，每年只收1美元
今天凌晨，OpenAI联合创始人宣布与美国联邦政府达成合作，为各机构提供ChatGPT服务，每年仅收1美元。此为《美国AI计划》一部分，能实现政务流程自动化，还保障数据安全。
硅谷GPU蒙尘，马斯克一言成谶：美国AI被电卡脖子
彭博社消息，加州圣克拉拉两处数据中心空置6年多等电力，凸显美国科技行业缺电问题。此前微软纳德拉承认缺电致GPU吃灰，马斯克也曾预言芯片或超供电能力。电力短缺制约数据中心发展，影响美国AI前进。
AI「生肉证明」堆爆GitHub！陶哲轩重磅发声：只会解题没用了
陶哲轩判断数学从证明稀缺进入过剩时代，AI 使证明生成加速，出现验证和消化跟不上的‘阻抗失配’现象。如 Erdős 问题有众多待评估方案堆积，而仅1196号案例跑通‘三件套’。他还指出学术评价体系将重写。
圣路易斯联邦储备银行报告：美国大量人口已使用生成式AI
圣路易斯联邦储备银行报告显示，截至2024年末，美国18至64岁近40%人口用生成式AI，职场23%劳动者每周至少用一次。还对比其与PC、互联网普及情况，分析使用差异及对经济的生产力提升。
14K Star！统御万模的 AI 聚合网关，一个 API 管理所有大模型！
文章分享了AI聚合网关神器New API，它基于Go和React开发，是中转分发系统，像超级转换插头。集成30+模型服务，有多种特性，支持6种部署方式，能收敛混乱的模型调用。
用了半年的MCP，它不是“USB-C”，而是企业AI落地的噩梦！
文章指出MCP虽曾被视为AI界USB - C接口，但企业落地时问题诸多，如类型安全靠猜、标准协议名存实亡、调试困难等，还给出企业级MCP落地自查清单。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
实测刘翔pick的AI汽车，BBA老车主的豪华滤镜碎了
作者试驾了刘翔代言的智己汽车LS8，体验其智能辅助驾驶、AI助理等功能。该车与宝马X5等尺寸相近但价格低，有诸多黑科技，还让BBA老车主滤镜破碎，显示传统豪华溢价时代或终结。
SFT在帮倒忙？新研究：直接进行强化学习，模型多模态推理上限更高
学界常用「监督微调（SFT）+ 强化学习（RL）」训练大模型。但新研究发现，SFT 会引发「伪推理路径」，阻碍推理进步。相比之下，直接进行 RL 训练，模型多模态推理上限更高，该团队训练的模型还刷新了纪录。
中国团队让AI拥有「视觉想象力」，像人类一样脑补画面来思考
上海交通大学等团队提出 Thinking with Generated Images，让大模型像人类一样用「脑内图像」推理。该研究区分三种视觉思维模式，提出核心技术框架，解决视觉推理局限，实验效果好，未来有望在多领域突破。