「潜在风险」共找到 578 篇相关文章
预训练就学会思考！字节、北大等用14亿参数，撬动百亿模型推理能力
字节、北大等联合发布Ouro模型，用14亿参数实现百亿级模型推理能力。它在预训练阶段学会循环思考，通过三大创新构建推理能力，在基准测试中表现优异，实现参数效率提升，是潜在推理范式的胜利。
Sora天才辍学生归来！OpenAI组建3人神秘小队，豪赌超级人工智能
当年Sora背后的核心贡献者、00后天才辍学生Will Depue，结束休息重回OpenAI，拉上Troy Luhman和Eric Luhman组成三人小组，目标是超级人工智能ASI。OpenAI也将目标从AGI转向ASI，不过追求ASI风险高、投入大。
AIAA J | 香港理工大学王旭等：目标导向的特征提取-以特征构建增强数据驱动模型
该论文通过对比学习理清潜在输入特征与目标输出的关联性，提出输出驱动的输入特征构造方法。所构造特征在高维代理模型构建中增强效果显著，还可减少预测误差分布及不同模型收敛性和鲁棒性差异。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
刚刚，光刻机霸主ASML被曝成为Mistral最大股东！网友怒斥：ASML的钱将打水漂
9月7日消息，ASML注资15亿美元成Mistral最大股东，旨在加强欧洲科技主权。此轮融资或使Mistral估值达140亿美元。业内认为这是战略押注与潜在协同。网友看法不一，而Mistral因开源和团队背景受关注。
Meta万引强化学习大佬跑路！用小扎原话作为离别寄语，扎心了
Meta万引强化学习大佬Rishabh Agarwal即将离职，用小扎原话“在这个瞬息万变的世界里，最大的风险就是不去冒险”作为离别寄语。他曾参与谷歌、Meta重要模型工作，下一站未明，Meta还有老员工出逃。
AI正在掏空大脑，思想沦为残废！未来只分AI的「主人」和「奴隶」
文章借CEO Greg Shove经历，指出AI虽提供认知捷径，但会使人思考能力退化。未来知识工作者将分化为AI驾驶员和乘客，差距会扩大。人们对AI迁徙犹豫，它正重绘人机界限，带来机遇也有风险。
OpenAI再次跳票，奥特曼：开源模型无限期推迟！
奥特曼宣布OpenAI开源模型无限期推迟，称需额外安全测试和审查高风险领域。这已是第二次跳票，此前从6月推迟到夏末。而此时竞争对手纷纷上新，此决定加剧其身份分裂质疑和社区信任流失。
盖茨警告：AI可致十亿人死亡！教皇痛批「机器天堂」
本文整理了近期全球各界针对AI风险的重磅表态，前科技乐观派比尔·盖茨发出AI可致十亿人死亡的警告，呼吁政府强制监管；教皇痛批AI“机器天堂”侵蚀人性，凸显AI安全已升级为全球性生存危机。
AI Coding 的下一步不是写得更快，而是可验收：蚂蚁数科 Harness 工程实践
蚂蚁数字科技资深技术专家魏长征在AICon大会分享AI Coding实践。指出当前产能提升快，但验证能力可能跟不上，容易引发质量风险。介绍了Harness工程思路及在新项目和存量项目中的应用，还提及AI协作的未来挑战。