「风险预测」共找到 900 篇相关文章
Nature新研究：AI竟然分不清事实和信念
斯坦福大学团队在Nature发表研究，测试15个大模型，发现其区分事实、信念和知识存在严重缺陷。如处理第一人称信念准确率低，对语言线索依赖高，在高风险领域应用令人担忧。
OpenAI×英伟达，可能创造了人类史上最大万亿级泡沫
短短两周内，OpenAI、英伟达等企业间巨额投资与合作掀起资本风暴。资金循环流动形成封闭回路，看似产业协同，实则暗藏泡沫风险，引发业内对其是技术发展还是泡沫的争议。
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
ICCV 2025 | 打造通用工具智能体的基石：北大提出ToolVQA数据集，引领多模态多步推理VQA新范式
北大团队提出ToolVQA数据集，用于提升基础模型工具使用能力。它含2.3万条样本，贴近真实需求。通过ToolEngine构建，涵盖多工具与任务领域。微调后模型表现佳，代码与模型已开源。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
Nature Machine Intelligence颠覆有机化学研究范式，上海交大发表化学合成大语言模型
上交大AI4S团队依托平台，联合多团队在AI for Chemistry领域获突破。相关研究发表于《Nature Machine Intelligence》，介绍白玉兰化学合成大模型Chemma，它加速有机合成全流程，在多任务表现出色，还能解决数据稀疏等问题。
Anthropic把Claude送去当店长，结果AI疯了~
周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。
独家揭秘OpenAI核心文件：AGI五级突破实锤！微软130亿投资或打水漂
新智元揭秘OpenAI核心文件，Ilya Sutskever曾预言AI无所不能，也担忧其失控后果。OpenAI与微软的合同中AGI条款成谈判核爆点，未公开论文划分AGI五级，让微软130亿投资或打水漂。