「State of AI 2025报告」共找到 10123 篇相关文章
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
阿里 Qoder 把这层 AI 编程的窗户纸捅破了
2025年大模型下沉到应用层，浏览器和编程工具被重新发明。阿里新发布的Agentic编程平台Qoder，增强对巨大代码工程理解能力和代码生成准确率，其上下文工程观是突破，新引入的Quest Mode很独特。
国产AI击败Meta：ReasonRank荣登BRIGHT榜单第一
基于LLM的段落排序方法中，listwise排序虽有优势，但当前重排器难处理复杂推理查询。ReasonRank通过生成推理密集型训练数据及两阶段后训练，赋予listwise重排序器强推理能力，在BRIGHT榜单击败Meta。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
ICLR 2025新成果：文档检索“降本增效”，从此“开挂”
传统文档检索系统处理视觉信息丰富的文档存在瓶颈，ColPali方法直接从文档页面图像生成多向量嵌入，简化流程、提高性能、降低延迟。ColQwen - Omni在其架构上扩展到图文+音频多模态匹配。
这个AI精准模拟人类行为大脑状态，上Nature了
德国团队开发出人类认知通用计算模型Centaur，登上Nature。它基于Llama 3.1 70B，用5天训练，参数仅Llama的0.15%，能模拟人类在160项实验中的行为，性能超传统模型。
刚刚，2025哥德尔奖出炉！破解30年难题，十年论文摘桂冠
2025年哥德尔奖揭晓，康奈尔大学副教授Eshan Chattopadhyay与导师David Zuckerman凭借2016年论文《Explicit Two-Source Extractors and Resilient Functions》获奖。论文构造显式双源提取器，解决近三十年难题，还建立伪随机性研究子领域联系。
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
AI收入暴涨！英伟达超过苹果，成为全球市值第二
根据CompaniesMarketCap数据，英伟达公布财报后股价升超4%，一度成全球市值第一。截至5月29日收盘，其市值超苹果，仅比微软少150亿美元。虽此前受DeepSeek冲击，但Q1营收、利润仍创新高，二季度预计乐观。