「前沿风险」共找到 790 篇相关文章
代码榜刷满分，AI科研却撞墙？140道真实研究题撕开「自进化」真相
新工作MLS - Bench覆盖12领域、140个研究任务，评测前沿模型科研能力。虽模型工程执行强，但科学发现能力弱，当前仍难提出有效算法创新。其评测已纳入Kimi K3和Qwen3.8 - Max官方发版表。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
刚刚！Claude Fable 5，又拿第一了
在刚刚刷新的MirrorCode排行榜上，Claude Fable 5以64%的绝对成功率登顶，成绩远超其他模型。它在不同语言上表现稳定，在稀缺语言中也只小幅度下降。这意味着前沿模型能独立完成部分中大型软件。
Hyperagents：AI学会如何自我改进
近日，Meta发布Hyperagents论文引关注。它尝试解决AI能否自我改进改进方式的问题，核心创新是‘元认知自我修改’，实验在多领域表现出色，还涌现元级别改进且能跨领域转移，但有安全风险。
蚂蚁阿福：从 0 到生产的医疗 Agent 工程化落地｜QCon 北京
4月16 - 18日QCon全球软件开发大会将在北京举办，聚焦Agentic AI等前沿话题，有百余落地案例。蚂蚁集团郭春晓将分享《蚂蚁阿福：从0到生产的医疗Agent工程化落地》，探讨构建技术体系等内容。
“分身术”来了！MANA创作者扶持计划带你走进MUMA Island的未来分身实验
文章介绍数字时代“分身术”，它是身份与叙事实验。从概念源流到技术支撑展开阐述，MUMA Island打造“三式分身”创作矩阵，MANA创作者扶持计划重视该项目，有前沿性、可复制性和社会价值，还公布活动信息。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
CUDA 20年护城河一个周末崩了 ！Claude独自跑通AMD新GPU
一个周末，Claude直接把自家最前沿模型跑在全新AMD MI355X机架，人类工程师没改一行代码。AMD还给AI开发调GPU的工具，ROCm.AI可让Agent自己部署操作。Agent补生态积累短板，对CUDA生态形成降维打击。
AI 教父 Hinton 最新警告：AI 会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还剖析AI底层逻辑，探讨其是否会思考、主观体验等问题，也提及AI的风险、收益、国际博弈等内容。
OpenAI、xAI打破硅谷铁律，AI人才年薪破亿成常态
硅谷的股权锁定期潜规则松动，OpenAI和xAI纷纷调整规则。Meta、Google等巨头不惜高薪挖人，人才争夺战激烈。这对稀缺人才是“零风险试用”，但多数职场人仍受规则约束，资本也无奈妥协。