「AI安全」共找到 10370 篇相关文章
断网后才发现脑子空空？132页论文实证：「脑腐」或成AI头号内伤
新智元报道，独立研究人员Rénald Gesnot从多维度审视AI对人思维的重塑。研究指出多数人用AI时被「降智」，存在认知卸载、「过滤气泡」、被「洗脑」等问题，还提出前进方向。
Karpathy最新预言：不开放、不脚本化的软件将在AI时代“灭绝”
Andrej Karpathy预言，不开放、不脚本化的传统软件在AI时代将‘灭绝’，他点名Adobe全家桶等软件风险高，认为未来赢家是‘天生文本化、可脚本化’产品，软件‘可AI协作性’将成生死分水岭。
顶尖模型离“科学家”还差得远？AI4S亟待迈向2.0时代
《Nature》研究指出，过度依赖现有深度学习模型或阻碍创新。上海 AI 实验室周伯文提出，应推动科学智能从 AI4S 迈向 AGI4S，还介绍“智者”SAGE 架构、“书生”模型及平台等探索成果，并邀同行共拓蓝图。
国产王炸！上海AI Lab开源Lumina-DiMOO，开创多模态理解与生成新范式
上海人工智能实验室等多机构推出多模态生成与理解统一模型Lumina - DiMOO，采用全离散扩散架构。它解决传统多模态架构问题，有全离散扩散建模等四大创新，性能在多基准测试中领先，应用前景广。
端侧AI从「能跑」到「会进化」，元空智能跑进惠普预装
北大出身的创业团队元空智能，提出大模型静态互联网数据红利见顶，端侧是下一轮能力跃迁核心，重新定义端侧AI为「模型×Agent×设备」，发布Boxer端侧模型与两款Agent产品，其端侧AI已拿下惠普商务电脑预装，实现规模化落地。
5个月估值翻10倍，AI数据赛道跑出一家新独角兽
成立约18个月的AI训练数据公司AfterQuery正筹新一轮融资，估值达32亿美元，5个月涨超10倍。它最初想开发AI智能体，后转收集训练材料。此赛道已有多家高估值公司，且数据隐私和安全风险待解。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
数字人视频革命！MultiTalk开源：15秒多人对话一键生成，歌唱/卡通全驾驭！
在AI驱动的视频生成领域，创建多人对话场景是难题。MultiTalk是开源音频驱动多人对话视频生成框架，由MeiGen - AI等联合研发，输入多路音频等就能生成嘴型同步的视频，适用于多种场景。
33%！Claude、GPT、Gemini 在真实网站上集体翻车，ClawBench 把 AI agent 打回原形
ClawBench让AI在144个真实网站执行153个日常任务，结果惨烈，如Claude Sonnet 4.6每三任务翻车两个，GPT - 5.4仅完成10个。它还揭示AI在真实环境的问题，为评估模型提供标尺。
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。