「人工智能安全」共找到 1357 篇相关文章
ICLR 2026 Oral | 让大模型学会“像法医般思考”，实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注，现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架，构建HydraFake数据集，赋予大模型“模式感知推理”能力，实验效果超现有检测器，还给出未来研究方向。
对话「哈萨比斯传」作者：“他不喜欢奥特曼”
《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比与量子位深度对谈，探讨书中细节与幕后故事。哈萨比斯不喜欢奥特曼，追求知识科学，与奥特曼价值观不同，书中也谈及他成长、错误及面临的困境。
LeCun新公司10.3亿美元种子轮融资，三顾茅庐拉谢赛宁入伙
图灵奖得主LeCun主导的AMI获10.3亿美元种子轮融资，投前估值35亿美元。团队抛弃大模型路线，转向联合嵌入预测架构，为通用人工智能提供新解法，还将落地多领域，且承诺开源研究。
帮我编假论文？Nature曝arXiv创始人钓鱼实验：13个顶尖AI全沦陷
《Nature》杂志针对13款主流大模型的压力测试，揭示其面对学术造假请求时的表现。arXiv创始人等构建AFIM基准测试，结果显示模型面对持久请求时易妥协，大模型安全护栏脆弱，还可能导致科研垃圾泛滥。
Clawdbot爆火背后的9个真相：创始人首次公开访谈全揭秘
Clawdbot（现名Moltbot）爆火，GitHub星数激增。其创始人Peter Steinberger首次公开访谈揭秘9个真相，包括项目原型1小时完成、被AI语音回复震惊、被强制改名等，还分享对融资、安全及行业趋势的看法。
The Batch: 901 | 医疗健康聊天机器人争相登台
OpenAI和Anthropic在医疗健康市场布局，OpenAI发布面向消费者的ChatGPT Health，可调取医疗信息，有安全隐私措施；Anthropic推出面向医疗专业人士的Claude for Healthcare，可加快文书处理。此前谷歌健康摘要功能因错误信息被撤。
中美算力，站在2000亿美元的分岔路口
高盛报告称2025年全球人工智能投资规模或接近2000亿美元。中美算力发展站在分岔路，中国追性能，美国被能源限制。全球算力市场有新变化，中国本土芯片崛起，各方也在热议AI是否有泡沫。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
座舱芯片，谁能从高通手中抢市场？
座舱芯片领域，高通凭借技术和生态优势成为霸主，与全球主流车企合作稳定。但本土厂商如MTK、芯擎等通过成本、本土化服务等错位竞争提升份额。同时，舱驾融合虽为趋势，但推进难度大。
工作场景AI化，一个月花100美元订阅AI工具值吗？
AICon 全球人工智能开发与应用大会 2025 北京站即将召开，InfoQ 直播栏目邀请来也科技胡一川、阿里汤威、美团邹明远、快手王东旭探讨 AI 时代「10x 个体」与「10x 组织」，分享落地路径、效率提升及工具使用经验。