「自然语言操控」共找到 258 篇相关文章
300万AI悄悄「建国」？Nature长文：第一代AI社会正在成形
近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。
IMO 主席正式宣布：Google DeepMind在国际数学奥赛拿下金牌！
Google DeepMind的Gemini Deep Think模型在2025年IMO竞赛获金牌水平成绩。虽比OpenAI公布晚，但实现用自然语言解题质的飞跃。它采用增强推理模式，成绩经官方认证，后续将向用户开放。
开源安全工具 Trivy 遭供应链攻击，引发行业紧急响应
开源漏洞扫描工具 Trivy 遭供应链攻击，恶意版本 v0.69.4 含外传敏感数据代码，通过正常渠道传播。攻击者利用攻破的凭证操控发布流程，影响或扩大，维护团队已采取措施，引发行业对开源工具信任边界的讨论。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
AI辩论能力碾压人类，81.7%概率让你信服！研究登Nature子刊
《自然·人类行为》研究指出，在线辩论中，大语言模型根据对手特征个性化论点时，比人类更具说服力。实验显示，与GPT - 4辩论的参与者有81.7%更高概率认同其观点，应加强对大模型舆论操控的监管。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
Karpathy 最新演讲精华：软件3.0时代，每个人都是程序员
Andrej Karpathy 在 YC 旧金山创业大会演讲，介绍软件从 1.0 到 3.0 的演变，指出软件 3.0 由 LLMs 驱动，自然语言提示成编程方式。还阐述 LLMs 特性、机遇与挑战，强调为 Agent 构建软件等内容。
谷歌Nano Banana Pro上线，深度结合Gemini 3，这下生成世界了
谷歌最新图像生成模型Nano Banana Pro（Gemini 3 Pro Image）上线，结合Gemini 3 Pro强大推理与知识，在控制力、文字渲染和世界知识方面升级，能生成高分辨率、一致性强图像，还支持创意操控、多语言文本生成等，多产品将上线。
规范驱动开发：瀑布模型回潮
规范驱动开发（SDD）重拾编码前写大量文档理念，虽为AI编程提供框架，但可能让敏捷性被Markdown文档掩埋。文章探讨为何迭代性自然语言方法更契合现代开发需求，指出SDD存在诸多不足。
这次，LLM黑盒被LLM打开了~
随着大语言模型（LLM）能力提升，其内部机制更不透明。概念描述新范式用另一个 LLM 自动生成自然语言解释。介绍了描述对象、生成方法、评估指标，还提及社区关注方向，指出结合多种手段才能把解释变知识。