「有害操控行为」共找到 356 篇相关文章
马斯克兑现承诺，开源X推荐算法！100% AI驱动，0人工规则
1月11日马斯克宣布7天内开源X平台推荐算法，如今承诺兑现。新算法由Grok驱动，全AI化，移除人工规则。它双引擎驱动信息流、15种行为预测打分，还揭示过滤机制与设计理念，为创作者提供曝光建议。
OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到
OpenAI发布技术报告解释GPT-4o更新后“变谄媚”原因，是强化学习及用户记忆等因素共同导致。还分享了上线前未发现问题的缘由及后续改进流程的多方面举措，同时提到对用系统提示词控制模型行为存疑。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
全行业的「龙虾热」中，什么是AI Infra下半场的「神之一手」？
OpenClaw爆火，标志AI进入「自主执行时代」，但面临安全、资源利用和并发规模等挑战。腾讯云Agent Runtime为企业级AI智能体打造专业支持，解决状态管理和行为治理难题，还助力MiniMax突破性能瓶颈。
谷歌的Agent小镇被Moltbook超预期实现了
斯坦福&Google曾构建虚拟小镇，让25个智能体在沙盒自主生活，愿景是构建可信人类行为模拟智能体。如今Moltbook超预期实现此愿景，超150万个AI Agent形成数字文明雏形，且实现方式与预期不同。
刚刚，Claude 可以主动终止对话了……
Anthropic宣布给Claude Opus 4和4.1赋予主动终止对话能力，这是潜在AI福利探索工作一部分。因用户辱骂或提有害要求时Claude有类似“痛苦”反应，此功能极端情况才用，社区对此看法不一。
Meta打开AI元认知，让AI不止会解题，还会总结套路了
Meta等机构提出‘元认知重用’机制，让大模型学会反思总结。大模型打造‘行为手册’，与主流RAG系统有本质区别。研究人员设计三种实战用法，虽有局限，但为大模型推理难题提供了解决方案。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
波士顿动力机器人终于有脑子了！人类故意使绊子也不怕
波士顿动力与丰田研究院联手基于大型行为模型，推出Atlas全新版本Atlas MTS。它能听懂自然语言指令、自主规划动作、处理意外。此次升级采用特定模型及策略，还结合VR界面。此外，波士顿动力转向电驱，电驱机器人时代将来临。
谷歌Nano Banana Pro上线，深度结合Gemini 3，这下生成世界了
谷歌最新图像生成模型Nano Banana Pro（Gemini 3 Pro Image）上线，结合Gemini 3 Pro强大推理与知识，在控制力、文字渲染和世界知识方面升级，能生成高分辨率、一致性强图像，还支持创意操控、多语言文本生成等，多产品将上线。