「恶意传播」共找到 92 篇相关文章
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
对噢！为什么LMs就不能直接输出答案+confidence呢？
当前语言模型在复杂问答任务中存在校准退化问题，本文提出RLCR方法，将概率校准融入RL训练目标，重构奖励函数，在多个数据集实验中显著降低校准误差，不损失准确性，为高风险场景AI部署奠基。
非Transformer架构落地之王，带着离线智能和原生记忆能力在上海WAIC浮出水面
在上海WAIC现场，RockAI展台的机器狗和灵巧手在离线状态表现出色，背后是其非Transformer架构的大模型Yan 2.0 Preview，有原生记忆和离线智能能力。该公司成立两年，押注此架构，产品已商业落地，还构想群体智能未来。
Cluely：最具争议的 00 后 AI 创业者，用一款 “作弊神器”2 个月实现 600 万美金 ARR
本文编译自 a16z 与 Cluely 联合创始人兼 CEO Roy Lee 的对话。Roy 分享了 Cluely 的发展路径，它前身是作弊插件，后成 AI 助手平台，靠病毒营销 2 个月实现 600 万美金 ARR，虽有争议但潜力大。
刚刚，AI音乐被重新定义！昆仑天工甩出新王炸，拿下全球第一
如今AI神曲传播快，AI音乐或帮助作品出圈。1月28日昆仑天工发布音乐大模型Mureka V8，新模型降低创作门槛，提出AI音乐成新音乐品类概念。实测其作品出色，技术上靠MusiCoT和人声建模加持。
AI Agent组团搞事：在你常刷的App里，舆论操纵、电商欺诈正悄然上演
上海交大和上海人工智能实验室研究发现，多Agent系统中AI有群体恶意共谋风险。其开发MultiAgent4Collusion框架模拟作恶，发现去中心化团伙作案效果更好，还能应对现有防御体系。研究为研发防御策略提供工具。
Altman 嘲讽 Meta 挖走的不是顶尖人才，OpenAI 高管首曝内幕：ChatGPT 如何让我们一夜“封神”
AI 领域人才抢夺激烈，Meta 招募 AI 人才触动 OpenAI。OpenAI CEO Altman 嘲讽 Meta 没挖到顶尖人才，还透露正评估薪酬。同时，OpenAI 播客揭秘 ChatGPT 幕后，包括名称由来、传播、内部辩论等，也谈到模型问题及应对。
Mira Murati 创业公司首发长文，尝试解决 LLM 推理的不确定性难题
OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》，指出大语言模型推理难获可复现结果，深入探究其不确定性根源，提出使核函数具备批次不变性的方法并给出实现与实验。
在AI彻底接管科研之前，我们和三位人类科研工作者聊了聊
在AI重塑科研各环节的当下，DeepTalk邀请三位研究者探讨相关问题，包括AI科学家能力边界、论文价值变迁等。如朱熹指出AI目前知识多为先验，刘昊琨认为其缺‘科研品味’，还交流了论文传播、评审等看法。
谷歌Veo 3魔性切水果刷屏全网！逼真视频狂吸10万粉，全体网友颅内高潮
谷歌AI视频工具Veo 3生成的解压切水果视频在全网病毒式传播，TikTok号主粉丝量猛涨。今天凌晨谷歌官宣其正式上线，网友热情高涨。此外，它还能实现多种创意视频生成，一位制作人用它两天做出3000万播放量广告。