「依赖风险」共找到 915 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
OpenAI×英伟达，可能创造了人类史上最大万亿级泡沫
短短两周内，OpenAI、英伟达等企业间巨额投资与合作掀起资本风暴。资金循环流动形成封闭回路，看似产业协同，实则暗藏泡沫风险，引发业内对其是技术发展还是泡沫的争议。
700 美金买“真情”？AI情感类产品爆火背后：卖的不止是陪伴，而是年轻人的孤独
本文讲述林悦依赖AI情感陪伴应用的故事，指出当下AI情感陪伴类产品受欢迎，如字节‘显眼包’、卡西欧Moflin。分析市场大的原因，探讨核心价值、产品设计、商业模式等，也提及行业挑战。
NIPS2025 | A-Mem让Agent拥有动态自我记忆功能，达到新SoTA
近年来，LLM代理需长期内存系统，但现有系统缺乏灵活性。论文提出A - Mem能动内存系统，受Zettelkasten启发，能让记忆‘自我整理’和‘自我更新’，在多基准测试领先，也指出了局限性和未来方向。
腾讯开源框架 Kuikly 再升级！率先适配 “液态玻璃”，原生体验更极致
腾讯开源框架Kuikly再升级，在苹果发布iOS 26系统背景下，新增“液态玻璃”适配。文章分析了“液态玻璃”给跨端框架带来的挑战，对比不同架构路线适配情况，还介绍了Kuikly的适配经验。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
估值 16 亿美元的 AI 护士：Hippocratic AI 是全球护士短缺的解药吗？
Hippocratic AI 打造 AI Native 医疗劳动力平台，利用市场空白，自研技术架构，交付优质对话体验。其商业模式依赖 AI Agent 自主化，面临经济效益和竞争挑战，也有全球化护理需求等机遇。
独家揭秘OpenAI核心文件：AGI五级突破实锤！微软130亿投资或打水漂
新智元揭秘OpenAI核心文件，Ilya Sutskever曾预言AI无所不能，也担忧其失控后果。OpenAI与微软的合同中AGI条款成谈判核爆点，未公开论文划分AGI五级，让微软130亿投资或打水漂。