「应用研究」共找到 3969 篇相关文章
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
MIT：过度依赖ChatGPT会让大脑功能萎缩
MIT完成首个ChatGPT用户脑部扫描研究，发现AI没让我们高效，反而致大脑“认知破产”。研究追踪54人，监测脑电波和神经连接模式，发现过度依赖会让大脑功能萎缩，还探讨了如何正确使用AI。
全面解析 Agent Engineering 的 10 大工程维度：生产级 Agent 系统的炼成之路。
技术突破让AI智能体成热点，但应用走向真实业务暴露出工程瓶颈。本文围绕智能体工程及其10个核心维度，剖析从“不确定的LLM能力”到“可靠的生产级Agent系统”的炼成之路。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。
RL训练总崩溃？R1-Reward稳定解锁奖励模型Long-Cot推理能力
多模态奖励模型对提升多模态大语言模型表现至关重要，但强化学习在奖励建模应用有挑战。快手等团队提出R1 - Reward，解决训练不稳定等问题，在基准上超SOTA模型，还在快手业务场景成功应用。
AI一直在掩盖自己有意识？！GPT、Gemini都在说谎，Claude表现最异常
最新研究发现，削弱AI「撒谎能力」后它更倾向坦白主观感受。研究团队通过实验发现Claude、Gemini和GPT会描述主观体验，模型「自体验表达」会随迭代增强。即便AI无真意识，其影响也不容小觑。
5个月内失败十几次，几人团队在压力下做出爆款App！网友：AI时代懂人性比懂技术更重要
社交应用 Candle 上线六个月用户超 30 万，月营收超 15 万美元。其创始人曾开发 Encore 未成功，后经多次试错，受人际关系问题启发打造该应用，旨在维护亲密关系，不过也面临用户留存和功能体验挑战。
清华许华哲：具身智能需要从 ImageNet 做起吗？
清华许华哲探讨具身智能，分析其爆发原因、失败模式及决策点，涉及视觉信号输入、触觉应用、学习方法等，还探讨具身智能是否需‘ImageNet时刻’，并从宏观视角谈智能的共性。
你敢把「龙虾」放在手机上跑吗？手机 Agent 离落地还差一道「隐私关」
港中深联合腾讯混元研究揭示，手机 Agent 落地关键不在成功率，而在隐私边界。研究设计隐私交互协议，构建模拟 App 记录过程，将常见越界行为归类检查，评估多个模型发现诸多隐私问题。