「误导性提示」共找到 965 篇相关文章
麻省理工大学：《通往通用人工智能之路》的研究报告
麻省理工科技评论洞察与Arm公司合作发布《通往通用人工智能之路》报告，探讨AGI定义、实现时间表、当前AI局限性及技术路径等。指出当前AI有局限，实现AGI需解决诸多障碍，还强调计算能力和异构计算的重要性。
迈向可信AI：LLM幻觉的分析与优化
随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
一个APP就能拍短片！人物、字幕、BGM……AI Agent统统自己搞定
剪映旗下内容创作Agent小云雀上线新功能，可文生数字人，还能根据提示词生成视频。它有“参考图生视频”玩法，能解决图片混剪难题。依托字节模型，创作门槛低，交付质量高，限时免费。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
AI 陪伴硬件的反共识讨论：主体性很重要，同质化竞争不存在
文章围绕AI陪伴硬件展开讨论，邀请创业者探讨产品角色定位、性别设定、用户反馈等问题。指出产品应注重主体性，避免破坏角色感，还提及应对同质化竞争、产品寿命、视觉研究等方面的思路。
回复：用 AI 辅导教学问题
家长询问用Gemini 2.5 pro的OCR功能辅助孩子预习九门课程的问题，包括撰写提示词、有无更合适AI方案、家长角色及评估学习成果等，回复给出对应建议，如没必要上传教材等。
Karpathy 最新演讲精华：软件3.0时代，每个人都是程序员
Andrej Karpathy 在 YC 旧金山创业大会演讲，介绍软件从 1.0 到 3.0 的演变，指出软件 3.0 由 LLMs 驱动，自然语言提示成编程方式。还阐述 LLMs 特性、机遇与挑战，强调为 Agent 构建软件等内容。