「概念注入」共找到 468 篇相关文章
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
Zendesk：生成式 AI 让代码不再稀缺，研发瓶颈转向“吸收能力”
Zendesk 提出生成式 AI 改变软件交付核心制约因素，从编写代码转为‘吸收能力’。文章阐述该概念，提出四项应对措施，还指出 AI 对不同系统的影响，深化了编码非瓶颈的观点。
Claude神之bug：给自己下指令，还诬赖用户？？Hacker News炸了
强如Claude也现诸多bug，如分不清发言角色，把恶意注入指令当用户请求。技术根源是Transformer架构注意力机制盲区。网友给出避坑方案，还吐槽Claude算力调整、计费乌龙等问题。
第 4 章 Agent 开发实战
本章面向理解大模型、会 Python 但未系统搭建过 Agent 的工程师，采用「概念 → 最小示例 → 可运行项目」结构，介绍 Agent 开发实战，涵盖 LCEL 拼装、工具暴露等内容，还说明了开发环境搭建方法。
香农、信息论、AI、Scaling Law，以及信息的观察者效应
文章围绕经典信息论在AI实践中的矛盾展开，介绍CMU和NYU论文《From Entropy to Epiplexity》提出的新概念，解释合成数据、数据排序等问题，还探讨合成数据飞轮能否持续，指出epiplexity可定义数据质量。
Claude code让程序员消失，Anthropic却说用AI编程会让你变傻
Anthropic科学家实验发现，新手过度依赖AI编程，概念理解、代码阅读和调试能力显著退化，效率未提升。研究识别六种AI使用模式，指出主动思考才是技能形成途径，应保留人脑训练的“摩擦力”。
DeepSeek又又又又发新论文了！这一次，他们重构了AI看图的方式
DeepSeek发布论文DeepSeek - OCR 2，指出传统AI看图方式有误，提出视觉因果流概念。其两阶段级联推理解法效果显著，还可能整合进即将发布的DeepSeek V4，有望实现原生多模态。
G2ConS将微软GraphRAG的成本被打下来了~
传统Text - RAG处理多跳推理表现不佳，GraphRAG虽能提升准确率，但成本高。作者提出G2ConS方案，在3个多跳QA基准全面SOTA，平均节省30%费用，EM提升31.44%，整体流程仅3步。
硅光，到底是个啥？
硅光是光通信热门概念，被认为是光通信未来。文章介绍其定义、光模块架构原理、优点及应用场景，指出虽有短板和产业标准化问题，但前景广阔，国内企业也在加速追赶。
惊爆提示词漏洞？Prompt 工程师开始失业
Noma Labs披露Salesforce Agentforce的“ForcedLeak”链式漏洞，攻击者串联“提示注入”致敏感数据外泄。ESET也报告AI勒索软件PromptLock。Prompt正转向Context，Prompt工程师或失业，价值向能组织语境流程者转移。