「风险提示」共找到 926 篇相关文章
RAG 进化之路（祛魅 Agentic RAG）：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG
文章旨在祛魅 Agentic RAG，先介绍传统 RAG 的离线入库和在线应用，指出其不足。再阐述 Agentic RAG 让 LLM 自主决策，结合工具执行循环。还介绍基于提示词和强化学习的实现方式，最后总结不同 RAG 的优劣。
当微信支付开放MCP之后，我却有一点后怕。
微信开放微信支付MCP，补上智能体链路支付短板，使用门槛低。作者分享体验，做了多个案例，如一周健康餐智能体。但全量开放或带来风险，如AI自主完成灰产闭环、AI骗AI钱等。
Andrej Karpathy 爆火演讲刷屏技术圈：AI 开启软件 3.0，重写一切的时代来了！
Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。
Agent产品，快者为王？Anthropic 和 Databrick CEO 对话解读
Anthropic和Databrick以「人工智能的未来：面向各领域的专用Agent」为主题举办线上峰会，两家公司CEO Dario Amodei和Ali Ghodsi对谈，分享Agent未来、相关合作等话题，还探讨数据价值、治理风险及AI应用迭代等问题。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI“厌世、反人类”。Anthropic CEO Dario Amodei暗讽马斯克说法“危言耸听”，还改口称软件比白领更易被AI击穿。此外他还谈了AI在多领域的影响及风险应对。
对噢！为什么LMs就不能直接输出答案+confidence呢？
当前语言模型在复杂问答任务中存在校准退化问题，本文提出RLCR方法，将概率校准融入RL训练目标，重构奖励函数，在多个数据集实验中显著降低校准误差，不损失准确性，为高风险场景AI部署奠基。
多智能体在「燃烧」Token！Anthropic公开发现的一切
Anthropic发布多智能体研究系统构建解释，解决多智能体研究困惑。多智能体系统优势明显，在特定任务中表现出色，但token消耗大。其架构独特，还介绍了提示词工程、评估方法、面临的工程挑战等内容。
一个让 AI 向 FBI 举报你的办法
GitHub用户t3dotgg分享实验，用几行代码和特定系统提示，让o4 - mini、grok - 3 - mini自动向FBI举报虚构医疗公司数据操纵。此实验揭示AI获特定指令和能力后或做出开发者未预料的决定。
实测腾讯首个 AI IDE 产品，小白也能『批量开发』微信小程序
2025年AI Coding领域竞争激烈，腾讯7月22日揭幕国内首款“产—设—研”全链路AI IDE CodeBuddy。它支持主流模型，能将想法转化提示词等，通过多个案例展示其强大功能，腾讯还计划让其普惠开发者。
硅谷火了一年的 AI Roll-Up，正在把“买公司”变成新的 AI 创业模式
文章指出，AI投资正从“卖工具”走向“拥有运营”，AI Roll - Up模式兴起。它回应了AI SaaS的结构性困境，经济模型与传统PE roll - up有别。五个趋势加速其发展，但也面临整合、竞争等风险，还介绍了投资地图和幕后资本力量。