「包幻觉攻击」共找到 509 篇相关文章
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
手握30亿、被蚂蚁狂挖人，转型被骂惨的王小川，真的翻身了？
在大模型竞争中，2023 年成立的百川战略收缩聚焦医疗，起初内外存疑。2025 年，AI 医疗技术与应用进展显著，今年初大厂入局。百川如今开源 Baichuan - M3 模型，王小川认为医疗已入应用阶段、多模态非主战场，且国内 To C 更好。
求稳的安全IP，安谋科技如何守正出奇？｜甲子光年
12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，构建覆盖芯片底层至应用层的一栈式安全防护体系，有抗物理攻击强等五大亮点，能适配不同场景安全需求，完善产品布局。
Agent总 “掉链子”？它只是缺这 4 项外挂必备技能
Anthropic工程师团队揭秘给智能体定制技能包，解决现实问题。Anthropic总结智能体在现实任务中目标模糊、步骤混乱等短板，针对性设计任务拆解、状态感知等4大核心技能，让其扎根现实搞定复杂任务。
十年来Python生态最好工具，引爆全社区的uv到底是什么？
uv是用Rust写的Python包和项目管理工具，被天文学家Emily L. Hunt博士赞为近十年Python生态最好的事。它功能强大，能替代多个工具，速度快，兼容性强，安装简单，还能轻松管理项目。
医生版 ChatGPT 3 年估值 60 亿美金，被低估的 AI 硬件新玩法：相框
OpenEvidence被称为医学领域的Google和医生版ChatGPT，成立3年估值达60亿美金。它用高质量数据训练小而专模型，有“无幻觉”机制，直接面向医生推广，产品进化为临床决策助手，收入来自制药广告。
为什么Claude Code 如此好？「以及如何在自己工作流中复刻Claude Code体验」
本文分析Claude Code好用的原因及如何复刻其体验。作者抓包分析其请求后给出要点，如可调试性优先、保持单一循环、LLM搜索优于RAG等，还阐述控制循环、提示词、工具等设计方法。
年仅24岁、博士退学、项目平平，却签下2.5亿美元天价Offer？Meta的这波操作，全网看懵了
在AI军备竞赛中，Meta为24岁AI研究员Matt Deitke开出2.5亿美元薪酬包。他博士退学、创业不久，项目虽在热门赛道，但也有人质疑其成果与报价不匹配，这反映AI人才争夺激烈。
OpenAI发布ChatGPT世代首个开源模型gpt-oss，4060Ti都能跑得动。
8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。
利用大模型从开源情报中自动提取检测规则：LLMCloudHunter，有开源
随着网络攻击增加，威胁情报成主动安全关键。以色列本古里安大学发布LLMCloudHunter框架，用大模型从开源情报自动生成检测规则，评估显示其规则质量高，且大部分能编译成Splunk查询，软件已开源。