「信任问题」共找到 3346 篇相关文章
杨植麟预告，Kimi K3要来了
月之暗面团队海外AMA透露Kimi K3相关信息。K3或采用KDA架构，有低成本优势；通过开源解决信任问题；将推出不同规格模型；产品打磨注重写作、视觉能力及NSFW内容探索。Kimi性价比模式或改写行业规则。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
谷歌AI掌门人、诺奖得主Demis：AGI 需要打破“金鱼记忆”，而谷歌无论泡沫破裂与否都将是赢家
谷歌AI掌门人Demis接受专访，回应AI是否有“金鱼记忆”、AGI定义等尖锐问题。他认为通往AGI需突破，大模型是核心组件；真正AGI要能执行人类所有认知任务，离实现还有5 - 10年；还看好智能眼镜，强调保护用户对AI信任。
谷歌开始肢解DeepMind，数个团队被划归总部
DeepMind换帅一周后震荡持续，谷歌将拆分它，把部分非技术团队转入谷歌汇报体系。谷歌联合创始人谢尔盖·布林重新介入Gemini。此外，Gemini因算力、内讧、官僚等问题落后。
一年吃掉一块固态硬盘，Codex日志bug被骂「劣质软件」
OpenAI旗舰编程工具Codex因日志Bug，一年写入量达640TB，耗尽硬盘寿命。该问题4月就有反馈，拖两月才处理，仅减少约85%写入。Codex类似问题至少9个，AI编程工具质量引质疑。
华人团队让AI把表格“翻译”成问题，检索速度×5
表格检索在RAG里是小众问题，传统表格问答系统有Retriever和Reader组件，关键是对齐表格与问题语义。QGpT能生成模拟问题，使表格语义更丰富、对齐更准确，分离线、在线阶段，训练后可提升检索收益。
Claude神之bug：给自己下指令，还诬赖用户？？Hacker News炸了
强如Claude也现诸多bug，如分不清发言角色，把恶意注入指令当用户请求。技术根源是Transformer架构注意力机制盲区。网友给出避坑方案，还吐槽Claude算力调整、计费乌龙等问题。
几月前的伤心事，ChatGPT突然翻出来提醒我？网友当场破防：太会捅刀子了！
今年4月，OpenAI发布ChatGPT「记忆」功能并不断升级，能形成个性化档案，但也带来问题，如提及伤心事、造成社死等，背后有无意的算法残忍和上下文崩塌两类问题。
奇点之前，一场关于Physical AI的闭门会议
过去一年，Physical AI成全球AI产业热门方向，诸多关键问题待解。今年9月，上海物理智能与机器人研究院将发起PAIR 2026闭门会议，聚焦未决技术问题，促进多方交流和资本配置。
北大校友，OpenAI前安全副总裁Lilian Weng最新万字博客文章：Why We Think
北大校友Lilian Weng新发布万字博文《Why We Think》，系统梳理让AI模型‘多想一会儿’的前沿方法及逻辑，深入剖析多种机制突破AI性能瓶颈的理论、技术与进展，还提出一系列待解决的开放性问题。