「幻觉评估」共找到 918 篇相关文章
我们开源了一个可以降低 AIGC 率的模型
毕业季学校查 AI 率，作者为降 AIGC 率，经尝试不同路径后训练出模型。介绍训练数据和过程，包括 SFT、DPO 各阶段，展示改写效果，还开源模型和数据，最后引发对教育检测的思考。
迎接范式革命：最新、最全的大模型Latent Space综述，NUS、复旦、清华等联合出品
大模型核心计算正从显式空间转向潜在空间，现有文献缺乏统一视角。NUS、复旦等机构的综述《The Latent Space》从五大视角构建框架，阐述潜在空间基础、演进、机制、能力，指出挑战与未来方向。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
GSMA联合权威组织发起全球电信AI故障排查挑战赛，吸引超1000支队伍。赛事依托权威评估框架，设丰厚奖励，分多个赛道，还将开展智能体任务，预示电信运营模式重构。
小模型也能精确计算：WorldModel-Qwen的推理时代码执行实验
开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
突发！中国商务部已启动对Meta收购Manus的审查。
据英媒爆料，中国商务部启动对Meta约20亿美金收购AI初创公司Manus审查，重点评估其技术出口管制及地缘政治风险，审查处早期阶段，此事件给AI创业者释放监管信号。
拒绝「盲修」：JarvisEvo 如何让 Agent 像人类一样拥有「视觉反思」能力？
现有 Image Editing Agent 缺乏视觉反馈，易致「指令幻觉」和 Reward Hacking。JarvisEvo 应运而生，它通过 iMCoT、SEPO、On - Policy Reflection 等技术，结合 ArtEdit 数据集和三阶段训练，在修图上表现出色，意义超图像编辑。
多人会话视频生成新突破：香港科技大学，浙江大学用单人数据实现多人交互视频生成
香港科技大学、浙江大学等开源 AnyTalker，提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略，以少量数据实现多人视频生成，还构建评估指标，性能超现有方法。