「模型风险」共找到 8189 篇相关文章
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。
AI 真的太贵了
国内AI套餐价格高、额度低，用户体验不佳。多数国产模型开源，不存在资源问题，但厂商毛利率高达90%。高价阻碍应用层发展，AI应降低价格，让更多人用起来，提升社会生产力。
Claude 刚刚上线 “群聊Agent”：Karpathy盛赞的交互新范式，还是打工人的“数字监工”?
当地时间6月23日，Anthropic上线Claude Tag，可接入Slack用于多人协同办公。前OpenAI大神Karpathy盛赞其为交互新范式。不过它也引发隐私担忧，且对“套壳产品”不利，或利好开源模型。
一天斩获2.5k星星！首个可以「让AI直接画CAD」的开源项目来了
新开源项目text - to - cad很猛，只需把需求告诉AI，它就能生成可编辑3D模型、导出文件，还能预检。支持多格式，有几何引用等特点，一天获2.5k星。
5月5日5点55分，GPT-5.5自己选客人开派对！Codex反超Claude Code
5月5日下午5:55，GPT - 5.5将举办派对，时间自定，客人由Codex挑选。过去两月，AI编程工具圈开发者从Claude Code转向Codex。虽Claude模型强，但工具体感上Codex占优。
计算机科学专业第三次大衰退？原因：AI
近日，风险投资人Deedy Das称计算机科学专业迎来第三次重大衰退。2025年秋季，该专业在校生人数降幅大，排名下跌。历史上该专业有两次衰退，这次AI成主因，不过部分学生转向相关细分专业。
重建安全，Kai种子轮拿了1.25亿美元，有点象龙虾
大模型用于网络攻击，传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元，它从根本上重建安全，用单一智能体AI平台自主完成安全工作，愿景是整合网络安全和IT功能。
全国首部“AI生成内容合规”标准，欢迎加入起草！
随着AIGC转向产业落地，监管加强，但AI生成内容风险仍凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，提供落地方案，现公开征集起草单位与专家。
一夜爆火，Clawdbot是否才是真正的AI入口产品？
文章介绍近期在GitHub爆火的开源项目Clawdbot，它是运行在本地设备、有“手脚”和“记忆”的AI智能体。还分享部署方案，从产品层面分析其特点，最后提醒安全风险。
结构化预处理让DeepSeek准确率提升51%，现已开源丨清华&深言
零成本降低大模型幻觉新方法LingoEDU，让DeepSeek准确率提升51%。它对上下文精准切分，形成篇章结构树。能解决现有方案两难困境，在多方面实验表现出色，有根治幻觉等核心价值。