「Bug 风险」共找到 639 篇相关文章
Linus一句话说透Al局限：代码不能直接用，bug只能创可贴式地修
本文是 Linus Torvalds 在开源技术会议上与 Dirk Hohndel 的对话。Linus 从工程实践出发，谈到 Linux 内核开发节奏、硬件支持取舍、语言之争及 AI 应用。他认为 LLM 是工具，有价值但无法替代长期维护者经验。
所有人在让Agent更强，YC却投了一家靠Agent翻车赚钱的公司。
YC孵化的新公司Mount给AI Agent卖保险。如今企业大量使用Agent，但翻车规模也在扩大。Agent频繁出事或因引入新型债务，工程手段只能降低风险，剩余风险可被保险覆盖。YC CEO有独特比喻。
Anthropic 联创曝内部工程师已不写代码了，但工作量翻倍！开发者嘲讽：所以 Claude bug才那么多？
Anthropic联合创始人透露公司工程师已不写代码，通过管理AI Agent系统写代码，工作量达原来2 - 3倍，还提议向AI公司征税。但开发者质疑Claude存在诸多问题，认为AI写代码未到革命地步。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
DeepSeek-V3.2被找出bug了：疯狂消耗token，答案还可能出错，研究人员：GRPO老问题没解决
DeepSeek-V3.2虽强且火爆，但被发现存在bug，即浪费token问题。研究者指出这源于GRPO算法的‘隐藏偏见’，虽修正了‘难度偏见’，但‘长度偏见’仍在，官方也承认token效率是挑战。
社会奖赏激进的人？真相比你想的更残酷
文章探讨社会是否奖赏激进者。从AI使用场景引出话题，指出心理学上冒险者有优势，但存在幸存者偏差。提出应采用杠铃策略，在不对称风险中果断行动，同时强调并非所有领域都适合激进。
从「说错话」到「干错事」：复旦、CityUHK、SMU、UIUC等13家机构联合发布「具身智能安全」综述
具身智能正从实验室走向现实世界，却带来‘干错事’的现实风险。13家机构38位学者联合发布70+页综述，提出‘能力—风险’二象性，梳理各能力层攻击面与风险，还指出研究空白，维护开放资源生态。
毕马威：企业对AI Agent智能体试点应用猛增
毕马威2025年一季度AI应用报告显示，企业对AI Agent智能体试点应用猛增，自上季度以来试点企业比例从37%升至65%，在各业务场景广泛探索，但应用中面临员工培训难题，企业也采取了风险缓解措施。
Nature发布Delphi-2M模型，提前20年预测你得什么病
2025年9月17日《自然》发表研究成果，欧洲、德国和丹麦科学家改造GPT架构，推出Delphi - 2M模型。它能预测1258种疾病及死亡风险，依据过往病史等提供风险概率，虽有局限但潜力大。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。