「AI安全研究」共找到 10789 篇相关文章
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
AI 炮制的“工作垃圾”，正在摧毁你的生产力
尽管生成式AI在工作场所使用激增，但多数公司难见可衡量的投资回报率。原因可能是AI工具产出“工作垃圾”，表面光鲜却空洞。文章分析现象、影响，并为组织提出避免“一刀切”等应对原则。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI“厌世、反人类”。Anthropic CEO Dario Amodei暗讽马斯克说法“危言耸听”，还改口称软件比白领更易被AI击穿。此外他还谈了AI在多领域的影响及风险应对。
AI穿越战争迷雾，72%的准确率化身中东冲突预言家
阿联酋和美国研究人员用中东冲突测试AI推理表现，发现其能看透利益博弈、预判战局演变。AI擅沿客观限制推演，在经济领域敏锐，政治领域较难，整体预测准确率达72%。
GitHub上已突破5.1k stars！这是真正被开发者认可的 AI Agent平台，AI开发者必看，如何用它实现生产力逆袭？
TaskingAI是AI - native应用开发平台，整合多模块提供一站式BaaS体验，简化AI应用全流程。它支持多模型，有检索、工具插件等功能，适用于客服、销售等场景，还对比同类项目展现优势。
分享一些可以让AI使用更丝滑的小技巧
作者起初用AI不顺手，经研究摸索发现是指令有误。分享沟通技巧，如给身份、给参考风格、用“说人话”“举例子”，还可当头脑风暴搭子，强调清晰指令能助自我认知。
禁止开源 AI？绝对不可能。不是，那您也不能植入代码啊
对岸AI监管升温，开放权重的AI模型或进入“事前准入”流程。开源AI模型有诸多优势，闭源模型并不天然可信。应分级治理开源风险，中国开源模型崛起或改变全球AI竞争格局。
Anthropic "泄露"Claude Mythos 最强模型到底有多猛？
Fortune爆出Anthropic因CMS配置失误，致新模型Claude Mythos信息泄露。该模型有阶跃式进步，在多领域表现超前代，网络安全能力突出。此事反映AI迭代快但安全待提升，安全成模型评估关键。
AI卷到物理世界，小米迎来自己的主场？
该文探讨小米在物理AI领域的发展。物理AI与生成式AI有别，更重感知与执行。小米有手机、汽车、家庭入口，补齐多样能力，成全球首个在「人车家全生态」落地物理AI的公司，优势显著。
Google新研究：降低大模型幻觉的全新视角——充分上下文！
谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念，剖析RAG系统失败原因并给出解决方案，对提升企业AI准确性和可靠性有重要意义。