「认知安全」共找到 1196 篇相关文章
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
大神Karpathy炮轰复杂UI应用没有未来，Adobe首当其冲，网友：不提供文本交互，就是在阻挡AI浪潮
大神Karpathy预言只有复杂UI界面、不提供文本交互的应用将被淘汰，还点名Adobe、CAD。他言论引发讨论，支持者强调后端接口，反对者认为专业软件有其价值。此外，他还批判大模型编程‘重生成轻判别’。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
分享一些可以让AI使用更丝滑的小技巧
作者起初用AI不顺手，经研究摸索发现是指令有误。分享沟通技巧，如给身份、给参考风格、用“说人话”“举例子”，还可当头脑风暴搭子，强调清晰指令能助自我认知。
刚刚，OpenAI首席未来学家离职！曾被马斯克骂蠢驴
OpenAI首席未来学家Joshua Achiam宣布7月24日离职，他在该公司工作9年，曾领导使命对齐团队。他未透露离职原因，称思考已久。此前他曾打断马斯克，被骂“蠢驴”。OpenAI安全线近年人员变动频繁。
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队等最新研究打破传统认知，揭示‘对齐税’现象。提出置信解码策略，在多架构、评测集上表现出色，能绕过‘对齐税’，提升推理准确率，且工程开销低，为大模型发展提供新思路。
GPT-5.6紧急叫停！OpenAI最强模型被迫「一客一审」
因网络安全考量，OpenAI最强模型GPT-5.6被紧急叫停，进入「逐个审批」时代，先有限预览，客户访问权限逐一审批。开发者已发现其相关代码，它在前端UI设计等方面实力大涨，但发布开关被拿走。六月三大旗舰模型集体卡壳。