「AI安全测试」共找到 11012 篇相关文章
IDE消亡之年？Steve Yegge两句狠话：2026年还用IDE就不行，每天烧500–1000美元Token才合理
Steve Yegge和Gene Kim认为，从2026年1月1日起，依赖传统IDE的工程师会被拉开差距，这是‘生产方式换代’。他们还提到AI将重塑软件开发，无开发或成现实，新开发方式价值更优。
Runway重夺全球第一！1247分碾压谷歌Veo3，没有千亿算力也能干翻科技巨头
Runway Gen - 4.5击败谷歌Veo3，以1247的ELO分数在Artificial Analysis榜单中重夺AI视频王座。它在多方面树立新标杆，虽有局限，但创始人认为其是通用模拟引擎，应用场景广泛。
大模型推理学习新范式！ExGRPO框架：从盲目刷题到聪明复盘
上海人工智能实验室等团队提出经验管理和学习框架ExGRPO，能科学管理经验。与传统RLVR方法比，它在不同基准提升性能，尤其复杂推理任务，还揭示滚雪球效应，为模型推理训练提供新思路。
英伟达4段简短提示词，IOI夺金！开源模型也能征服最难编程竞赛
英伟达研究者提出GenCluster框架提升开源LLM解题能力，让开源模型gpt - oss - 120b在IOI 2025获金牌级别高分。它执行‘海选+筛选+比拼+提交’流程，优势明显，标志开源AI里程碑式突破。
马斯克亲自点名Karpathy迎战Grok 5！别神话LLM，AGI还要等十年
OpenAI创始元老Karpathy称AGI仍需10年，指出实现AGI难题多。马斯克点名其与Grok 5编程大战被拒。Karpathy还谈及LLM、强化学习、智能体等观点，主张合理看待AI发展。
OpenAI Sora 2 登场！同步推出APP，Altman称这是创意领域的「ChatGPT 时刻」
OpenAI官宣新一代AI视频模型Sora 2，在物理准确性、逼真度等方面刷新SOTA，实现「音画同步」。Altman称其为创意领域的「ChatGPT时刻」。还推出Sora App，有新玩法，且在安全治理上布下「安全网」。
惊爆提示词漏洞？Prompt 工程师开始失业
Noma Labs披露Salesforce Agentforce的“ForcedLeak”链式漏洞，攻击者串联“提示注入”致敏感数据外泄。ESET也报告AI勒索软件PromptLock。Prompt正转向Context，Prompt工程师或失业，价值向能组织语境流程者转移。
OpenAI编程新王GPT-5-Codex发布，7 小时搞定复杂代码，准确率飙升
OpenAI发布编程系统GPT - 5 - Codex，它是GPT - 5针对Codex产品的升级。能独立处理复杂编程任务，在性能、代码审查、前端开发等方面表现出色，还有严密安全体系，驱动Codex产品生态升级。
18岁女孩做养老机器人，上线2天卖爆了
18岁女孩Audrey Lo和团队推出养老机器人Sam，上线两天订单多到网站崩溃。它能24小时监测老人安全、提供陪伴，还可辅助护理人员。Audrey Lo此前还有两次创业经历，这款产品戳中市场痛点。
LeCun今后发论文得亚历山大王批准！Meta搞出大无语操作
量子位独家获悉，Meta宣布FAIR对外发表论文须经TBD审核。TBD由首席AI官Alexandr Wang执掌，与FAIR是平行关系。此规定引发FAIR内部不满，有人跳槽，Alexandr Wang行事风格饱受争议。