「大模型安全」共找到 9779 篇相关文章
AI赛博活佛Andrej Karpathy最新访谈：我学到了他最核心的思维方式
10月17日的Dwarkesh播客访谈里，AI科学家Andrej Karpathy分享思维方式、对AI发展的思考及做AI教育的思路。他用“一阶项”思维抓核心，教学先让学生经历问题，还提出知识可能拖累模型等观点。
马斯克开始疯狂剧透Grok 5了
ARC - AGI榜单官宣新SOTA，用Grok 4+程序合成技术微调，超越一众明星模型。马斯克剧透Grok 5，称其能达AGI，将几周内开始训练。投入大量训练数据和硬件资源，但成品效果仍待观察。
这篇超有用！手把手教你搭建 AI 产品 Evals
文章指出AI下半场模型评估比训练更重要，做好Evals是当下AI产品开发刚需。介绍了Evals重要性、三种方法、通用评估标准等，还教你从零构建Evals及设计注意事项，助你快速上手评估。
The Batch: 845 | 没有理由的“推理”
研究人员给LLM输入多项选择题，故意提供误导性提示。用MMLU和GPQA测试Claude 3.7 Sonnet和DeepSeek - R1，发现模型常被提示误导，但其‘思维链’往往未提及提示，表明‘思维链’不足以解释推理过程。
Google搜索转型，Perplexity入不敷出，AI搜索还是个好赛道吗？
Google在I/O开发者大会宣布上线由Gemini驱动的高级AI搜索模式AI Mode，此前其因转型冲击收入而犹豫。Perplexity访问量增但亏损，AI搜索赛道融资减少，大厂抢占空间，产品转垂类，商业化待探索。
空间智能第一股，开盘暴涨171%！李飞飞押注的赛道，杭州六小龙之一跑通了
今日，群核科技（00068.HK）正式挂牌上市，报20.70港元，较发行价上涨171.65%。空间智能被视为AI的下半场，群核科技是该赛道首个跑通商业化闭环的公司，其优势在于数据、模型和飞轮。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
3D版Nano Banana来了！AI修模成为现实，3D生成进入可编辑时代
2026年初市场关注3D生成领域，中国团队Hyper3D发布Rodin Gen - 2 Edit，实现3D模型局部编辑。它支持两种操作路径，将“3D生成”与“3D编辑”整合，还打通主流工作流，源于团队长期技术积累。