「AI对齐」共找到 9882 篇相关文章
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
突袭Cursor，Windsurf抢发自研大模型！性能比肩Claude 3.5、但成本更低，网友好评：响应快、不废话
当地时间5月16日，Windsurf推出首个AI软件工程模型家族SWE - 1。此系列含三款模型，性能比肩Claude 3.5且成本更低。开发者试用评价不错，但也指出存在幻觉问题。Windsurf旨在提升软件开发速度，后续将持续投入。
给Kali 加个MCP,直接用cursor做渗透测试
文章围绕用MCP调用Kali进行渗透测试展开，介绍国外大神实现此方法并开源。阐述系统原理、Cursor配置，通过实际测试展示效果，指出MCP让渗透测试调用更简洁，是较大进步，还给出了代码链接。
Jev刷屏之后，竟然有人12个月前就提出了概率并行生成？
Jev刷屏引发AI面向决策输出的讨论，本文挖掘出香港中文大学徐强团队2025年9月就已提出显式概率、并行输出、面向决策的概率预测新范式，验证模型TimePrism以极简结构取得超越复杂模型的效果，思路与Jev异曲同工。
Claude Opus 5 发布：Fable 5 一半的价格，更强的编码能力
Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。
Claude还是最强，但Anthropic这周好像疯了
Anthropic状告阿里蒸馏模型致其股价创新低。一位87年创业者用AI搭工作流，起初用DeepSeek和Qwen问题多，换Claude后流程顺畅。MRCR v2测试显示国产模型与Claude有差距，便宜与省心模型该怎么选成问题。
拖更三年，北大校友翁荔最新长文刷屏！
前OpenAI副总裁Lilian Weng发布拖更三年的长文《Scaling Laws, Carefully》，指出AI行业依赖的Scaling Laws远比想象脆弱。OpenAI和DeepMind对算力分配结论相反，且Chinchilla方法论也有问题，同时数据快用完，经典公式前提在崩塌。
TRAE Work Design 初体验：设计领域的翻译器
作者体验了TRAE Work新上的Design模式，认为它像设计领域的翻译器，能降低中间翻译成本。以产品原型、PPT、公众号头图等为例，展示其优势，指出AI Design降低表达和执行门槛，凸显专业判断力的重要性。
Midjourney新副业曝光：50万个传感器藏进浴池，60秒生成你的3D身体地图
搞AI绘画的Midjourney官宣将在旧金山开Spa馆，背后是进军医疗硬件的新项目Midjourney Medical。其用Midjourney Scanner做全身超声波扫描，能快速生成高精度3D身体地图，还规划了落地路径和长期扩张目标。