「AI安全测试」共找到 11012 篇相关文章
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
NLWeb: 让每个网站都装上一个智能的“对话引擎”
微软近日开源NLWeb项目，致力于简化网站构建对话式交互界面的过程。它利用现有网络生态，定义协议让用户或AI代理与网站交互，具有降低门槛、开放社区驱动等优势，目标是构建“AI Web”。
AI 有了“工号”，数据平台长出了手：Snowflake World Tour 上的三个变化
本文是白鲸开源CEO郭炜参加Snowflake World Tour上海站后的参会总结，提炼出三个值得关注的行业变化，洞察Agent时代数据平台的边界重构趋势。
Loop-ViT：让AI学会「反复思考」，3.8M参数小模型追平人类平均水平
香港科技大学等团队提出 Loop - ViT，将循环 Transformer 引入视觉推理领域。该模型参数少但性能强，3.8M 小版本追平人类平均水平，揭示视觉推理任务中‘思考时间’比‘模型大小’更重要。
亚马逊开建AGI实验室，一号位也是华人
亚马逊借Gen AI浪潮转型，去年9月成立Amazon AGI SF Lab，一号位是华人David Luan。实验室高手云集，其首个产品Amazon Nova Act表现出色，秘诀在于强化学习，为AI搭建“健身房”。
「0污染」LLM理解基准来了！20000道题14个学科全覆盖，来自微软
MMLU-CF是微软亚洲研究院推出的无污染多任务语言理解基准测试，含20000道题、覆盖14学科。通过去污染规则和闭源测试集防数据泄露，保证评估结果可靠，已在Huggingface开放。
程序员从此不再写代码！红杉专访Codex团队，o3白菜价真相曝光
红杉专访OpenAI Codex团队，揭示AI编程未来。Codex从代码补全演化为智能体，强调委托心态，开发者从动手转向审核。还爆料OpenAI内部有递归自我改进的AI Alice。
审美在线、随叫随到、月薪19刀——Lovart把AI设计师这件事做认真了
Lovart适合无设计预算的人，将专业设计师装进AI工具。其Brand Kit解决风格不稳定问题，Font Generator可生成专属字体，Create Skill能固化学习成本，还有Export PSD、Mock Up等实用功能，月费仅19美元。
最强开源机器人大脑！蚂蚁两万小时真机数据开启物理AI缩放定律
蚂蚁集团开源具身智能基座模型LingBot-VLA，用两万小时真机数据证明机器人学习有缩放定律且未达瓶颈。该模型优势显著，在多平台表现出色，团队还从数据、架构、工程等方面进行优化，并开源代码等加速行业探索。
英伟达H200有望对华出口，我国AI芯片企业如何正面硬刚？
据路透社消息，美国或批准英伟达H200芯片对华出口，此前英伟达在华新增市场份额归零，但黄仁勋仍想重返。同时介绍国内多家AI芯片企业，如海光信息、华为昇腾等的产品和业绩情况。