「安全设计」共找到 2126 篇相关文章
马斯克放出编程界价格屠夫！Grok Code Fast 1：更快，更省，还免费
近日，马斯克旗下xAI发布全新编程模型Grok Code Fast 1，它为“代理式编程”而生，靠全新架构实现高速代码生成。在技术出色的同时，价格低廉还限时免费，虽在部分场景有不足，但仍是开发者实用工具。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
狂涨 17.7K star!!智能查询导入、数据可视化、AI 迁移，这款开源数据库图表工具火了！
日常开发中，数据库设计和管理工作繁琐易出错。本文介绍超实用开源项目 ChartDB，它能将数据库结构可视化，AI 帮导出 SQL，有一键导入、AI 驱动导出等特性，开源免费，多种方式安装。
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
开源的 V0/Lovable 替代方案Libra AI
Libra AI是面向生产环境的AI原生开发平台，可通过自然语言交互管理Web应用全生命周期。它功能丰富，如AI智能编码、集成开发体验等。其开源有技术自主、架构灵活等好处，还介绍了技术架构、上手方式与部署方案。
只提升2个点？我实测Claude 4.1后，发现官方在骗人
官方更新Claude 4.1，作者实测其与Claude4、DeepSeek R1在生成UI设计图、卡片、网页游戏开发等方面的能力。结果显示Claude 4.1进步大，尤其在理解提示词和视觉设计能力上，还能精细修改多文件。
全球首个人形机器人通用视觉感知系统，Humanoid Occupancy建立多模态环境理解新范式
北京人形机器人创新中心推出 Humanoid Occupancy 感知系统，创新性融合多模态传感器信息，构建通用感知框架。它以语义占用表征为核心，有全编码和适配融合优势，经实验验证性能优，推动机器人迈向通用感知时代。