「安全设计」共找到 2126 篇相关文章
AI编程界炸出新黑马！吊打Cursor、叫板Claude Code，工程师曝：逆袭全靠AI自己死磕
近期，AI编程黑马AmpCode崛起，与Claude Code并列S级，吊打Cursor。Sourcegraph工程师分享其研发理念，认为应放权给模型。此外，还探讨了企业对AI工具的分歧、编程工具变革及AI对开源的影响。
AI破译生命！微软蛋白质研究「超级加速器」登上Science
微软研究AI for Science团队推出BioEmu，能模拟蛋白质在平衡状态下的各种可能结构集合。它输入蛋白质序列就能生成大量结构样本，预测性质，速度比传统方法快10万倍，已开源助力药物研发。
深度体验｜京东开源轻量化通用Agent产品 jdgenie，开箱即用！二次开发及踩坑指南。
本文体验京东开源的端到端多智能体系统JoyAgent - JDGenie，它是产品级多智能体协同系统，开箱即用、支持本地部署。介绍其原理架构、本地部署测试步骤、二次开发方式，还指出特点与不足。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
端侧AI加速到来，个人隐私如何保护？
Deepseek推动端侧AI加速落地，苹果、谷歌等企业纷纷布局。不过，端侧AI在发展中面临融合不佳、数据安全等问题。阿里研究院傅宏宇提出保障数据安全的建议，监管层也出台相关法规。
何恺明改进了谢赛宁的REPA：极大简化但性能依旧强悍
扩散生成模型在建模复杂数据分布表现出色，但与表征学习领域关联不大。谢赛宁团队提出REPA，不过较麻烦。何恺明团队提出Dispersive Loss，简化且性能强，无需预训练等，适用于多种模型。
中国团队让AI拥有「视觉想象力」，像人类一样脑补画面来思考
上海交通大学等团队提出 Thinking with Generated Images，让大模型像人类一样用「脑内图像」推理。该研究区分三种视觉思维模式，提出核心技术框架，解决视觉推理局限，实验效果好，未来有望在多领域突破。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
美国州政府生成式AI应用报告
今年2月，美国阿拉巴马州州长签署行政命令推动生成式AI在州政府大面积应用，并发布深度应用报告。报告涵盖应用现状、伦理风险与策略、数据管理、政策治理等方面，为生成式AI在政府应用提供指引。
DeepSeek-R1发布后的100天复现之旅方法总结
DeepSeek团队发布「推理大模型」DeepSeek-R1 ，其技术细节未完全开源，全球研究团队开启“复现竞赛”。论文总结100天复现经验，介绍推理大模型与普通大模型区别、复现方法、关键发现及未来方向。