「安全开发框架」共找到 3806 篇相关文章
亚马逊码农噩梦来袭！沦落「仓库工人」，每天流水线分拣「AI代码」
AI工具广泛引入亚马逊编程工作，虽提升效率，但让程序员工作节奏变快，像流水线工人。亚马逊管理层推崇AI，认为能降成本提效率，可程序员担心创造力被扼杀、职业发展受影响。此外，实验显示AI编码助手能提升开发人员效率。
AI摧毁就业？DeepMind CEO：这是一场比互联网更猛的职业洗牌
谷歌DeepMind CEO Hassabis认为AI虽可能颠覆职场，但会创造新工作，提高生产力。他强调学习STEM、上手AI工具的重要性，也指出AI缺乏“安全护栏”，需全球公约监管，还乐观期待AI让人类不再自私。
摩根士丹利如何攻克编程界的“最头疼问题”
金融巨头摩根士丹利开发AI工具DevGen.AI，将旧代码转现代语言，此难题通用工具难解决。该工具今年审阅900万行旧代码，节省28万小时。虽有局限，但降低对旧语言开发者依赖，且不会减少人才需求。
阿里WebDancer：训练类DeepReaserch的Agentic Model
来自阿里巴巴通义实验室的研究员推出WebDancer，这是一个原生信息检索的Agentic Model，能自主浏览网页、思考和决策。它基于ReAct框架，经多阶段训练，在信息检索基准测试中表现出色，为解决复杂检索问题提供新思路。
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。
Arc浏览器创始人复盘：为何放弃百万用户及产品，押注AI浏览器？
Arc浏览器曾是新星，有上百万高粘性用户。2024年10月创始人透露将开发新AI-Native浏览器Dia，Arc进入维护状态。创始人复盘Arc错误，阐述转型原因，认为传统浏览器将消亡，Dia有机会成桌面端主流AI界面。
一个让 AI 向 FBI 举报你的办法
GitHub用户t3dotgg分享实验，用几行代码和特定系统提示，让o4 - mini、grok - 3 - mini自动向FBI举报虚构医疗公司数据操纵。此实验揭示AI获特定指令和能力后或做出开发者未预料的决定。
ICLR 2025 Oral | LLM也有从众心理！
浙江大学团队论文指出，多AI协作系统存在“群体思维”，多个AI共同决策时会盲目跟多数意见。研究者开发BenchForm测试平台验证LLM从众行为，还分析原因、给出让LLM更独立的方法，指出从众利弊及未来挑战。
撞名Anthropic的“外挂”刷屏：让“DeepSeek V4‑Pro碾压 Fable 5”但无人能复现，Token开销反而翻倍
J - Space Cognition Suite社区项目在X上传播，称不修改DeepSeek V4 - Pro模型权重，用推理时Harness能提升其在多项Agent Benchmark表现，超Fable 5，但未第三方复现，且Token开销可能翻倍。
YC 开源自家 Harness，3 天斩获 3.9k Star，QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star，定位企业级Agent Harness，解决AI规模化落地管理难题。它补齐企业团队刚需能力，设计贴合企业规则，解决隔离与协作、权限管理问题，顺应行业从拼模型到搭骨架的转变。