「安全限制」共找到 1173 篇相关文章
每天审200个PR、每月3000个Issue？智能体开始并行写代码，人类可能成最薄弱环节
本文是对微软 VS Code 团队工程经理 Kai Maetzel 的访谈。他回顾了 VS Code 发展历程，分享 AI 编程、智能体开发及开发者工具设计的实践思考，如 AI 补全体验优化、智能体开发权衡、与 IDE 交互机制等，还探讨了未来发展挑战与趋势。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
一年4次迭代，狂堆GPU成真！微软AI冷液灌芯，散热暴涨3倍
AI芯片发热问题严重，限制了其发展。微软推出微流体冷却技术，在芯片内开液体血管，散热效率最高提升3倍，温升降65%。一年4次迭代解决诸多难题，影响从省钱到使用体验，更是抢跑未来的布局。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
工具增强的多模态LLM综述
多模态大语言模型（如GPT - 4V）虽有强大图文理解能力，但受数据稀缺、复杂任务表现不佳和评估标准不统一限制。论文提出为MLLM集成外部工具，构建全景图，覆盖多维度，还指出挑战与对策。
GPT-5 在 Lovable/Vibecode 中氛围编码，附 GLM-4.5 对比 （反向搜索引擎、吵架的俄罗斯方块）
文章展示GPT - 5在网页端、Lovable、Vibecode的测试案例，与GLM - 4.5对比。如GPT - 5在WebDev Arena创纪录，不同版本使用限制不同。还列举多个应用案例，指出GPT - 5有不足，GLM4.5全栈开发表现不错。
AI 颠覆的第一个职业是程序员？｜GAIR Live
文章围绕“AI颠覆的第一个职业会是程序员吗”展开讨论。嘉宾认为AI Coding尚处早期，有潜力成新工程范式。它面临“幻觉”、上下文窗口限制等瓶颈，未来开发者角色或转变为“业务翻译者”和“需求架构师”。
这个AI能救命！提前6个月发现胃癌病灶，突破医学影像认知，达摩院做成了
国内成果登《自然·医学》，全球首个用平扫CT识别早期胃癌的AI模型DAMO GRAPE诞生。它突破传统影像限制，提升胃癌检出率。此前达摩院还研发出筛查胰腺癌的DAMO PANDA，未来探索‘一扫多查’。