「AI系统」共找到 10456 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
句子级溯源+生成式归因，C²-Cite重塑大模型可信度
在人工智能发展背景下，大模型内容可信度成焦点。北邮百家AI与小米团队提出溯源大模型C² - Cite，首创上下文感知归因生成技术，解决现有归因模型缺陷，已被WSDM 2026收录。
没想到 50 岁了我开始手搓小游戏：灵光闪现
作者池建强分享AI领域“生成涌现”现象，以Gemini 3.0演示为例，又介绍蚂蚁集团的灵光App，其闪游戏功能让普通用户用一句话生成小游戏，能修改迭代，体现AI构建系统能力，创作平权或到来。
“养虾”热潮下，专家帮你拆解Agent如何重写软件逻辑 | 奇点智能技术大会首日精彩回顾
2026 奇点智能技术大会聚焦 AI 发展新趋势，探讨 Agent 对软件与互联网产业的重构。会上发布白皮书、评测榜单，成立开发者社区，多位专家分享见解，涉及 AI 研发、模型协同、大模型演进及科学多模态模型等内容。
对话Persom张天翊：我想做一个人在数字世界的身份证｜甲子光年
本文是甲子Builders对Intuition Lab创始人张天翊的专访，讲述他前次AI创业失败后，瞄准AI缺少用户上下文的痛点，推出开源Personal Model，即将内测AI记忆产品Persom，打造数字世界个人身份层，重构人与AI协作模式。
构建会思考的测试Agent：从自动化到自主智能的演进
文章介绍面向企业级软件测试的质量数字人系统，结合大语言模型等实现从传统到自主智能测试跨越。分析专有云测试困境，指出通用AI Agent平台局限，阐述系统设计、能力及架构，展示应用成果并展望扩展场景与未来计划。
仇太深！奥特曼炮轰A社“反人类”
奥特曼在采访中批评AI安全派观点“反人类”，还围绕AI发展相关问题给出见解。如他认为AI会成伟大技术，但社会和经济适应慢；应让人类掌控未来，用AI赋能人类；谈了算力、产品等多方面事宜。
Claude 4发布：最强AI编程模型+最强AI Agent基建！
Google I/O大会后一天，Anthropic凌晨发布Claude Sonnet 4和Claude Opus 4。Claude Opus 4是“世界上最好的编程模型”，Claude Sonnet 4适合日常编程。此次更新有四大核心改进，聚焦开发者。还介绍了工作模式、定价等。
AI“压力面”，DeepSeek性能暴跌近30% | 清华&上海AI Lab
上海人工智能实验室等团队设计REST框架，在一个prompt里抛多问题模拟复杂推理场景。结果显示，DeepSeek - R1等模型高压下性能大幅缩水，REST能拉开不同模型差距，还揭示评测方法局限。
AI“压力面”，DeepSeek性能暴跌近30% | 清华&上海AI Lab
上海人工智能实验室等团队设计REST框架，在一个prompt里抛多个问题模拟多任务推理场景。测试发现即便顶级模型如DeepSeek - R1在“高压”下准确率也骤降，该框架能揭示模型差异，为评测提供新范式。