「自我评估」共找到 1049 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
小扎「芒果」生图只输GPT Image 2，没人教它改稿，它自己学会了
Meta推出图像生成模型Muse Image（代号「芒果」）和视频模型Muse Video预览版。Muse Image在文生图榜单排第二，改变画图方式，能自我修正。它与Muse Spark打通，Muse Video文生视频排第3。不过，其@功能有隐私隐患。
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。
一场对话，我们细扒了下文心大模型背后的技术
信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。
微调已死？Google 和斯坦福论文指出AI 学习新范式
Google的ReasoningBank和斯坦福的ACE两篇新论文引发热议，二者都在解决让AI系统真正学会学习的问题。前者是经验管理系统，后者让输入上下文进化，都绕开微调探索AI持续学习与自我改进能力。
奥特曼爆料：GPT-5重构彻底一切！一人顶五个团队
GPT-5的发布或是一场技术变革。奥特曼在对谈中给出未来清单，谈到年轻人学习方向、创业思路等。他认为GPT-5是大飞跃，年轻人要掌握AI工具，还提出评估大模型智力新指标等。
谷歌助力神经科学飞跃，破解斑马鱼全脑活动密码
谷歌等机构科学家联合发布开创性研究成果ZAPBench，这是预测斑马鱼全脑活动的基准测试平台。它含超70000个神经元4D光片显微镜记录，设计多种刺激条件采集数据，有特定基准测试任务和评估指标。
仅4人28天！OpenAI首曝Sora内幕：85%代码竟由AI完成
OpenAI团队揭秘安卓版Sora APP构建内幕，4人团队28天完成从0搭建，约85%代码由AI智能体Codex完成。Codex可自我迭代，在多方面表现出色，但也需人类指导。团队分享了与Codex协作的经验和技巧。
刚刚，国产开源AI横扫全球4项第一！1.3B逆袭大厂，OCR极限实测杀疯了
面壁智能开源 1.3B 文档解析模型 MiniCPM-OCR 1.0，在多项基准测试中拿下四项业内最佳；同时开源 2B 质检模型 Jev，专职评估 OCR 结果的可信度。