「AI安全研究」共找到 11042 篇相关文章
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
Supabase：百亿美元估值，vibe coding 的默认后端？
Supabase 以 Postgres 为核心，提供一站式后端服务，接近完成 5 亿美元 F 轮融资，估值 100 亿美元。它处于 Postgres 生态和 AI coding 趋势交叉点，产品路线图向 agent 倾斜，面临竞争、UE 等挑战。
金融Agent再获近2亿加码！启明红杉高瓴集体押注，5个月内连获两轮融资
近日，讯兔科技完成近2亿元A轮融资，5个月内连获两轮。其核心团队有投研基因，产品Alpha派服务超8万投研人员。投资人看好其发展，认为2026年垂直领域AI应用将爆发。
Agent取代App、机器人“盲区”、RAG成本失控……2026 奇点智能技术大会首批议题发布
4月17 - 18日，CSDN与奇点智能研究院联合主办的「2026奇点智能技术大会」将在上海举行。大会首次剧透部分核心议题，覆盖AI全生命周期各层面，多位技术专家将分享实战经验与前沿探索。
全面解析 Agent Engineering 的 10 大工程维度：生产级 Agent 系统的炼成之路。
技术突破让AI智能体成热点，但应用走向真实业务暴露出工程瓶颈。本文围绕智能体工程及其10个核心维度，剖析从“不确定的LLM能力”到“可靠的生产级Agent系统”的炼成之路。
这一年做 Agent 的公司，Coding 赚了钱，客服融了钱，你呢？
全球数据研究机构 CB Insights《AI Agent Bible》报告梳理 Agent 行业概况。指出未来趋势，如语音成主流交互等；分析发展受限问题、有潜力机会；还介绍不同类型 Agent 商业情况及应对推理成本策略等。
「看」能否取代「读」，为何DeepSeek-OCR 爆火的重点不在性能？
DeepSeek近期开源的DeepSeek - OCR在AI社区引发热议。它提出‘上下文光学压缩’理念，以视觉方式压缩文本。社区关注重点在其研究思路对NTP范式的影响，有望解决长上下文经济性难题等。
企业级消息系统构建指南
文章介绍企业级消息系统构建，阐述概念、价值、典型场景，对比主流开源系统如 Kafka、Pulsar 等。通过腾讯、华为等企业实践展示选型与优化，还提及运维保障，指出未来消息系统在 AI 领域机遇与挑战。
超强开源模型Qwen3、DeepSeek-V3.1，都被云计算一哥「收」了
亚马逊云科技两大AI平台支持多款新模型，Qwen3和DeepSeek-V3.1已上线Amazon Bedrock。其坚持“Choice Matters”战略，为用户提供多样选择，保障数据安全，还可基于开源模型定制开发。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。