「安全挑战」共找到 1905 篇相关文章
首次曝光！OpenAI新一代旗舰Astra换上“循环深度”推理架构：用计算深度换参数规模
9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。
中国人能飞！杭州发布全球首款站姿载人飞行器
杭州酷飞发布站姿个人飞行器Urban、坐姿个人飞行器Dream及自研NA80飞控系统。产品操作简便，已获海外近百台定金订单，还构建了安全防护体系并补齐保险。两款飞行器定位不同，核心是自研飞控。
Teleport 报告：AI 安全事件频出，背后往往是过度授权
Teleport报告指出，为AI系统授予过度访问权限的企业，安全事件发生率是权限管控合规企业的4.5倍。身份管理体系建设跟不上AI落地速度，精细化权限授予是关键，还给出搭建统一身份层等建议。
AI教父Hinton末日警告！你必须失业，AI万亿泡沫豪赌才能「赢」
AI教父Hinton警告，这场AI万亿美元豪赌，只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业，还批评部分巨头重商业竞争轻安全。此外，分析显示AI重创部分创意执行工作，不同岗位受影响程度有别。
数据智能体全景报告发布！你的数据智能体在哪个 Level？
大语言模型爆发让「数据智能体」应运而生，但概念笼统成发展绊脚石。由多顶尖机构组成的联合团队发布论文，首提 L0 - L5 六级自主性分级标准，还对现有研究回顾审视，指明挑战并描绘未来图景。
晶圆级芯片主流技术路径对比
人工智能时代算力需求爆炸式增长，与半导体工艺进步放缓矛盾凸显。晶圆级计算为算力发展开辟新路径，有Cerebras和特斯拉两种技术路线，邬江兴院士团队提出软件定义晶上系统技术，但我国该技术发展面临多重挑战。
全新 AI 消息模型：Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构？
AIGC浪潮下，大语言模型重塑应用开发范式，开发者构建AI应用面临诸多挑战，需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进，有轻量化通信与智能化资源调度两大创新，还介绍了多场景实践。
优化搜索系统：平衡速度、相关性和可伸缩性
这篇文章基于作者在 2024 年旧金山 QCon 大会演讲，探讨搜索系统优化。以优步外卖为例，分析其在数据索引、检索和排名方面挑战，介绍优化技术及对用户体验和系统性能影响，还提及架构、分片技术等内容。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。