「潜在风险」共找到 551 篇相关文章
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
LLM 商业化猜想：OpenAI 会走向 Google 的商业化之路吗？｜AGIX PM Notes
文章探讨了大模型商业化难题，对比 OpenAI 潜在变现方案与 Google 商业模式，分析 OpenAI 开启类似 Google 商业化引擎的可能性，还给出 AI 搜索引擎可能的变现思路，并总结了本周市场情况及 AI 公司动态。
给机器人一个会预测未来的Critic，VLA强化学习直接起飞
OpenMOSS团队开源的World Critic Model（WCM），解决了视觉 - 语言 - 动作模型强化学习（VLA - RL）中批评家模型（Critic Model）仅依赖单帧观测打分的问题。WCM让Critic学习预测执行动作后的潜在状态，代码等全开源，验证效果显著。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
Copilot 创始工程师：大多数 AI 编码“就像开着法拉利去买牛奶一样
GitHub Copilot 创始工程师 Neel Sundaresan 正在构建 IBM Bob 智能编码工具，已有 8 万 IBM 开发者使用。他认为多数 AI 编码成本高，Bob 会按需调度模型。他还对智能体 AI 市场发表了看法，指出其有价值也有风险。
2025 社交新方式：当 AI 成为「第二个我」，去实现「真实连接」
作者作为业余AI产品经理，体验Second Me这款AI应用。它能借助AI复刻「AI自我」，基于记忆匹配社交，作者借此完成与他人的深度交流。同时探讨了AI社交风险，认为AI应是社交起点，帮人筛选和破冰。
停止迷信“超级Prompt”：要想AI不犯错，你得专门雇人“怼”它
这篇来自Isotopes AI的论文指出，在生成式AI落地中，迷信‘超级Prompt’不可取。对于高风险场景，单体LLM有局限，论文构建‘AI Office’架构，引入‘对手团队’概念，实验使准确率从60%提升到92.1%，但也有成本和局限。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
疯狂扩产的PCB，会是下一个存储芯片吗？
2026年摩根士丹利拆解英伟达Rubin平台BOM报告显示，单机架PCB内容价值涨幅高达233%，增幅居首。AI算力系统演进使PCB日益重要，行业正扩产，但也面临技术、供需、上游材料等风险。
营收67亿、净利8.7亿，这家上海芯片公司再冲刺港股
4月12日，晶晨半导体向港交所主板重新递交H股上市申请，这是其第二次冲击港股。该公司有“硅谷基因、国内运营、全球销售”独特身份，产品覆盖多领域，业绩创新高，但也有客户集中、存货激增等风险。