「对齐风险」共找到 732 篇相关文章
抱紧英伟达谷歌“大腿”，680亿烟台首富“赢麻了”
借着AI东风，中际旭创市值一度破6000亿，业绩亮眼，掌舵者王伟修父子成烟台首富。其受益于谷歌等大客户，但也面临存货增长、客户集中等隐忧，AI泡沫论也对其有影响。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
南华期货 x TencentOS：如何实现CentOS操作系统的“无感”切换？
2024年南华期货与腾讯合作，依托TencentOS Server完成200余套操作系统迁移，实现核心业务零事故切换。其分三阶段实施，TencentOS Server以无感迁移、稳定性强、利于生态协同等优势获选，迁移成效显著。
OpenAI从苹果挖了20多人搞硬件，知情人士：苹果创新缓慢、官僚主义令人厌倦
据外媒报道，OpenAI 从苹果挖走超 20 名硬件、设计和供应链人才，利用苹果中国供应链生产硬件，产品线丰富，目标 2026 年底或 2027 年初发布。但此举或影响双方合作，且硬件野心面临挑战。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
告别「面瘫」配音，InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限，新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’，实现口型、表情、肢体与音频自然对齐，解决长视频生成难题，技术已开源。
Agentic Web：AI Agents如何重塑下一代互联网，一个到处是待研究与落地的方向
论文《Agentic Web: Weaving the Next Web with AI Agents》描绘颠覆性未来，AI 智能体成“数字代理人”，互联网将从“连接信息”向“执行行动”转变。论文给出构建下一代智能互联网路线图，剖析挑战、展示场景并预警风险。
该工作引来马斯克回复，让Gork破防：CoT是真正的推理，还是训练数据的统计插值？
大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。
1600亿，国内PCB巨头奔向港股
7月29日，胜宏科技计划发行H股在港上市，其创始人陈涛将再迎敲钟时刻。胜宏科技靠英伟达供应商身份成十倍牛股，AI浪潮下，相关概念股表现亮眼，造富神话不断，同时也有泡沫警告声。
如何在不牺牲生产力的情况下构建安全软件
安全与开发效率常冲突，Dorota Parad 在 QCon 旧金山大会分享构建安全软件之道。她主张减轻漏洞影响，抵制阻碍生产力的安全要求，与安全团队合作，还提及 BLISS 框架、CI/CD 管道增强安全等。