「AI安全研究」共找到 11088 篇相关文章
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
Karpathy 回应争议：RL 不是真的不行，Agent 还需要十年的预测其实很乐观
Andrej Karpathy 在与知名播客主持人 Dwarkesh Patel 的对谈中指出当下 LLMs 研究进展、Agents 存在的实际问题，如‘AGI 仍需十年时间’‘LLM 认知有缺陷’‘强化学习很糟糕’等。他还对关键争议点做了补充回应，包括对 AGI 时间线、强化学习局限性等的看法。
生财有术小连：微信问一问蓝海机会，用搜索玩法抢占流量先机
生财有术小连分享微信问一问运营经验，指出其支持真人分享、有“去AI化”特点及“强SEO搜索、排名”机制。介绍视觉霸占、抢词根等玩法，还给出内容与ID绑定等运营建议，称当前是SEO玩法的蓝海时期。
清华教授创业押注RSI，融资近4亿元，要做会自我进化的模型
本文报道清华AI学院助理教授陈勇超创办超衍智能，押注递归自我改进RSI方向，打造可自主研究、自我进化的下一代基座模型，公司成立不到三个月完成近4亿人民币融资，已公布多项阶段性研究进展，全球多家机构已布局该赛道。
斯坦福提出新的RL范式，让3B模型的Agent超越Claude、GPT-4
斯坦福提出新的RL范式，让小模型Qwen2.5 - 3B经训练后性能超越Claude - 3.5 - Sonnet等大模型。论文解决了RL在代理环境中可变时长动作优化偏差和稀疏奖励两大挑战，为AI代理发展指明方向。
大模型手语翻译新进展：CAPO-SLT拿下中文三项最高分 | EMNLP'26
vivo AI Lab团队针对自动手语翻译生成中，无视觉证据支撑的错误累积导致语义偏移的痛点，提出置信度感知策略优化方法CAPO-SLT，仅调整强化学习更新规则，不修改主干网络，在中文手语翻译测试中拿下三项指标最高分，成果将发表于EMNLP'26。
月费3万，成本为零：谁在收割企业的GEO焦虑？| 甲子光年
GEO指针对生成式AI进行结果优化，提高品牌被纳入回答的机会。当下GEO市场乱象丛生，多数服务商报价随意、技术原始，靠“黑帽”做法捞金。不过也有行业规范派在建立标准。其背后是流量入口争夺战，未来提示词或成新货架。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
百度智能云 DuMate 测评：办公 Agent 教我用 Claude Code，效果如何？
百度智能云桌面级AI智能体DuMate于今年3月22日全量上线。本文对其进行测评，设计围绕GitHub项目的复杂任务，测试它在研究、整理、文件生成和展示化输出的表现，探讨办公Agent从内容提供商到办公搭子的转变。