搜索：语言模型安全

「语言模型安全」共找到 8403 篇相关文章

32岁，全球第一开源模型掌舵人，说了声bye就走了

3月2日阿里千问发布Qwen3.5小尺寸模型系列获马斯克点赞，次日林俊旸提交辞职申请。他带领千问三年成绩斐然，但开源竞争格局生变，且阿里组织调整与他理念冲突，他和团队成员选择离开。

英伟达发布并开源全球首个加速量子计算应用的模型系列Ising，打破硬件校准和纠错耗时难题，提供比传统方法更快、更准的量子纠错解码能力，还推出校准基准测试，全方位开源吸引众多机构加入。

在金融、医疗等对精确性、透明度和安全性要求高的领域，完全依赖大模型NL - to - SQL能力易出错。本文提出基于函数调用LLM的新范式，将LLM能力聚焦于调用预定义功能函数，提升了数据检索的准确性、透明度和可维护性。

AI Agent浪潮来袭，主流用LLM构建，但英伟达和佐治亚理工学院研究人员论文指出，多数Agent场景中，小语言模型（SLM）已足够强、更好管、更省钱，还给出迁移清单、避坑建议和参考系统形态。

OpenAI发布首款生命科学模型系列GPT - Rosalind，在RNA预测任务上超越95%人类专家。它针对科研工作流优化，还推出插件连接多数据库和工具，与药企巨头合作，和AlphaFold是互补关系。

中科院联合多机构及顶尖学者合作，系统梳理世界模型建模范式、方法等，归纳为四大分支，还梳理其在多领域应用、基准数据集等，讨论走向通用智能面临的障碍。

高考放榜，媒体对国内外大模型进行测试。综合成绩上，讯飞星火X2物理、历史类表现优异；单科专项中，它在数学、作文等测试也领先。其优势源于数据积累、理解评判标准，还采取软硬件一体化落地路径。

Go语言之父Rob Pike被AI写的感谢邮件惹毛爆粗口，Python之父Guido van Rossum也被骚扰。这反映出部分人对AI生成代码的厌恶，也体现了AI给程序员群体带来的恐慌，不过也有人建议顺应趋势使用AI编程工具。

即便Transformer是AI世界基石，但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构，能提升模型推理能力，且参数零增。

HexStrike是开源渗透测试工具，以MCP为底座。其核心智能组件IntelligentDecisionEngine是专家系统，将安全专家经验规则化，通过知识库和算法提供工具选择和参数优化，提升渗透测试效率。