「推理优化与部署」共找到 3538 篇相关文章
Prompt的尽头，居然是MBTI。
文章介绍了用MBTI人格优化大模型对话的技巧。论文《心理学增强AI智能体》证明给AI一个MBTI人格很有用，不同人格AI处理任务表现各异，还能组建性格互补的AI团队完成不同工作。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
斩获5.5K star！！AI 加持到位，安全感拉满，这个升级版开源知识库神器太顶了！
两个月前分享的开源AI知识库项目PandaWiki，迭代速度惊人。此次更新多个大版本，编辑器体验提升，AI成智能客服，支持20+家模型供应商，还优化团队协作功能和诸多细节，更成熟实用。
刚刚，大模型装上「鹰眼」！首创高刷视频理解，谷歌Gemini 2.5完败
面壁智能开源MiniCPM-V 4.5多模态端侧模型，8B参数越级反超72B巨无霸，在多领域达SOTA。它首创高刷视频理解，性能强、效率高、适合端侧部署，还实现多技术创新，是开源端侧多模态AI的革命。
阿里老兵造出会说话的迪迦！AI玩具单品20万销量，红杉等2亿A轮抢投
跃然创新推出全球首款迪迦奥特曼AI玩具，完成2亿A轮融资。其首代产品BubblePal销量达20多万台。新品改进诸多不足，优化体验，强调安全。公司瞄准AI Friend，未来产品分儿童和成年线。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。
轻量级易开发，8B参数释放大实力！科学多模态模型Intern-S1-mini开源
上海人工智能实验室继7月26日开源后，推出轻量化版本Intern-S1-mini。它是8B参数“迷你模型”，兼具通用与专业科学能力，适合快速部署和二次开发，在多方面表现出色，还降低了对高端计算设备依赖。
DeepSeek有点含蓄了，实测V3.1有进步，编程等个别场景硬刚GPT-5
DeepSeek悄悄更新V3.1，官方仅提及上下文长度拓展至128K。实测其代码能力与前端审美提升，逻辑推理也有进步，在编程等个别场景能硬刚GPT - 5，但处理复杂任务还有距离，更新不大却有进步且降价。
我去，Github 51k star，没看错，他是开源的，“用 Docker 运行 macOS”？你绝对没看错!
这是一个运行于 Docker 中的 macOS 虚拟环境项目。开发者或安全研究者在非 macOS 平台运行 macOS 常遇性能差等痛点，而 Docker - OSX 利用容器化轻量部署，接近原生性能，功能亮点多，应用场景丰富。