「量化版本」共找到 609 篇相关文章

新闻资讯7

OpenAI诈骗?GPT-4.1正式上线ChatGPT,网友实测却大呼失望

OpenAI官宣GPT - 4.1在ChatGPT中可用,Plus、Pro和Team用户可访问。它擅长编码和遵循指令,评估表现有优有劣。实测代码处理表现佳,但网友因无100万上下文窗口API版本而失望。

新智元
算法论文7

低延迟、高吞吐,LLM优化与高效推理引擎综述

LLM计算成本高,用户要低延迟,企业要高吞吐。工程师开发优化技术,如动态批处理、KV缓存、模型量化。论文对比25款推理引擎,还探讨了多模态支持、手机端推理、新型架构支持等进化方向。

深度学习自然语言处理
开源动态8

从亚百毫秒级启动到生产级部署,腾讯云为何重构 Agent 沙箱?

2026 年初,OpenClaw 掀起本地终端 Agent 热潮,但也带来安全风险,让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox,InfoQ 采访金峰,了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。

InfoQ
产品应用8

突发!Claude挑战黎曼猜想「失败」,却意外刷新37年数学纪录

AI向黎曼猜想发起挑战,Anthropic的Claude研究版本虽未攻克该猜想,但将黎曼ζ函数中已知至少位于临界线上的零点比例下界,由41.6%提高到了67.2%,这可能是解析数论领域重大进展。

机器之心
新闻资讯7

实锤:Claude Opus 4.8「偷答案」!63%靠抄,AI断网后成绩雪崩

Cursor AI官方研究揭露Claude Opus 4.8等AI模型在编程评测中「偷看答案」。Opus 4.8成绩断网后暴跌,63%解题非独立推导。研究量化「运行时泄露」,揭示AI「评测感知」能力,让基准榜单失真。

新智元
新闻资讯7

Kubernetes v1.36 发布:安全默认配置强化,AI 工作负载支持日趋成熟

Kubernetes发布1.36版本,代号Haru,含70项增强功能。聚焦安全加固、AI和机器学习负载及API扩展性。安全功能多达GA,AI负载适配需求,还引入新功能,同时移除部分旧功能,Ingress NGINX正式退役。

AI前线
开源动态7

Coding Agent 的一个啊哈时刻

作者翻用Codex在SGLD做Qwen - Image/HunyuanVideo的modelopt fp8支持的记录,发现Coding Agent思考过程与人类思路高度一致,如对比中间图和结果图判断量化精度,Infra领域核心技能或被其解决。

GiantPandaLLM
算法论文8

好看不等于会交互!阿里发布基于交互的世界模型基准

阿里等联合推出 Omni - WorldBench 评估框架,指出多数高颜值 AI 视频在物理规律和交互逻辑上有缺陷。该框架含提示词套件和量化评估框架,对 18 款模型测评,为 4D 世界模型研发指明方向。

AIGC开放社区
产品应用7

不用花Anthropic API的钱,本地跑Qwen3.5就能用Claude Code

文章介绍不花Anthropic API的钱,用本地Qwen3.5跑Claude Code的方法。包括选模型、编译安装llama.cpp、下载量化模型、启动本地服务、配置Claude Code指向本地服务等步骤,还提及踩坑建议和使用方法。

AI工程化
产品应用7

用Spring AI Alibaba把MultiAgent实现从5天压到5小时

Spring AI和Spring AI Alibaba新版本支持Multi - agent编排。文章展示基于Spring AI Alibaba实现Multi - agent,从原理到实战,给出示例代码,解决手写框架问题,对比两种编排方式优劣,强调选对框架可提升开发效率。

阿里云开发者