「LLM推理」共找到 2766 篇相关文章
Lumina-mGPT 2.0：自回归模型华丽复兴，媲美顶尖扩散模型
上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
深夜炸场！Claude Sonnet 4.5上线，自主编程30小时，网友实测：一次调用重构代码库，新增3000行代码却运行失败
Anthropic推出Claude Sonnet 4.5，号称‘世界上最好的编码模型’，持续运行时长、推理等能力提升，‘幻觉’等问题改进，Claude Code也有更新，开发者实测有惊喜也有问题，新一轮AI‘内卷’开启。
GitHub一周2000星！国产统一图像生成模型神器升级，理解质量双up，还学会了“反思”
智源研究院发布国产开源统一图像生成模型OmniGen 2.0版本。它增强理解与生成能力，打通多模态生态。玩法简单，技术有创新，还引入反思机制和新基准，推理效率提升，且将全面开源。
Jina 第4版：多模态向量检索，统一适配，挑战3大任务
Jina第4版基于Qwen2.5 - VL模型扩展，支持单向量和多向量输出。它经对比学习和任务特化训练，推理时可按需选LoRA适配器，能利用多模态处理能力优化不同任务性能。
微软OEL框架：大模型一次部署，终身进化
微软最新论文Online Experiential Learning (OEL)提出让LLM在真实部署后持续自我进化的框架，无需人工标注等。介绍了在线体验学习的必要性、OEL方法论及实验验证，揭示关键洞察与启示。
刚刚，全球首个GB300巨兽救场！一年烧光70亿，OpenAI内斗GPU惨烈
为争夺有限GPU，OpenAI内部争斗激烈，2024年算力投入70亿美元仍不够。微软发布全球首台GB300超算专供OpenAI，可让万亿LLM数天训完。OpenAI建立资源分配机制应对挑战。
Google这个1.5w star 项目牛皮，99%准确率！
Google安全团队开源AI文件类型检测工具Magika，抛弃固定规则匹配，用深度学习精准识别文件真实类型。它内置轻量模型，单CPU毫秒级推理，支持200+格式，准确率约99%，已大规模落地。
Rust版本的DeepSeek-OCR来了，告别python原版的繁琐配置
网友用Rust重写DeepSeek - OCR推理栈，解决原版Python依赖复杂问题。此版本无Python依赖，可离线运行，兼容OpenAI API，还支持苹果芯片Metal加速，介绍了技术实现、使用方法和场景。
冲上 GitHub 热榜，这个智能问数开源项目火了！
数据使用麻烦，存在“数据鸿沟”。开源项目SQLBot基于LLM和RAG技术，能用大白话查询数据库，将问题转成SQL执行并可视化呈现结果，功能实用，部署简单，降低了数据分析门槛。