「推理服务」共找到 2634 篇相关文章
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
堪比金条，存储迎来三十年未见的涨价潮
全球存储现缺货涨价潮，由云服务供应商采购推动。自2025年3月起，存储产品价格持续上涨，预计开启数年“超级周期”。AI火热与原厂技术迭代催化涨价，内存条成“理财佳品”，也催生“国产替代”需求。
Sam亲自泼冷水，GPT-5意外失手：我们对AI的期待，是否已被整个行业误判？
科技行业集体转向 AI，高管强调其变革性，可 OpenAI 的 Sam Altman 却泼冷水，提醒投资者高估回报。文中围绕‘AI 是否放缓’展开讨论，还分析了 GPT - 5 发布遇冷原因、AI 对就业影响等，指出 AI 发展多且快，未来潜力巨大。
仅100种子题，合成数据质量超GPT-5，阿里、上交提出Socratic-Zero框架
阿里巴巴与上交大联合提出 Socratic-Zero 框架，仅从 100 个种子问题出发，通过三智能体协同进化生成高质量课程。该框架合成数据质量超 GPT - 5 等，Solver 性能提升显著，工程友好，开启零数据自进化新路径。
“最美产品经理”宋紫薇，创业AI硬件首款产品曝光
前vivo「最美产品经理」宋紫薇AI创业细节曝光，其创立的薇光点亮瞄准AI化妆镜赛道。智能化妆镜并非新事物，此前存在不够智能、价格贵等问题，而AI赋能或让玩法升级，还能探索新商业模式。
英伟达用NIM + NV-Tesseract模型，提高芯片生产良率
芯片制造良率控制难题待解，传统方法各有局限。英伟达推出NV - Tesseract模型家族和NIM推理微服务，二者结合用于半导体晶圆厂生产，可实时发现问题、预测故障，降低成本，为制造打开新大门。
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
OpenAI研究大模型对GDP贡献，三大行业已能代替人类，并自曝不敌Claude
OpenAI推出新评估方法GDPval，跟踪模型在现实任务表现。评估显示前沿模型接近专家水平，Claude Opus 4.1表现最佳，GPT - 5准确性出色。还发布黄金子集和评分服务，其处于起步阶段将持续扩展。
Gamma完美开源平替，输入主题一键生成专业PPT，配图排版全自动！
做PPT耗时耗力，现有AI驱动PPT生成工具多为闭源SaaS服务。GitHub上的开源项目presentation-ai是Gamma的开源平替，输入主题可自动生成PPT，功能丰富，还给出安装部署步骤和使用场景。