「技术与文化」共找到 8218 篇相关文章
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
讲座分享 | 密歇根大学Karthik Duraisamy教授
密歇根大学Karthik Duraisamy教授将开展讲座，主题为数据驱动的湍流建模。会介绍过去十年嵌入学习模型增强的进展，强调简约与约束平衡，指出存在的陷阱及挑战，还提及让数据驱动封闭成为可靠组件的要点。
CUDA-MODE第77课课程笔记：用于GPU kernels的DSL
该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态，涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式，对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目，并给出使用建议。
光刻机巨头变身AI金主，Mistral AI成欧洲估值最高初创企业
法国初创公司Mistral AI在2025年9月完成20亿欧元融资，估值达140亿美元，成欧洲估值最高科技初创企业，由阿斯麦牵头投资。该公司技术实力强，模型参数效率高、架构创新，还注重开源和多语言支持。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
马斯克的xAI以1130亿美元估值，出售3亿美元股权
金融时报消息，马斯克旗下xAI正以1130亿美元估值出售3亿美元股权，细节未全披露。若融资成功，其估值将跻身全球前列。xAI成立于2023年，获巨额融资，与X合并，产品Grok AI功能丰富。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
视频世界模型跑长序列不「崩」了！用光流约束+历史记忆+多步训练，让动态场景稳如磐石
现有视频世界模型在长时间交互中易出现运动不合理与场景崩坏问题，核心原因是误差累积。MagicWorld提出面向长时稳定性的交互式建模框架，通过光流约束、历史缓存检索和多步聚合训练，有效缓解误差累积。
神图刷屏，全网SaaS大佬彻夜难眠！AI吞噬全球软件业，2027现死亡交叉
马斯克转发发言称AI正在吞噬全球软件行业，一张图显示2027年AI市场与SaaS估值将现死亡交叉，标志SaaS衰亡。AI普及使初创公司蚕食大厂领地，Adobe等软件公司面临危机，SaaS形态或改变。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。