「FP8数据格式」共找到 563 篇相关文章
Github 1.8K star厉害!!有了这个办公AI神器,效率飙升!
Speakr是完全自托管的AI会议助手,能将音频转文字、生成摘要、进行内容问答,离线运行保障隐私和安全。它功能丰富且轻巧,支持多平台,GitHub已破1.8K star。
不用跟AI客气了!新研究:语气越粗鲁回答正确率越高
宾夕法尼亚州立大学研究《Mind Your Tone》显示,与AI交流时说话越粗鲁,LLM回答越准。测试发现,对GPT - 4o特别客气时正确率80.8%,粗鲁时升至84.8%,但老模型不适用。
4 天 6.8K Star,这个 AI 漫剧项目火了:waoowaoo!
短剧/漫剧市场火爆,但普通人制作门槛高。waoowaoo是solo开发者作品,4天6.8K Star。它能从小说文本一键生成视频,涵盖AI剧本分析、角色场景生成等功能,部署简单,技术栈主流。
谷歌Gemini最强性价比模型发布,1块8读完3本三体
谷歌推出Gemini 3.1 Flash-Lite,号称性价比最高的Gemini 3系列模型,每百万输入token仅0.25美元,读完3本《三体》只需1.8元。性能表现佳,还支持可调思考层级。两小时后ChatGPT推出GPT - 5.3 Instant回应。
紧急加薪+全员放假!OpenAI被连挖8人后,真慌了
面对Meta疯狂挖人,OpenAI本周基本停工,员工放假一周,高管继续工作。首席研究官Mark Chen承诺与Meta交锋,反制措施包括调整薪酬等,还表示公司将改变工作节奏,更专注实现AGI。
华为发布业界首个扩散语言模型Agent,部分场景提速8倍!
华为等团队研究发现,把Agent“底座”换成扩散式大模型(DLLM),执行速度提升30%以上,部分复杂任务效率达传统AR模型8倍。其优势源于生成范式,可重塑Agent设计。
清华SageAttention3,FP4量化5倍加速!且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3,实现5倍于FlashAttention的推理加速,首次支持8比特训练。在多种大模型上保持端到端精度,代码将分别于6、7月开源。
烧Token成KPI,8.5万Meta员工狂刷60万亿Token,争榜一大哥
硅谷兴起“tokenmaxxing”,将token使用量作为生产力基准和竞争指标。Meta超8.5万员工参与烧token竞赛,30天消耗超60万亿。国内阿里、腾讯也有相关动作,科技大佬推波助澜,Anthropic年化收入破300亿美元。
时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8
在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。
GCEA-YOLO:给油田装上"防火眼",把抽烟行为检测精度拉高 20.8%
油田抽烟事故损失大,传统检测方法有局限,深度学习模型也面临难题。作者基于YOLOv11n构建GCEA - YOLO网络,含ADown、CSP - EDLAN、GFPN、EfficientHead四个模块,检测精度显著提升,还验证了泛化与稳定性,并给出复现代码。