「HY-1.8B-2Bit」共找到 2151 篇相关文章
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。
超越Claude 3.5和o1！8B模型靠「分层投票+测试时训练」逆袭
近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。
这张信息图，居然是8B开源模型做的？？
商汤新开源的 8B 多模态模型 SenseNova U1，架构独特，图像评测表现好，信息图生成能力强、延迟低。它具备图文交错能力，适合自媒体、敏感行业等，有在线体验和开源代码入口。
4.8亿美元砸向端侧算力！Agent芯片新贵冲出重围
成立不到三年的Acrab成亚洲AI芯片新贵，累计融资超4.8亿美元，新资金用于扩产、拓展生态及研发下一代平台。该司押注端侧算力，发布芯片GΞLIX 1和Agent Box，其产品进入量产验证。
腾讯AngelSlim重磅升级！面向全模态的大模型压缩算法工具包，推理速度飙升 1.8倍！
近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。
Karpathy盛赞，啥都没有的创业公司刚融了1.8亿美元，要用小数据造强智能
AI创业公司Flapping Airplanes几乎无产品、盈利，也不急于商业化，却获1.8亿美元融资及Andrej Karpathy力挺。它专注解决“数据效率”问题，探索新思路，目标是做改变范式的研究。
马斯克曝光Grok 5！1.5万亿参数，偷师Cursor狂练编程
5月25日凌晨马斯克官宣，1.5万亿参数Grok V9-Medium训练完成，2 - 3周后发布。训练灌入大量Cursor编程数据，编程能力将大幅提升。此前v8 - small年底前开源，马斯克编程赛道布局全面摊牌。
商汤新模型 SenseNova-U1 Pro 曝光，对标 GPT-Image-2，瞄准「设计」赛道
商汤科技在股东大会预告下一代旗舰多模态基座模型 SenseNova-U1 Pro，预计 2026 年 7 月邀测，对标 GPT-Image-2，瞄准「设计」赛道，具备多核心能力，还支持 8K 分辨率输出。
8.99万的人形机器人来了！中国版Figure发力，价格打穿地板
星尘智能发布T1新品，价格8.99万元起，6月发货。它强调商业化能力，能「一机多用」，打穿多场景。星尘自研「AI模型 - 具身OS - 绳驱本体」架构，已量产，订单多，领先同行。
单机H200最快DeepSeek V3和R1推理系统优化秘籍
作者从开源技术分享角度，盘点SGLang对单机规模推理的大量工程优化技巧，涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等，助于提升DeepSeek V3/R1在单机H200上的推理性能。