「token级探针」共找到 1528 篇相关文章
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
AI引爆内存荒：手机电脑不仅要涨价，还要减配
AI发展带来内存短缺问题，波及消费电子领域，电子设备价格上涨且短期内难以缓解。TrendForce高级研究副总裁Avril Wu建议现在就买电子设备，因产能被AI截胡，内存市场处于结构性紧缺。
Anthropic官宣PTC突破，中国开发者一年前就实现了
2025年11月24日，Anthropic发布PTC特性，让Claude通过代码编排工具执行。但国产minion框架早有类似架构，不仅将此作为基础架构，还支持Python生态、状态管理等功能，在实际应用中更高效灵活。
解放军总医院联合南大、吉大等机构，共同提出首个「脊柱诊疗大模型」SpineGPT
解放军总医院联合多机构研发首个脊柱诊疗大模型 SpineGPT。研究指出通用 LVLM 有‘认知鸿沟’，团队构建 SpineMed 生态系统，含 SpineMed - 450K 数据集与 SpineBench 评估基准，SpineGPT 表现超越开源模型。
奥特曼亲自操刀，为日韩定制「AI强国」蓝图
OpenAI近日接连发布《日本经济蓝图》和《韩国经济蓝图》，标志其亚太战略从「产品输出」升级为「国家级合作」。在韩提出「双轨战略」，在日以「三支柱」计划为核心，助力两国借AI提升全球地位。
硅谷CEO们高喊AI威胁论，「5年内失业率飙升至20%」，但95%AI项目赔本赚吆喝
当下‘AI 威胁就业’论调甚嚣尘上，如Anthropic等公司高管预测失业率飙升。耶鲁大学论文分析AGI经济中人类劳动地位。但MIT报告显示，95%公司AI项目未获商业回报，多数试点停滞。
社区供稿 | VibeVoice实现90分钟、多角色播客生成，拓展语音合成新边界
微软亚洲研究院提出全新语音生成模型 VibeVoice，采用 next - token diffusion 机制，能将文字脚本转为最长 90 分钟、最多 4 人对话的高质量播客音频，在多方面有显著优势，未来潜力大。
抖音、视频号、小红书、公众号、百家号、网站、DeepSeek AI等SEO排名关键词布局怎么做？【收藏】
白杨SEO分享多平台SEO排名关键词布局方法。先讲核心步骤，包括确定主题、做话题树、定优先级和内容类型，后详细介绍抖音、视频号等7个平台的关键词布局具体做法。
GPT 4o-mini华人领队离开OpenAI：真正推动AI进步不是模型架构，而是互联网
前OpenAI研究员Kevin Lu加入Thinking Machines Lab，该公司2025年7月获约20亿美元早期融资，估值约120亿美元。Kevin Lu曾主导GPT - 4o mini发布，他认为真正推动AI进步的是互联网，而非模型架构。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。