搜索：稀疏语言模型

「稀疏语言模型」共找到 7939 篇相关文章

Harness 工程就是控制论

文章指出OpenAI的Harness工程模式与瓦特离心式调速器、Kubernetes类似，都遵循控制论。代码库此前反馈回路在低层面，大语言模型改变现状，但需校准传感器和执行器，忽视工程实践代价会变得无法承受。

Surge AI创始人Edwin Chen接受访谈，提出创业应解决问题而非融资，合成数据被高估，高质量数据才是壁垒。他还指出大语言模型竞技场误导训练方向，人类反馈永不过时，数据质量是AI发展首要瓶颈。

文章指出尽管科技公司CEO宣称AI强大，但大语言模型无人类智慧。人们误解AI本质危害多，如将其当精神导师、用AI替代人际互动等，还揭露产业背后廉价劳工，强调要认清AI本质。

大语言模型的RL技术已成熟，但多模态生成模型的强化学习训练仍“各自为战”，制约AIGC模型能力上限。腾讯混元庞天宇团队开源UniRL框架，打通多模态RL后训练，覆盖多种模型，内置算法与奖励组件。

模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。

AstrBot是聊天机器人及开发框架，松耦合、异步，支持多消息平台部署。它功能丰富，支持多种大语言模型，有Agent能力、插件扩展等，还介绍了多种部署方式、平台及提供商支持情况。

如今视觉语言模型在长上下文任务表现不佳，CMU和小红书团队深入研究，首次提出多模态RoPE扩展策略理论评估框架，指出现有泛化能力不足原因，提出HoPE大幅提升VLM长度泛化能力。

随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。

工程仿真里有限元方法常见，但计算与人力成本高。此研究提出把大语言模型变为计算机辅助工程智能体，开发不依赖训练数据的降阶求解器，在多问题上表现佳，为下一代计算机辅助工程提供框架。

语音合成技术在大语种发展好，但小语种因语料稀缺等面临挑战。逻辑智能团队提出针对低资源语言TTS的解决方案，构建泰语数据集，经先进预处理，其TTS模型效果好，有零样本克隆能力。