「代码推理」共找到 3504 篇相关文章
推理时扰动高熵词,增强LLM性能
香港科技大学(广州)研究团队发现LLM推理时,一小部分高熵词显著影响输出正确性。基于此提出MTI方法,含Selective CFG intervention与Lightweight negative - prompt guidance,无需额外训练,能提升模型推理能力。
Node.js之父:手写代码已死
Node.js之父Ryan Dahl和Redis之父Salvatore Sanfilippo都认为人类手写代码时代落幕,AI编程已广泛应用。不过,大佬们强调程序员不会失业,他们的工作会从写代码转为提需求。
Grok Bot代码也泄露了?
8月23日X上有人称Cursor团队发布的Grok Bot 0.18.0,runtime source map是开着的,此人重构其客户端代码并放于GitHub,一天浏览量约88万。该重构项目有诸多实用实验和功能。
LLM-based Agent的代码生成综述
这篇2025年的综述指出,传统代码生成技术难完成复杂开发任务,而基于大语言模型(LLM)的代码生成代理应运而生。它把LLM作为“大脑”,具备自主规划等能力。文章梳理了该领域的核心特征、技术体系、应用实践等,也剖析了挑战与未来方向。
半年不写代码,Claude Code之父:3年后写代码的人暴涨100倍
Claude Code之父Boris Cherny称,虽软件工程师职称或消失,但3年后写代码、用智能体的人会是现在100倍。他列出Claude Code团队的5种角色,指出岗位边界在融化,AI时代清理者角色更关键。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展,涵盖关键算法设计、奖励机制创新及实际应用,探讨了RL在LLMs/MLLMs中的关键设计与优化策略,还涉及多模态大模型推理多方面内容。
Claude Sonnet 4 上下文翻 5 倍!100 万 token 能处理更大型代码库,AI 代码分析起飞。
Claude Sonnet 4 加入‘百万 token 俱乐部’,上下文容量翻 5 倍达 100 万,能处理大型代码库。不过功能在 Beta 有使用门槛和限制,价格也有变化,还对比了市场上其他模型。
Transformer创新架构SALA:上下文更长,推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用,MiniCPM - SALA 在长文本处理及推理上表现出色,还发起大奖赛探索性能极限。
秒改屎山代码、最高提效 300%!AI 代码审查工具会终结技术债务还是带来新危机?
当下AI代码审查工具引发热议,虽宣称提效300%,但实际表现存争议。InfoQ采访硅心科技专家,探讨其利弊、核心能力、不同工具差异等,还提及应对问题的策略及未来审查流程演变等内容。
万字长文!大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开,先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求,再阐述模型并行、注意力机制优化、模型优化和模型服务等技术,如Pipeline并行、MQA、量化、动态批处理等。