「LLM开发」共找到 2457 篇相关文章
告别JSON冗余：TOON让Token成本降低30-60%
LLM交互用JSON有冗余，成本高、速度慢。TOON格式专为LLM优化，结合YAML和CSV特点，比JSON减少30 - 60%的token消耗，还介绍了特性、上手方法、集成实践和适用场景。
未来已来：a16z 描绘Agent时代的开发者工作流（内含 9 大关键模式）
知名风投机构 a16z 发布 Insight，认为开发者将 AI 作为构建软件新基石，传统开发范式因 AI Agent 参与而变革。其识别出九个新兴开发者模式，预示 AI 时代开发工作新图景。
生成式推理再排序，可能会是LLM4RecSys的新突破口吗？
Meta AI研究者尝试把推理模型引入推荐系统再排序阶段。论文通过监督微调等赋予模型推理能力，超LLM4Recsys标杆。中期内化物品语意ID，生成推理路径，推理赋能再排序，披露重排序提升空间。
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
大模型参数规模大，推理部署难。华为诺亚提出Pangu Light框架，结合算法创新与国产昇腾平台，通过跨层注意力剪枝等技术，解决剪枝后模型失稳问题，实现高压缩率、推理加速与高精度。
基于百万亿 Token 的 AI 使用模式分析：趋势、拐点与未来｜PPT分享
近期OpenRouter报告《人工智能现状：基于OpenRouter的100万亿Token实证研究》，分析超100万亿个token的真实世界LLM交互数据，弥补LLM实际使用情况证据不足，揭示2024年转折及多方面发现。
16.8K star!!再见了英文GitHub，这个汉化项目必须安排上，程序员力荐！
介绍实用开源项目`github - chinese`，它是GitHub汉化浏览器插件，由‘楼教主’开发、maboloshi维护。有开发版和发布版，功能强且适配多浏览器，助新手和英文不好者轻松用GitHub。
AI Coding 赛道，Solo 创业、6 个月 8000 万卖掉，独立开发的新传奇
Maor Shlomo开发全栈无代码平台Base44，6个月获25万用户后8000万美元卖掉。他复盘了从搭建到推广的全流程，分享产品切入点、与AI协作、渠道增长等经验，强调做喜欢之事，把握用户‘顿悟时刻’。
LLM 仅靠自身就能增强推理？SePT 给出简洁在线自训练范式
多数推理后训练方法依赖外部信号，SePT仅用模型自身生成的答案自训练，能提升推理能力，数学推理任务准确率升10个点。它核心简洁，设计关键是温度解耦等，不损模型通用能力，代码易迁移复现。
10.6K star！再见了英文GitHub，这个汉化项目必须安排上，程序员力荐！
文章介绍实用开源项目`github-chinese`，它是GitHub界面汉化浏览器插件。由‘楼教主’开发、maboloshi维护，有开发版和发布版。有全面汉化等特色，还给出安装使用步骤，适合英文不好的新手。
CUDA内核之神、全球最强GPU程序员？OpenAI的这位幕后大神是谁
AI圈聚光灯常聚焦明星人物，OpenAI一位工程师因编写关键CUDA Kernel引发关注，网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN，加入OpenAI后开发块稀疏GPU内核并开源。