「LLM微调库」共找到 1420 篇相关文章
大模型是「躲在洞穴里」观察世界？ 强化学习大佬「吹哨」提醒LLM致命缺点
加州大学伯克利分校副教授、强化学习大牛Sergey Levine在博客指出，当前大语言模型（LLM）只是对人类大脑和思维的间接「扫描」，如同被困洞穴看人类智慧「投影」，无法代替真正思维。
为什么我不“凭感觉编程”
作者 Jacob Harris 分享不“凭感觉编程”的原因。他认为使用 LLM 要付费，且无法应对编程本质复杂性，还缺乏元认知。同时，他强调编程中摩擦的重要性，在乎编程的创造性与责任感，也反感 LLM 语气等。
虚拟智库：运用大语言模型获取多元视角
本文探讨如何用大语言模型（LLM）构建虚拟智库。以电商系统架构决策为例，通过让 LLM 扮演不同角色，如 Martin Fowler、David Heinemeier Hansson 等，从多元视角讨论微服务架构利弊，为架构决策提供参考。
谷歌AI新里程碑：一个能「做研究」的系统诞生了，用LLM+树搜索编写专家级软件
谷歌提出能帮科研人员编写「专家级」科研软件的AI系统，融合大语言模型和树搜索，可整合重组知识构建新思路。在多领域超人类表现，但局限于可量化任务。
拒绝强行AIGC！| 一种安全实用、准确率高的Text2Sql方案
在金融、医疗等对精确性、透明度和安全性要求高的领域，完全依赖大模型NL - to - SQL能力易出错。本文提出基于函数调用LLM的新范式，将LLM能力聚焦于调用预定义功能函数，提升了数据检索的准确性、透明度和可维护性。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
大模型是否对问题难度有预判？最新研究揭示 LLM 内部的“难度感知机制”
近期论文《Probing the Difficulty Perception Mechanism of Large Language Models》系统性解答大模型能否感知问题难度等问题。研究基于数据集在主流 LLM 上训练轻量线性探针，定位负责难度感知的注意力头，还发现不同模型表现有差异。
算力成本大降！马尔可夫思考机来了，LLM推理成本直接降为线性
用强化学习让LLM具备推理能力耗费颇高，计算量会二次级增长。Mila和微软研究院等团队提出马尔可夫式思考机，重构强化学习形式，让计算量呈线性，实验效果显著，还能与先进模型兼容。
合成数据>人工数据，绝对性能暴涨超10个点！仅需任务定义，高效微调大模型
为解决基础模型在专业领域表现不佳、依赖人工标注数据的难题，北大、MIT等机构提出「合成数据强化学习」框架。该框架仅需任务定义，能生成合成数据微调模型，在多领域基准上性能提升显著，代码已开源。
Claude Sonnet 4 上下文翻 5 倍！100 万 token 能处理更大型代码库，AI 代码分析起飞。
Claude Sonnet 4 加入‘百万 token 俱乐部’，上下文容量翻 5 倍达 100 万，能处理大型代码库。不过功能在 Beta 有使用门槛和限制，价格也有变化，还对比了市场上其他模型。