搜索：小模型推理能力

「小模型推理能力」共找到 9427 篇相关文章

首席工程师之路：培养领导力

Sophie Weston 在 QCon 伦敦大会演讲称，成为首席工程师不仅要技术能力，还需影响力等。工作外如体育运动等能提升领导潜力，还建议融入科技社区、公开演讲，这些效果会成倍增长。

加州大学尔湾分校研究人员用特制雨伞干扰无人机视觉系统，实现FlyTrap攻击，让无人机误判目标远去而失控俯冲。此攻击无需信号干扰，成功率超60%，有强泛化能力，揭示了AI感知系统安全隐患。

10月17日，Anthropic发布Claude Skills，是助其模型获新功能的模式。Claude用Skills可改进执行特定任务方式，且只在相关时调用。它易共享，可能比MCP更重要，实现依赖编码环境。

在LLM问答领域，多跳问题存在局限性，现有方法缺乏严谨性等。KAG - Thinker是基于KAG框架的模型，将复杂问题分解，通过多模块优化知识获取，在医疗领域实用，稳定性也出色。

Hugging Face 的 LeRobot 项目开源了 23 自由度的 HopeJR 机械臂系统，软硬件全公开，支持遥操作。它制造门槛低，3 步可搭建，支持数据采集训练模型。本周四晚 23 点直播揭秘其技术。

上交大、中山大学等发表长文对LLM Agents中的记忆、Skills、协议与Harness工程进行统一综述。介绍了从权重到上下文再到Harness能力的三次迁移，阐述记忆、技能、协议系统及Harness工程，还分析了模块间耦合。

近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。

Karpathy官宣加入Anthropic要组建新团队‘用Claude加速预训练研究’，话音未落，Google&Meta等发论文‘LLMs Improving LLMs’验证了该思路。论文让Claude Code搜索最优推理策略，结果全面超越人类设计。

作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。

谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。