「工程技能库」共找到 1221 篇相关文章
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
线性注意力回归！Kimi新模型引爆，MiniMax却悄悄换回传统架构
LLM领域线性注意力机制正在回归，工程实践主要由国产模型推进。早期线性注意力因牺牲精度未获主流认可，今年下半年多个国产模型采用其变体，MiniMax却又换回传统架构，Kimi新模型带来新解法。
OpenAI启动新实验，46万学生参与
硅谷巨头正秘密培养首批「AI原生代」，OpenAI等推动下，CSU欲成美国最大AI赋能大学，花费1690万美元采购OpenAI的Edu服务，引发是培养人才还是制造顺从AI机器的讨论。
烧了2000美金后，我发现Vibe Coding“已死”！
作者黄叔分享科研成果Spec Coding，称Vibe Coding已死，因其Prompt易逝、迭代混乱。Spec Coding复杂度高于提示词工程，文中给出从0到1及迭代的提示词和步骤，还提及额外好处及理念特性。
国产黑马自优化「超级大脑」，全闭环Agent杀疯！一站式AI原生基建来了
AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。
Hinton预言成真！AI接管美国一半白领，牛津哈佛扎堆转行做技工
在AI浪潮下，美国就业市场两极分化，白领遇冷、蓝领升温。微软报告显示白领易被AI替代，蓝领则较安全。不少Z世代为降低被取代风险，正转向蓝领或技能型工种。不过，蓝领也并非绝对安全。
对谈黄灯：普通二本学生的出路在哪里？
高考季，与《我的二本学生》作者黄灯对谈二本学生出路。指出学历非唯一，能力和热情更重要。当下就业严峻，高校课程与社会需求脱节，二本学生应提升动手能力，利用AI工具，立足学校和当地找机会。
Vector数据库退位，AI记忆Memvid登场！
近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
英伟达开源深度研究引擎：企业级数据不出门，研究自动做
NVIDIA推出AI-Q Blueprint，将深度研究流水线打包成Agent Skill，解决企业级数据处理难题。它能让企业数据不出门，代理框架可派任务并获报告，还支持多种认证模式，代码库可本地部署，专为深度研究打磨。