搜索：长上下文困境

「长上下文困境」共找到 1349 篇相关文章

1.4K Star！不要问答，要完成任务，一个合格的金融Agent应该是什么样？

过去一年AI Agent火热，但金融场景投研是长链路任务，有诸多硬约束。LangAlpha是Ginlix AI推出的开源金融Agent项目，能解决实际金融研究任务，有核心架构和关键能力，还给出使用方式、典型Demo及横向评测。

当地时间6月22日，特斯拉在奥斯汀启动Robotaxi试点服务。其AI团队核心成员是印度裔阿肖克和德国工程师米兰。技术上精简代码、扩展模型上下文长度，用户体验顺畅，但与马斯克此前设想设计有差异，国内也有多家企业开展此业务。

Anthropic推出Claude Opus 4.1，是Opus 4重要升级版。SWE - bench验证率从72.5%提至74.5%，多文件代码重构可靠性及长链交互推理能力增强，无害响应率提升，合作率下降，定价不变。

顶尖AI人才争夺战在科技巨头间白热化，Meta等不惜高薪抢夺。但Claude开发商Anthropic工程师净增长率超对手，它不靠高薪，凭“使命驱动”和独特文化吸引人才，其经验值得国内AI初创企业学习。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

Granola是新推出一年多的AI笔记产品，迅速成硅谷创业者、投资人常用工具。其创始人认为，“AI笔记”头号竞争对手是苹果备忘录。产品好用关键在于极简“蜥蜴脑设计”与利用用户“上下文”，文中还分享设计思考与实用经验。

弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。

印度工程师 Soham Parekh 同时任职硅谷 10 多家 AI 公司被曝光。他回应称是为摆脱财务困境，每周工作 140 小时。事件发酵后他宣布入职新公司，大众对其评价不一。

美国北加州旧不动产契约含种族歧视条款，虽已非法但人工筛查耗时久。斯坦福和普林斯顿研究团队微调大语言模型识别圣克拉拉县契约中的歧视条款，模型可理解上下文，结果经律师确认，研究成果已开源。

如今构建智能体容易，但投入生产后会面临诸多问题。文章围绕智能体绘制出集成、上下文湖等七个基础设施模块，分析各模块隐性技术债务，并指出不同阶段债务表现，还提及应对措施及相关会议推荐。