「AI智能体推理框架」共找到 12211 篇相关文章
Agent 元年已至，我们会拥有自己的智能助理吗？｜GAIR Live 预告
2024年被认为是「Agent元年」，智能体浪潮正改写工作与生活。6月14日上午10点，GAIR Live线上圆桌论坛将围绕「Agent」话题展开，5位一线嘉宾探讨其发展阶段、应用方向等关键议题。
特朗普宣布900亿美元建设AI中心，谷歌、黑石集团等领投
首届宾夕法尼亚州能源与创新峰会召开，特朗普宣布超900亿美元投资承诺，要把该州打造成美国AI核心。谷歌、黑石等多家机构参与投资，涉及数据中心、能源基建等项目，还强调了“能源安全人工智能”理念。
开源8300小时标注数据，新一代实时通用游戏AI Pixel2Play发布
随着AI在代码和图片生成领域成熟，研究人员开始关注其在游戏领域的表现。此前的专用模型缺乏跨游戏泛化能力，通用模型在游戏环境中表现不佳。为此，Player2研究员提出Pixel2Play模型，还开源了代码和数据集。
Sam Altman:即将推出远超预期的开源模型，ChatGPT记忆功能正在实现《Her》的愿景
Sam Altman在对话中透露OpenAI将发布‘远超预期’开源模型，分享创立初期挑战，明确GPT - 5等演进方向，展望AI伴侣、机器人发展，还向创业者喊话，强调AI用于科学前景。
你要做旁观者，还是定义者？中关村两院全球寻找「AI时代架构师」
中关村两院（北京中关村学院与中关村人工智能研究院）一体两院、融合发展，现全球招募AI时代架构师，包括领军人才、青年科学家、应届博士/博后等，介绍了招聘方向及优厚待遇，还将召开人才闭门交流会。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
30天烧掉60万亿，扎克伯格没进前250：大厂AI沦为KPI游戏
亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
专为青光眼设计！科学家开发智能隐形眼镜，24小时监控眼压，超标自动滴药
青光眼致病主因是眼压异常升高，传统治疗有痛点。寺崎生物医学创新研究所团队开发无电池、全聚合物微流控诊疗一体化智能隐形眼镜 AP - TSCL，能 24 小时监测眼压、自动给药，已展现高成药潜力。