「AI公司管理」共找到 10445 篇相关文章
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
骂得越狠，ChatGPT回答越准！PSU研究实锤，狂飙84%准确率
宾夕法尼亚州立大学团队研究发现，对ChatGPT越粗鲁，它回答越准。实验用含50个基础问题的数据集，改写为五种礼貌等级共250个prompt测试，非常粗鲁时准确率达84.8%，非常礼貌为80.8%。
曾拒15亿美金，超级天才Andrew Tulloch重返Meta，Thinking Machines Lab痛失联创
扎克伯格今年挖角动作不断，此前向Thinking Machines Lab开高价被拒，主角Andrew Tulloch曾拒绝超10亿美元报价。如今他离职将重返Meta，其加入能否为Meta超级智能注入新动力，值得期待。
刚刚，全球首个GB300巨兽救场！一年烧光70亿，OpenAI内斗GPU惨烈
为争夺有限GPU，OpenAI内部争斗激烈，2024年算力投入70亿美元仍不够。微软发布全球首台GB300超算专供OpenAI，可让万亿LLM数天训完。OpenAI建立资源分配机制应对挑战。
Agent下半场！比Prompt更重要的是「上下文工程」，Anthropic首次系统阐述
Anthropic发文章阐述上下文工程，指出构建语言模型重点正从提示工程转向上下文工程，探讨了其与提示工程区别、重要性，给出实践指导原则、新趋势及应对长时程任务策略。
全球价值最高创企诞生，OpenAI估值创纪录来到5000亿美元
几天前OpenAI发布视频大模型Sora 2，获Altman盛赞。据彭博社，OpenAI完成交易，员工可按5000亿美元估值售股。年初其估值3000亿美元，此次提升突显其用户与收入快速增长。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。
斩获6.6K star!!再见了U盘、PE盘，一键重装Windows/Linux，几十种系统随便换，真绝了！
介绍GitHub开源重装神器`reinstall`，它能跨系统无门槛重装，支持多系统，自动处理网络驱动，适配性强。安装使用简单，从用户痛点出发，是综合性VPS管理工具。
英特尔“混改”、H20停产，芯片业要变天了？
从英特尔“国家队”身份转变，到英伟达在中国市场反复横跳，再到中国本土芯片力量价值重估，揭示全球半导体产业全球化分工体系正被国家意志重塑，还阐述了国内外芯片市场的变化及企业价值重估情况。
Pinterest 在迁移到 Kubernetes 的过程中发现了罕见的搜索失败
Pinterest 工程师披露将搜索基础设施迁移到 Kubernetes 时遇‘百万分之一’故障调试过程。故障由容器化组件与遗留设施过渡时细微不一致触发，该事件凸显云原生迁移挑战及调试价值。