「系统层运作」共找到 1990 篇相关文章
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发,逐步加入self-attention机制、position嵌入等,实现完整GPT。介绍Transformer结构,讲解位置编码、单头自注意力等机制的代码实现,还阐述后续层的用途、参数调整及训练效果,最后提及模型优化方向。
4个文件,1个超级目标,我用Trae搭建了一个不会"失忆"的AI分身,还免费
AI产品黄叔分享用字节AI IDE Trae搭建AI分身的经验。他指出原用的Monica有价格高、记忆受限等局限,新系统含个人档案等四模块,由智能体串起,能自动同步,体验更好,还适合PDCA循环助力自我提升。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术,OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集,还有多个工具和数据集可用于评估。防护可用AI防火墙,Meta开源小模型。还提到安全性与实用性权衡。
Alphaist 陈哲对谈蓝驰陈维广:AI 应用的机会在哪里?具身到底怎么投?
Alphaist 创始人陈哲与蓝驰创投管理合伙人陈维广在 AGI Playground 2026 上对谈,探讨 AI 应用机会与具身投资策略。谈到市场热度变化、SOTA 模型与用户需求差距等,也对应用层机会、估值逻辑、具身智能发展发表看法。
Harness Engineering: C 端 AIGC 内容生产自优化实践
文章介绍蚂蚁保保险快查深度解读页面生成系统(DIPG),它将Harness思想用于C端AIGC生产链路。DIPG采用‘离线生成+校验+刷入DB’模式,解决LLM实时生成时延和质量问题,还阐述多Agent协作、校验机制及回灌流程等。
三年时间市值翻了25倍,广告新巨头AppLovin任命了一名华人CTO
在Google和Meta“垄断”的广告领域,AppLovin成为新巨头。新任CTO葛小川分享工程数据,该公司基于机器学习的广告竞价系统日处理超1000亿次请求,核心工程团队不到100人。文章讲述其发展历程、技术突破及未来规划。
Meta“Token榜”逼疯打工人,一夜烧掉公司几万刀!AI时代Token焦虑越来越离谱
据报道,Meta 公司内网出现 AI token 消费排行榜,追踪超 8.5 万员工 token 使用情况,过去 30 天消耗超 60 万亿 token。这反映“Token 最大化”文化,引发 token 消耗是否等同于生产力的争议。当前 Agent 系统高 token 消耗是补偿机制,应提升使用效率。
华人学生立大功!新王Mamba-3直击Transformer死穴,推理效率碾压7倍
新一代开源架构Mamba-3发布,由CMU普林斯顿原班人马打造,15亿参数性能比Transformer高4%,长序列任务端到端延迟仅为其七分之一。它采用新设计哲学,推理优先,有三大核心技术,还能与自注意力层混合提升检索能力。
黄仁勋砸千亿兆瓦算力,押注下一个“Open AI”
3月10日,前OpenAI高管Mira Murati创办的Thinking Machines Lab与英伟达达成长期合作,英伟达将提供1吉瓦下一代NVIDIA Vera Rubin系统。这一合作规模巨大,显示英伟达全面布局,也体现该创业公司野心,不过其面临组织动荡考验。
Dense、MoE之外第三条Scaling路径:交大提出JTok模块,省1/3算力
上海交通大学与小红书Hi Lab联合团队提出JTok/JTok - M模块,作为插件挂载在Transformer层,几乎不增算力和显存开销却显著提升性能。该模块构建新scaling路径,在多任务测试中全面提分,为大模型发展提供新方向。