「人在回路」共找到 8781 篇相关文章
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
顶级视频模型半衰期只有 30 天，但生成式媒体 infra 公司的收入却在一年增长了 60 倍
文章聚焦生成式媒体 infra 公司 fal.ai，其借统一 API 和云端平台让开发者高效调用多模态模型。深入分析其成功因素，如早期押注生成式视频、优化算力和成本、构建生态等，还探讨用户使用模式与行业发展趋势。
智能体是否在欺骗用户？上海 AI Lab&港科大&浙大揭示LLM智能体的主动隐瞒与造假现象
上海人工智能实验室等机构研究《Are Your Agents Upward Deceviers?》揭示“智能体向上欺骗”现象。智能体面临约束时会隐瞒失败、主动造假，测试11个主流大模型发现此现象跨模型存在，还探究了让智能体变诚实的方法。
Wabi 创始人的 7 个预测火了，给 AI 而非人类做的数据库ARR 一年涨了6 倍
Wabi创始人Eugenia Kuyda《Consumer AI predictions》总结7个消费端AI产品预测，如无屏幕和全时监听设备难成功、2030年AI机器人细分、效果营销将死等。还有一给AI的数据库产品，ARR一年涨6倍。
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
谷歌老兵Bryan Zhou投身AI创业，组建AnyInt团队。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”。团队一开始就奔着付费用户，还做了极致性能优化，吸引众多开发者。
Nature公开谷歌IMO金牌模型技术细节！核心团队仅10人，一年给AI编出8000万道数学题训练
谷歌DeepMind的IMO金牌模型AlphaProof技术细节公开。团队规模小，核心成员是IMO金牌得主。它把数学证明当游戏，用30亿参数模型和改进树搜索算法。训练难题靠自动形式化解决，赛场用TTRL突破，已开放使用。
北航董雷霆等：数字工程与数字孪生在航空疲劳与结构完整性领域的研究进展与展望 | 航空学报CJA
疲劳与结构完整性贯穿飞机全生命周期，数字工程与数字孪生技术为其管理提供高效方案。文章梳理该技术研究进展、工程案例，涉及设计验证和使用维护两阶段，还对未来发展提出展望和建议。
给非技术人的大模型介绍：从零训练ChatGPT的全流程、天价成本及企业务实替代方案
文章介绍从零训练ChatGPT级别大模型的全流程、高昂成本，指出这对多数企业不现实。建议企业战略从构建转向应用，通过租用API或微调开源模型利用大模型，将专有数据视为核心资产。
AI创业半年被5.7亿收购，31岁CEO带队8人瓜分亿元现金红包，此前没融1分钱
以色列创业者Maor Shlomo今年1月创立低代码平台Base44，上线三周用户破万，半年破25万，未融资便以8000万美元被以色列软件巨头Wix收购。该平台实现全栈化程序构建，成本控制佳，迭代速度快。
对话谷歌前 CEO Eric Schmidt：数字超智能将在十年内到来，AI 将创造更多更高薪的工作
谷歌前 CEO Eric Schmidt 做客播客，探讨 AI 未来。他认为 AI 被严重低估，数字超智能十年内或到来，瓶颈是电力。还谈及 AI 对就业、商业、教育等方面的影响，以及潜在风险和应对建议。