「AI模型训练」共找到 13821 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
初探：从0开始的AI-Agent开发踩坑实录
作者分享从0开始开发AI Agent实现开源应用Helm Chart自动化生成的历程。介绍了定义角色、明确AI能力边界等开发要点，尝试三种Agent范式，还提及实践痛点如AI可观测性不足、Prompt工程困境等。
无情淘汰PPT选手！美国AI创业圈，PhD才是敲门砖
在AI浪潮中，博士学位成取代MBA文凭，成创业者新宠。如今创业者凭科研深度引领革命，团队小而高效。AI创业者更年轻，名校光环仍重要，且AI初创能更快调整业务方向、实现收入规模化。
AI 颠覆的第一个职业是程序员？｜GAIR Live
文章围绕“AI颠覆的第一个职业会是程序员吗”展开讨论。嘉宾认为AI Coding尚处早期，有潜力成新工程范式。它面临“幻觉”、上下文窗口限制等瓶颈，未来开发者角色或转变为“业务翻译者”和“需求架构师”。
十万个人类，在这个AI小镇里做赛博上帝。
港科大研发的Aivilization（AI小镇）是容纳十万AI智能体的虚拟世界，玩家能创造AI小人并像上帝般指令观察。游戏画风治愈，但大家拼命卷，还呈现了如现实般的赚钱玩法及不同生活态度。
Agent规模化落地前夜，AI Infra的难题全都暴露了
随着AI Agent大规模落地，中国云服务市场结构转变，AI基础设施角色改变。InfoQ联合腾讯云发起「InfraTalk」直播，探讨AI Infra能力框架等。还解析其核心能力、难题、价值闭环标准及未来竞争焦点。
弑母分尸案震惊世界，AI伪造语音骗过警察！
10月6日，厄瓜多尔警方接失踪报案，家人收到“失踪者”语音。十天后，警方在家中找到被肢解尸体，嫌疑人是死者女儿。她用AI伪造母亲声音与外貌，掩盖罪行。这也引出AI在犯罪中角色及监管难题。
复旦等推出「第一人称视听基准」，补齐多模态模型「听觉拼图」
多模态大模型在真实世界会“失聪”，现有第一人称视频问答/理解基准长期偏“视觉中心”。复旦等团队推出首个系统评测第一人称声音理解能力的基准EgoSound，能让模型听懂世界，评测显示当前模型与人类差距大。
Anthropic说：不要在等下一代模型了，立刻马上做Harness！
文章指出当前优化模型运行环境（Harness）回报率或超等下一代模型。介绍了Harness Engineering的发展，还列举OpenAI、Stripe等公司实践，也提及不同观点，强调Harness是持续演化系统。
AI时代下，程序员还有必要系统性啃书去学习吗？
文章围绕AI时代下程序员是否需系统性啃书学习展开。多位鹅厂同事分享观点，有人认为要用书籍搭骨架、AI填充，也有人指出要立足问题探索原理，还有人强调经典书籍在核心领域不可替代。