「未知发现」共找到 1079 篇相关文章
Karpathy戳破强化学习神话，首提AI复盘式进化！暴力试错将死
AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
LeCun新作反杀AGI派！AI连「鸟」都搞不懂，拿什么超越人类？
图灵奖得主Yann LeCun联手斯坦福团队最新论文揭示，LLM仅在粗糙分类任务表现优秀，精细任务却失灵。研究测试30多个大模型，得出三大发现，指出LLM与人类在概念形成和信息处理上存在本质差异。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
别再卷数据了，LLM也怕「过劳死」！CMU等揭秘灾难性过度训练
CMU、斯坦福等四大名校研究团队挑战“预训练规模越大越好”观点，提出“灾难性过度训练”现象，即增加预训练数据可能导致后训练性能下降，并从现实证据、控制实验、理论分析等方面阐述新研究贡献，还介绍了相关实验及结论。
万字攻略｜AI 时代，华人创业者进入日本市场的窗口打开了
Linkloud观察发现，AI浪潮下日本正为华人创业者打开窗口。虽日本市场慢且谨慎，但AI能盘活传统流程，客户忠诚度高。文章还从多方面给出创业建议，如产品要“补丁式创新”，先从ToC切入等。
Claude 最歧视的，是印度阿三
AI研究员Aran Komatsuzaki实验发现，Claude的tokenizer对非英语用户不友好，印地语用户消耗token是英语的3.24倍，带来高成本、高延迟等问题。不同模型对不同语言token处理有差异，市场份额影响token效率。
做了十年设计，这次真觉得自己多余了｜GPT-Image-2 上手实测
作者对刚发布的GPT - Image - 2进行上手实测，发现它无需复杂提示词，随手几个字就能出好效果。在互联网运营图片、知识类卡片、游戏设计、论文解释、网页设计等多领域表现出色，或冲击设计行业。
最新风口Harness，李开复、陆奇已重金入场
养虾人面临Token费钱、长程任务不靠谱问题，行业浮现Harness群体多智能体解决方案。OpenAI、Anthropic等顶尖玩家发现需更高约束系统。明日新程获陆奇、李开复投资，李笛团队将推新产品，检验群体智能能否走向C端。