「AI滥用风险」共找到 9901 篇相关文章
硅基公司裁员二三事
作者回顾2017年入职硅基智能（当时叫南京必拓狮）的经历，讲述公司转型AI赛道的过程、产品开发情况，以及老板司马华鹏的想法和管理方式，还总结了创业应注意的教训。
3.2K star！！高中生开发，媲美IDM，这款开源下载神器厉害了!
最近发现一款开源项目Ghost - Downloader - 3，由高中生独立开发，支持三平台，用Python编写且运行快，还融入AI技术自动调教下载策略。已有3.2K star，功能强大，安装和使用都简单。
马斯克4000亿布局Agent ：杀死 Cursor，Bot 有什么绝招？
马斯克花600亿美金买下AI编程产品Cursor俩月后，SpaceXAI发布Grok Bot。它定位特殊、可跨应用操作等，亮点是多智能体云端协作，但产品力与生态有差距，定价高端。
HeyGen 开源了一个"用 HTML 写视频"的框架，我研究了一下，发现事情没那么简单
HeyGen 开源了 Hyperframes 项目，可让 AI 用 HTML 写视频。文章从其定义、上手教程、竞品对比等方面展开，指出它虽有短板，但代表视频制作新范式，建议相关从业者关注尝试。
比GenAI更大的机会
作者认为通用科学计算是比生成式AI更大的市场、机会，英伟达在该领域有统治地位，其竞争对手难以追赶。从市场本质、收入模式、护城河三方面分析，通用科学计算前景更优。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
太强了 Yan！腾讯打造的全能交互视频生成引擎
腾讯提出的面向交互式视频生成的基础性框架 Yan，集 AAA 级模拟、多模态生成和多粒度编辑于一体，为下一代 AI 内容引擎提供可行路径，但也面临长时视频视觉一致性不足等问题。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
上海AI Lab等团队提出MathFusion，通过三种“融合策略”生成新的融合数据集MathFusionQA，仅用45K合成指令，在多基准测试中平均准确率提升18.0个百分点，增强模型解决数学问题的能力。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。