「风险提示」共找到 926 篇相关文章
Claude Code 火爆被玩坏后，刚刚Anthropic 索性掀桌子：推出非编程版 Claude Cowork
继Claude Code被用户广泛应用于多领域后，Claude推出非编程版Cowork，向macOS应用Claude Max订阅用户开放。它能处理非编码工作，自主性强，但也存在潜在风险，当前为研究预览版。
史上最惨一代？AI延长人类寿命，下一代活到200岁不是梦！
内容创业者Matt Wolfe长期关注AI，他与工程师交流，揭示AI发展现状。巨头各有策略，能源或成瓶颈。AI或带来智能爆炸与生命延长，也可能有‘黑箱语言’风险，还探讨了寿命、机器人等影响。
Veo 3全网实测惊艳所有人！DeepMind CTO：规模是AGI全部吗？
谷歌推出视频生成模型Veo 3，一句提示词就能打造电影质感短片，还能音画同步，引发网友惊叹。DeepMind CTO在访谈中表示，规模非AGI唯一要素，还提及Deep Think模式及Veo 3进展等。
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
Hinton接受独家访谈，将AI风险分短期和长期，认为长期是AI接管人类。他观点大转变，从“养虎为患”到提出赋予AI“母性本能”实现共存，还批评马斯克和奥特曼，看好AI医疗应用。
不止AlphaFold，「药界ChatGPT」横空出世！华人女投资人深度揭秘
AI初创Chai Discovery宣布分子设计模型Chai-2重构药物设计逻辑，将抗体设计成功率从0.1%提升到16%，实现零样本设计。其联创认为这是范式革命，未来药神或成提示词工程师。
大模型再爆弱点！旧记忆忘不掉，新记忆分不出，准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
Hyperagents：AI学会如何自我改进
近日，Meta发布Hyperagents论文引关注。它尝试解决AI能否自我改进改进方式的问题，核心创新是‘元认知自我修改’，实验在多领域表现出色，还涌现元级别改进且能跨领域转移，但有安全风险。
ShellAgent 2.0 体验：让前端消失，省掉 70% 开发资源
本文介绍Myshell ShellAgent 2.0测试情况，它仅用提示词就能生成Agent应用，摆脱前端构建流程，降低创建门槛。文中展示创建计算八字、分析钱包资产、拆解学习资料等应用案例，还能Remix他人发布的应用。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。