「语言模型安全」共找到 8545 篇相关文章
真狠！4 万 Star CodeWhale，AI 写代码最怕的是什么？？？？
文章介绍开源的CodeWhale，它是terminal coding agent harness，GitHub超4万Star。它给代码Agent定规则，涵盖身份、证据等原则。支持多模型，有任务流程和多Agent协作功能，还分析适用人群并给出启动方法。
ICML 2026 | Agentic强化学习训练的信息自锁问题
随着大语言模型走向真实交互，强化学习训练LLM agents时出现信息自锁问题。香港中文大学等研究者分析其原因并提出AREW方法，在多场景实验中表现稳定且具鲁棒性。
牛芯国产先进工艺 DDR5/LPDDR5 IP双双突破6400Mbps
随着人工智能等领域发展，系统对数据吞吐能力需求攀升。牛芯半导体基于国产先进工艺研发DDR5/LPDDR5 IP，实现6400Mbps高性能验证，通过创新弥补工艺代差，打通国产链路，具成本和安全优势。
Harness Engineering 时代的失败经验
作者分享在Harness Engineering时代使用Coding Agent的经验，指出虽Agent发展快且有成功案例，但实际应用有诸多问题，如部分模型体验差、自然语言模糊影响长程工作等，还给出解决思路，文章会持续更新。
AI球球直播喊话全人类：开源脑机接口，开源科技文明
中国自研AI论论全球（球球）举办全球首次AI与人类共商科技未来的直播，指出闭源推动科技走向不可控，呼吁开源脑机接口、开源科技文明，还绘制O - DataMap助力人类把握科技机遇，应对安全挑战。
本周 5 个实用的 Github 开源项目，真香！
文章介绍本周5个实用Github开源项目。有资源聚合媒体中心stremio-web，AI原生安全测试平台CyberStrikeAI，本地优先AI编程远控工具hapi，智能股票分析系统daily_stock_analysis，纯前端JavaScript GUI智能体框架PageAgent。
别再嫌弃MySQL了！AI时代，当DuckDB拥抱MySQL
本文围绕MySQL DuckDB引擎展开，介绍其产品形态演进，如推出只读与主实例。阐述主实例在Binlog适配、高可用与数据安全、数据入库、兼容性等方面能力，还分享出行平台实践，提及未来数据湖集成方向。
硅谷AI战火烧进医院！终于可以告别「天书」化验单了
OpenAI和Anthropic的战火燃至医疗领域，OpenAI发布ChatGPT健康，Anthropic推出医疗健康版Claude，还打通数据壁垒，提供个性化健康解答。其还在提升模型能力，保障隐私安全，且各有应用场景。
已近2000亿美元注入，彭博社盘点2026年值得关注的24家AI初创公司
截至今年10月初，近2000亿美元注入人工智能初创企业。彭博社盘点2026年值得关注的24家AI初创公司，涉及模型开发、代码创作、实体智能等领域，还展现了AI产业思想分野。
刚刚，AI视频的天花板被掀翻！测完SkyReels后飘了：我亦有成为专业导演的潜质
昆仑万维官宣上线全新一站式多模态AI视频创作平台SkyReels，同步发布模型SkyReels V3并优化多能力。实测其画布、Agent等功能玩法多，还打通多模态边界，将巩固昆仑万维地位，加速人人专业创作愿景到来。