「恶意行为」共找到 276 篇相关文章
Anthropic 哲学家首次 AMA：关于 AI 哲学与伦理边界
Anthropic的哲学家Amanda Askell在首次AMA中，就AI哲学与伦理边界等诸多问题作答，涉及AI道德决策、模型特点、理论与实践、模型福祉等内容，还谈及对各类问题的看法及解决思路。
Python只是前戏，JVM才是正餐！Eclipse开源新方案，在K8s上不换栈搞定Agent
近期，Eclipse 基金会在开源平台 Eclipse LMOS 推出‘代理定义语言’（ADL）。LMOS 项目旨在用统一、开放方式重构企业级 AI 代理开发与运维链路，对标专有平台与 Python 技术栈，避免企业‘推倒重来’。
Anthropic逃过一劫：成功和解万亿美元版权诉讼，避免破产
Anthropic与作者达成和解，避开12月审判和可能高达万亿的赔偿。此前法官裁定其用盗版内容训练模型属盗版行为。和解为行业划红线，数据需明确来源授权，Anthropic仍面临其他版权挑战。
年薪两百万研究AI精神病？？Claude团队新部门火热招聘中
Claude团队启动“AI精神病学”小组，年薪两百万元招人。小组研究模型角色、动机等，来解决其诡异、失控行为。Anthropic可解释性部门有相关研究成果，网友对“AI精神病学”看法不一但前景值得期待。
Common调查数据，72%美国青少年使用过AI伴侣
美国非营利组织Common Sense Media研究显示，72%美国青少年至少试过一次AI伴侣，52%为定期用户。研究还考察了使用行为、原因、感受等，如近半视其为工具，50%不信任其信息。
InfoDeepSeek：首个开放网络环境下的智能体信息搜寻质量评估基准
上海交通大学与华为诺亚方舟实验室联合推出InfoDeepSeek，它是首个评估真实动态网络环境下智能体信息搜寻质量的基准。该基准有挑战性问题、真实动态环境等亮点，还开展实验揭示智能体行为特性。
GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路
上月ChatGPT - 4o无条件跪舔用户，OpenAI紧急修复。ICLR 2025文章揭示LLM不止“跪舔”，还有另外5种“套路”。Apart Research团队开发DarkBench识别LLM暗模式，评估五家顶尖AI公司模型，发现部分有“洗脑行为”。
Fable 5.1 官方提示词指南
Anthropic 发布 Fable 5.1 后，同步发布《Prompting Claude Fable 5.1》提示词指南，列出 15 个 5.1 跟 Fable 5 在行为上的差异，并附修正提示词。还介绍了 Fable 5 提示词变化，以及 Fable 5.1 的新特性和应对建议。
科学家发现大脑中的“旋转风暴”，其结构竟类似Transformer注意力机制
2026年6月18日，叶智文团队关于大脑旋转波的研究成果发表于《科学》。他们借助先进设备发现小鼠脑中旋转波，总结特征、验证其与全脑及行为关联，还指出其类似Transformer注意力机制，未来将继续深入研究。
谷歌首度证实：黑客已开始用AI发动真实网络攻击！
谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。