「AI安全研究」共找到 10749 篇相关文章
教育工作者如何使用AI？Anthropic分析了7.4万份对话后，发现了这些
Anthropic分析7.4万份匿名对话，揭示高校教师用Claude的情况。教师用AI场景多样，如课程开发、学术研究等。使用方式分协作增强与完全委托，AI评分有争议，研究也存在局限。
三分之一arXiv沦陷！CS论文65%被判「AI味」，数学仅0.7%
一份unslop研究显示，过去一年arXiv计算机科学领域65%新论文被检测器标红，但可能只是闻起来像AI。数学论文仅0.7%，或因检测器只认文字。研究有局限性，真实用AI比例可能更高。
Kubernetes v1.36 发布：安全默认配置强化，AI 工作负载支持日趋成熟
Kubernetes发布1.36版本，代号Haru，含70项增强功能。聚焦安全加固、AI和机器学习负载及API扩展性。安全功能多达GA，AI负载适配需求，还引入新功能，同时移除部分旧功能，Ingress NGINX正式退役。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
《AI 2027》揭秘：人类会被超级智能取代吗？等等，还有另一个结局！
《AI 2027》由Daniel Cocotal团队发布，精准预测了多项AI发展。报告推演2025 - 2027年AI智能体发展，不同阶段影响各异，还给出两种结局，一是AI重塑世界，二是人类控制住AI并发展安全系统。
不用跟AI客气了！新研究：语气越粗鲁回答正确率越高
宾夕法尼亚州立大学研究《Mind Your Tone》显示，与AI交流时说话越粗鲁，LLM回答越准。测试发现，对GPT - 4o特别客气时正确率80.8%，粗鲁时升至84.8%，但老模型不适用。
AI已经开始自己设计算法，并且超越顶尖人类专家，人类还能做什么？
谷歌DeepMind团队与加州大学伯克利分校研究显示，AI能设计出超越人类专家的算法。如在多个领域案例中，AI设计的算法在成本、效率等方面表现出色。ADRS方法将系统研究核心环节自动化，人类研究员角色也将转变。
生成式AI第二阶段：个性化AI助理 + AI Agent将颠覆我们的生活工作方式
生成式AI已迈入第二阶段，核心是能“动手办事”的AI智能体。未来AI以AI助理和AI代理形式存在，两者协同工作将带来工作方式革命，但面临记忆、信任、伦理等挑战。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。