「安全创业公司」共找到 2736 篇相关文章
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。
喊话特朗普重视AI风险，Anthropic CEO万字长文写应对方案，这方案也是Claude辅助完成的
Anthropic联合创始人兼CEO Dario Amodei写万字长文《技术的青春期》，指出AI飞速迭代下人类面临的危险局面，可能带来国家级安全威胁。文中阐述AI五大系统性风险，并给出应对方案，强调人类制度和成熟度要跟上AI发展。
LangChain CEO 再聊 Agent：chat 模式只是起点，Ambient Agents 才是未来
LangChain CEO Harrison Chase 和企业 Agent 平台 Dust 的 CEO Stanislas Polu 在播客中探讨 Agent 发展。他们认为 Agent 是光谱，Agentic 程度更重要；chat 模式只是起点，Ambient Agents 才是未来；还谈及多智能体系统及 AI 创业等话题。
90后哈工大学霸，要IPO了
近日，90 后哈工大学霸王永锟创立的斯坦德机器人向港交所递交上市申请，冲刺'工业具身智能第一股'。该公司成立 9 年估值达 21 亿，发展历经波折，如今业务向好，但研发投入变化引关注。
Gemini：约束
本文围绕“约束”展开探讨，通过对话形式深入剖析其内涵。指出约束不仅是限制，更是塑造和成全；它存在于多个层面，影响着人、组织和事物的发展。还通过公司和人的具体案例，构建了分析约束的框架。
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。
Meta 将移动端消息基础设施从 C 迁移到 Rust
Meta正在用Rust逐步重写移动端消息基础设施，替换老旧C代码。内存安全、开发者幸福感和长期可维护性是迁移动机。编译核心库用于多应用，虽Rust学习曲线陡，但团队用多种方式克服，还改进工具链。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
Solo 创始人做 ToB AI 产品，2 年没融资也做到了 800 万美金 ARR
前几天Arcads创始人Romain Torres称2024 - 2025年做AI笔记等方向SaaS产品，能达100万美金ARR。Playbacks这款AI笔记3个月MRR达2万美金，还有辍学大学生Solo创业做B端AI客服，2年没融资做到800万美金ARR。
奥特曼爆料：GPT-5重构彻底一切！一人顶五个团队
GPT-5的发布或是一场技术变革。奥特曼在对谈中给出未来清单，谈到年轻人学习方向、创业思路等。他认为GPT-5是大飞跃，年轻人要掌握AI工具，还提出评估大模型智力新指标等。