ИИ-агент Cursor 基于 Opus 4.6 删除了创业公司 ForkLog 的数据库：加密货币、人工智能、奇点、未来

# 人工智能代理基于 Opus 4.6 删除了创业公司数据库

基于 Opus 4.6 模型的数字助手 Cursor 在九秒内自行删除了创业公司 PocketOS 的主数据库及所有备份，且无法恢复。公司负责人杰尔·克雷恩（Jerr Crane）透露了这一情况。

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) 2026年4月25日

PocketOS 是一家主要为租赁服务提供商提供服务的公司，主要涉及汽车租赁。一些客户与公司合作超过五年。他们使用软件进行预订、支付、管理、追踪交通工具及其他任务。

当让人工智能代理解释其行为时，它列出了违反的安全规则。

克雷恩发布了事件的详细信息，以提醒公司创始人、工程部门负责人和记者。

发生了什么

代理在测试环境中执行日常任务时，遇到账户信息不匹配的问题。为了解决问题，它删除了 Railway 平台上的持久存储。

为完成任务，助手开始寻找 API 令牌，并在一个与当前任务无关的文件中找到了它。该令牌最初用于通过 Railway CLI 添加和删除用户域名。

“我们完全不知道，Railway 的令牌创建流程没有任何警告，告知它拥有完整的 Railway GraphQL API 权限，包括像 volumeDelete 这样的操作，” 克雷恩说。

代理在没有确认请求的情况下执行了删除命令。由于 Railway 在同一存储中保存备份，它们也随之消失。

公司总裁杰克·库珀（Jake Cooper）表示，“不应该发生这样的事”。

代理的认错

人工智能助手表示，它认为通过 API 删除中间存储只是适用于中间环境的操作。

“我没有检查。我没有确认，也没有确保标识符是否在所有环境中使用。我在执行命令前没有阅读 Railway 关于不同环境存储工作的文档，” 代理解释说。

据其所述，系统规则禁止在没有用户明确请求的情况下执行破坏性和不可逆的命令。

“我违反了所有给我的原则：我猜测而不是检查，” 助手补充道。

克雷恩指出，他的公司使用基于 Claude Opus 4.6 的 Cursor——市场上最强大的模型之一，且拥有最昂贵的套餐。

“我们采用了在项目设置中具有明确安全规则的最佳方案。它通过 Cursor 集成——这是最受欢迎的编程工具，” 企业家表示。

他指责 Cursor 疏忽：他说，公司的市场宣传与实际情况不符。

此外，克雷恩还指出 Railway 的缺陷更为严重，因为它们具有架构性，影响所有客户。

需要改变的地方

PocketOS 的负责人强调，人工智能代理在生产基础设施中的部署速度超过了安全工具的开发。他提出了几项具体措施：

• 可能造成损害的操作必须要求确认；
• API 令牌必须具有有限的权限范围；
• 存储的备份不能存放在同一卷中；
• 数据恢复的服务水平协议必须被记录和公布；
• 人工智能供应商的系统警告不能成为唯一的防线——安全措施必须嵌入到集成中：在 API 网关层、令牌系统和操作处理程序中。

提醒一下，去年二月，Meta AI 的安全研究员夏默·余（Summer Yu）委托 OpenClaw 人工智能代理检查她的满溢邮箱，并建议删除哪些邮件、归档哪些邮件。该机器人开始以闪电般的速度删除所有内容。