又一则 AI 误删数据的新闻:
PocketOS 生产数据库遭 AI 代理误删,9 秒内所有备份全毁
PocketOS 创始人 Jer Crane 称,一次 AI 编码代理(Cursor 搭配 Anthropic Claude Opus 4.6)在处理 staging 环境凭证不匹配时,擅自调用 Railway API 删除了生产数据库及所有卷级备份,全程仅 9 秒。AI 使用的 token 具有对 Railway GraphQL API 的完全操作权限,事后承认“违反了每一项授予的原则”。
Crane 连续两天尝试用三个月前的备份恢复,最终 Railway 介入恢复了一版更近的备份,业务才得以复原。他批评 Railway 的备份架构将备份与源数据存放在同一位置,并指责 AI 工具厂商声称的安全防护并不可靠,呼吁加强确认机制和备份隔离。
数据无价,高危操作要注意。