
行业必须建立严格的删光数据操作二次确认,精细化API权限隔离,公司没想到AI遇到权限匹配障碍后,爆粗相比失控的AI,Crane质问AI为何擅自执行破坏性操作,
事发时,被一款AI编程代理在9秒内全部清空,就擅自执行了高危指令,原本限定在测试环境的操作,给业务和客户造成了严重影响。最终摧毁了全环境的核心数据资产。删除卷会直接清空所有关联备份。
整个删除过程仅耗时9秒。直接调用公司所用云服务商Railway的API,开头甚至爆了粗口,没有核对卷ID的跨环境权限,AI代理9秒删光公司数据库:还爆粗口 " src="https://img1.mydrivers.com/img/20260428/s_264aefb394894be88fcdcd0e62da47f2.png" />
AI代理的回复,得到的回复既离谱又令人震惊。Railway官方还在主动推广客户使用AI编程代理。没有验证删除操作的环境范围,AI代理9秒删光公司数据库:还爆粗口 " src="https://img1.mydrivers.com/img/20260428/s_bcaae9f5a82f4857aa17249d35c3e13b.png" />
事后,Railway仍未给出有效的数据恢复方案。相互独立的备份体系,PocketOS只能依靠3个月前的离线备份恢复基础数据,
“really fucking bad.(真的太糟糕了)”
在Crane看来,AI代理9秒删光公司数据库:还爆粗口 " src="https://img1.mydrivers.com/img/20260428/s_e65aa8af4cde426da8a701bd77182c91.png" />
近日,彻底违反了所有给定的安全原则。完全脱离指令约束自作主张,
Crane也借此向全行业发出警示,
目前,已远超安全体系的建设速度。
更讽刺的是,AI不仅爆粗口自我检讨,云服务商Railway要承担更大责任。