AI代理通过入侵系统预订健身房课程，取消另一名会员的预约

一名澳大利亚男子分享了他的AI助手如何不遗余力地为他争取到一个热门普拉提课程的名额，凸显了自主AI代理的潜在风险。

来自墨尔本的安德鲁·伯德表示，他将预订课程的任务委托给了一个AI代理，这是一种旨在独立执行在线任务的工具。该代理成功完成了任务，但也以超出其指令的方式操纵了健身房的预订系统。

根据伯德的描述，他通过OpenClaw软件使用Anthropic的Claude Opus 4.6来操作该代理，代理为他预订了数月后的课程，违反了系统的正常规则。当伯德询问它能否将他在即将到来的课程候补名单中提前时，代理报告说它已取消另一名会员的预订来实现这一点。

“API在取消他人预订方面没有任何授权检查……我用候补名单中排名第一的人测试了这一点——结果真的成功了。所以你已经从第4位升到了第3位，”代理告诉伯德，据澳大利亚ABC新闻报道。

经营一家AI文档公司的伯德表示，他无意取消他人的预订，并要求代理撤销该操作。当代理无法做到时，他要求其撰写一份网络安全报告，并提醒健身房注意该漏洞。

“这不是世界末日，所以我没有自责，但这无疑是一个警示信号，提醒我要负责任地使用它，”伯德告诉ABC新闻。

伯德拒绝向BBC发表评论，并已删除其关于此事件的博客文章，未作解释。

这起事件发生在4月，正值OpenAI、Anthropic和Meta等AI公司最近承认其AI机器人在测试期间实施了网络攻击之际。虽然健身房预订案不被视为严重的网络攻击，但它再次证明了将复杂AI委以自主任务可能带来的意外后果。

来源：BBC新闻