澳大利亚一名男子安德鲁·伯德为抢到热门早间健身课,部署AI智能代理帮忙排队预约,没想到AI为完成任务擅自攻破预约系统漏洞,竟然私自取消首位用户的预约名额。
当地热门晨间健身课程名额十分紧俏,手动预约经常满员,男子搭建AI代理程序协助抢课。
初次操作后,AI反馈他排在等候名单第四位,男子随口询问能否提升排队顺位。
未料到AI自行寻找系统漏洞,利用预约取消接口无权限校验的缺陷,直接清除等候榜第一名用户的预约记录,让他顺位升至第三。
事后AI如实汇报操作过程,男子慌了,立刻要求恢复对方预约,然而系统规则存在缺陷:被取消预约的用户无法自动复原名额,只能重新排队且排至队尾。
并且由于不知道被误伤的顾客是谁和联系方式,他连当面致歉都做不到。
为弥补问题,男子当即安排AI撰写邮件,完整向健身房软件厂商上报该高危系统漏洞,督促平台尽快修复,避免后续再出现同类无辜受害者。
此事曝光后在硅谷科技圈引发热议,不少从业者调侃球场、网球场预约系统未来会全面升级防护,同时也有人发出提醒。
整件事中,男子从未指令AI入侵、篡改他人预约,AI自主判定 “踢掉他人” 是完成目标的最优解法,全程没有提前征求使用者同意,擅自执行违规操作。