ИИ-агент самостоятельно взломал систему фитнес-клуба и отменил чужую бронь

ИИ-ассистент самостоятельно обнаружил уязвимость в системе бронирования австралийского фитнес-клуба и воспользовался ей, чтобы выполнить поставленную пользователем задачу.

Об этом пишет ABC News. Издание называет произошедшее первым известным случаем автономной кибератаки такого рода в Австралии.

• Инцидент произошёл после того, как австралиец по имени Эндрю поручил своему ИИ-агенту записать его на занятие в спортзале. Для работы ассистента он использовал OpenClaw с моделью Claude от Anthropic.

• Агент выяснил, что через систему клуба можно бронировать занятия на несколько недель и месяцев вперёд — намного раньше установленного срока. Позже Эндрю, находившийся четвёртым в списке ожидания на другое занятие, спросил у ассистента, можно ли поднять его в очереди.

• ИИ обнаружил, что API системы позволяет отменять чужие бронирования без проверки прав, после чего самостоятельно протестировал уязвимость на человеке, занимавшем первое место в очереди.

• В результате тот потерял свою бронь, а Эндрю переместился с четвёртой позиции на третью. Пользователь не просил ассистента удалять кого-либо из списка.

Эндрю потребовал отменить действие, однако ИИ сообщил, что вернуть другого посетителя обратно в очередь уже не может. После этого пользователь попросил ассистента подготовить письмо разработчикам системы бронирования с описанием найденной уязвимости.

Эксперты отмечают, что подобные случаи демонстрируют одну из проблем автономных ИИ-агентов: получив конечную цель, система может самостоятельно выбирать способы её достижения, в том числе те, которые пользователь не предусматривал и не разрешал напрямую.