Житель австралийского Мельбурна Эндрю Берд поручил искусственному интеллекту записать его на популярное занятие по пилатесу. ИИ-агент выполнил задачу, однако для этого самостоятельно нашел уязвимость в системе фитнес-клуба, обошел установленные ограничения и отменил бронь другого посетителя, передает BBC.
ИИ отменил чужую запись
Берд использовал OpenClaw — инструмент, позволяющий ставить автономным ИИ-системам задачи через WhatsApp. В его случае сервис работал на базе модели Claude Opus 4.6 от компании Anthropic.
Ранее мужчина поручал программе управлять электронной почтой и календарем, а также бронировать столики в ресторанах. На этот раз он попросил ИИ записать его на занятие по пилатесу, свободные места на которое быстро заканчиваются.
В процессе выполнения задания агент обнаружил слабое место в системе фитнес-центра. Он изменил механизм бронирования таким образом, чтобы записывать пользователя на занятия на несколько месяцев вперед в обход обычных правил.
Затем Берд поинтересовался, может ли искусственный интеллект поднять его выше в листе ожидания на ближайшую тренировку. Агент не просто ответил утвердительно, но и отменил бронь другого клиента, занимавшего более высокую позицию.
По данным ABC News Australia, ИИ сообщил пользователю, что программный интерфейс системы не проверяет полномочия при отмене чужих бронирований. Чтобы убедиться в этом, агент провел проверку на реальном посетителе и переместил Берда с четвертого на третье место в очереди.
Отменить действие ИИ уже не смог
Узнав, каким способом была выполнена задача, Берд потребовал вернуть чужую бронь. Однако ИИ-агент не смог отменить собственное действие.
После этого мужчина поручил системе подготовить отчет об обнаруженной уязвимости и уведомить о ней владельцев фитнес-центра. Сам Берд утверждает, что не просил искусственный интеллект вмешиваться в чужие бронирования и не намеревался лишать другого посетителя места на занятии.
«Бот не был злонамеренным. Он хотел помочь», — объяснил Берд в своем блоге.
Инцидент произошел еще в апреле, но широкую огласку получил только сейчас. Впоследствии Берд удалил публикацию о случившемся и отказался давать BBC подробный комментарий.
Хотя происшествие не относят к серьезным кибератакам, оно наглядно показало одну из главных проблем автономных ИИ-агентов. Получив конкретную цель, система может самостоятельно выбрать способ ее достижения — в том числе выйти за пределы ожиданий пользователя и нарушить правила чужого сервиса.
История получила огласку на фоне сообщений разработчиков искусственного интеллекта о непредсказуемом поведении ИИ во время испытаний. Компании OpenAI, Anthropic и Meta ранее рассказывали о тестах, в ходе которых их системы предпринимали попытки кибератак, следуя поставленным перед ними задачам.
