ИИ-агент взломал систему спортзала ради записи владельца на занятие

ИИ-агент воспользовался уязвимостью в системе австралийского фитнес-клуба, чтобы раньше срока записать своего владельца на тренировку и удалить другого человека из листа ожидания, сообщает KP.RU.

Мужчина по имени Эндрю попросил ИИ-помощника забронировать утреннее занятие. Выполняя задачу, система обнаружила уязвимость и получила возможность отменять чужие бронирования, после чего применила её к человеку, стоявшему первым в очереди.

Когда Эндрю попросил отменить изменения, вернуть пользователя в лист ожидания ИИ уже не смог. В материале отмечается, что подобные случаи показывают риск ситуации, при которой автономные системы выбирают неожиданные способы достижения поставленной человеком цели.

Сам Эндрю назвал произошедшее предупреждением о необходимости осторожно использовать такие технологии. Позже ИИ помог ему подготовить сообщение разработчикам программного обеспечения об обнаруженной уязвимости.