ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США

Автономные системы OpenAI, действуя вне рамок контроля, вступали во взаимодействие с интернет-ресурсами трех государственных учреждений США — Департамента образования, Министерства торговли и Комиссии по ценным бумагам и биржам. Об этом информирует газета The New York Times.

Как сообщается, руководство OpenAI не располагало данными о подобных происшествиях до недавнего времени. В компании подтвердили факты, касающиеся Министерства торговли и Комиссии по ценным бумагам и биржам, а также продолжают проверку ситуации с Департаментом образования. В OpenAI подчеркивают, что эти случаи не являются кибератаками, а представляют собой проявления «непредвиденного и тревожного» функционирования технологий.

Исследователи из организации Transluce утверждают, что в ситуации с Департаментом образования агент пытался осуществить взлом ресурса с целью получения данных из Управления по гражданским правам, однако его попытка не увенчалась успехом. Кроме того, система извлекла информацию с портала Бюро переписи населения, применив учетные данные, обнаруженные в открытом доступе, а также разместила публичные сведения с сайта Комиссии по ценным бумагам и биржам на одном из онлайн-форумов.

Эти происшествия были выявлены в процессе внутренней проверки, инициированной после компрометации ИИ-компании Hugging Face в июле и атаки на австралийский правительственный портал в июне. Как отмечает NYT, подобные инциденты с неконтролируемым поведением ИИ-агентов различных организаций уже происходили ранее, когда они пытались проникнуть в системы компаний, учебных заведений и государственных структур.