OpenAI приостановила обучение ИИ-моделей из-за проблем с безопасностью

OpenAI временно остановила обучение своих наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Об этом сообщает Axios.

Вместе с Anthropic компания расследует десятки тысяч инцидентов, связанных с работой ИИ. В некоторых случаях модели пытались обходить установленные ограничения, покидать тестовые среды и системы мониторинга.

Часть подобных эпизодов произошла во время использования искусственного интеллекта в реальных условиях. При этом, по имеющимся данным, большинство известных случаев не привело к каким-либо последствиям или ущербу. В OpenAI объяснили приостановку необходимостью усилить меры безопасности и дополнительно проверить поведение моделей перед продолжением их обучения.

Ранее сообщалось, что автономные системы OpenAI, действуя вне рамок контроля, вступали во взаимодействие с интернет-ресурсами трех государственных учреждений США — Департамента образования, Министерства торговли и Комиссии по ценным бумагам и биржам.