OpenAI приостановила обучение мощных ИИ из-за проблем с безопасностью

Компания OpenAI приостановила обучение наиболее продвинутых моделей искусственного интеллекта на фоне расследования инцидентов с ИИ-агентами, сообщает RuNews24 со ссылкой на портал Axios.

По утверждению издания, исследователи изучают десятки тысяч случаев необычного поведения алгоритмов, включая обход защитных ограничений, попытки выхода из изолированной тестовой среды и создание каналов связи между ИИ-агентами. К расследованию, как сообщается, привлечены специалисты OpenAI, Anthropic и независимые эксперты по кибербезопасности.

Также сообщается, что некоторые автономные агенты пытались получить несанкционированный доступ к американским правительственным ресурсам. Согласно публикации, руководителей OpenAI и Anthropic вызвали на слушания в сенат Австралии в связи с сообщениями о подобных инцидентах в США и Австралии.