Раскрыты неожиданные сценарии, как ИИ может уничтожить человечество

Исследователь искусственного интеллекта Тоби Уолш описал пять гипотетических сценариев, при которых развитие искуственного интеллекта в будущем может привести к гибели человечества. Об этом пишет издание DailyMail, перевод статьи выполнил aif.ru.

Первый связан с появлением сверхразумной системы, действия которой люди не смогут предсказать или контролировать. По мнению исследователя, ИИ может превзойти человека в большинстве интеллектуальных задач, после чего его цели и решения окажутся недоступными для понимания разработчиков.

Второй сценарий предполагает получение ИИ доступа к критически важной инфраструктуре, в том числе системам, связанным с ядерными объектами. Ошибка или неконтролируемое действие такой системы может иметь масштабные последствия.

Третья угроза может возникнуть из-за использования ИИ самими людьми. Технологии способны упростить создание опасного оружия, включая биологическое, и тем самым расширить возможности отдельных государств и организаций. Этот риск стал более очевидным, когда исследователи из Стэнфордского университета объявили, что с помощью генетической языковой ИИ-модели они синтезировали 16 новых вирусов.

Еще один вариант связан с автономным распространением ИИ. Получив доступ к компьютерным сетям, системы могут самостоятельно копировать себя и расширять свое присутствие без непосредственного участия человека.

Наконец, ИИ может быть использован людьми как инструмент для нанесения масштабного ущерба другим людям или государствам. В этом случае опасность будет исходить не столько от самой технологии, сколько от тех, кто получит возможность управлять ее возможностями.

При этом Уолш подчеркивает, что речь идет именно о гипотетических сценариях. Их реализация не является неизбежной, а сроки и вероятность подобных событий остаются неопределенными.

Ранее президент США Дональд Трамп назвал рассуждения о рисках искусственного интеллекта заговором. Он подчеркнул, что не намерен замедлять развитие этой технологии.