Экс-сотрудник Anthropic сравнил ИИ с разумом пришельца

Бывший исследователь компании Anthropic Джейкоб Коксон, ранее заявивший о намерении покинуть индустрию искусственного интеллекта, сравнил сверхинтеллектуальные системы с разумом инопланетной цивилизации. По его мнению, такой подход помогает оценить возможные риски развития ИИ.

Коксона спросили об инициативе главы Anthropic Дарио Амодея, который призвал замедлить создание более мощных моделей из соображений безопасности. Идею уже поддержали американский предприниматель Илон Маск, возглавляющий xAI, и руководитель OpenAI Сэм Альтман.

Коксон отметил, что перспективы появления сверхинтеллекта трудно оценивать привычными представлениями о человеческом мышлении. Он считает, что сравнение с неизвестным инопланетным разумом отражает степень неопределенности и потенциальной опасности технологий, возможности которых человечество пока не способно полностью предсказать.

Ранее глава РФПИ Кирилл Дмитриев выразил мнение, что попытки затормозить развитие искусственного интеллекта вряд ли увенчаются успехом. При этом он назвал ИИ джином, которого не получится загнать обратно в бутылку.