Anthropic сообщила о 5 попытках ученых применить ИИ для создания биооружия

Американская компания Anthropic, разработавшая чат-бот Claude, сообщила, что зафиксировала не менее пяти случаев использования ее моделей искусственного интеллекта (ИИ) в исследованиях, которые могут быть связаны с разработкой биологического оружия.

В ее отчете говорится, что, в частности, ученые пытались с помощью нейросети запланировать эксперимент по усилению воздействия вируса чикунгунья, адаптировать птичий грипп к организму млекопитающих и составить заявку на грант по преодолению иммунной защиты вирусами из рода ортопоксвирусов, вызывающими оспу. Кроме того, «работающий при поддержке государства» ученый хотел воспользоваться возможностями ИИ пытался для создания базы пептидов ядов и для «автоматического конвейера» для улучшения молекул ядов для более эффективного паралича или блокировки нервных импульсов. Еще один запрос был связан с «перепроектированием токсина» для нацпрограммы.

Сообщается, что специалисты компании заблокировали учетные записи пользователей. При этом данные о том, каких стран были эти ученые и к каким научным учреждениям принадлежат, компания раскрывать не стала. Anthropic обратила внимание, что достоверных данных о том, что ученые намеревались причинить вред нет, но публикация информации об ученых или лабораториях может подвергнуть их опасности.

Ранее сообщалось, что специалист Anthropic Джейкоб Коксон уволился, объяснив свое решение тем, что не хочет участвовать в гонке по созданию систем искусственного интеллекта. По его мнению, они потенциально могут выйти из-под контроля и создать угрозу для человечества.

Ранее Билл Гейтс назвал искусственный интеллект самым опасным инструментом из когда-либо созданных человечеством.