МВД предупредило о риске создания цифрового досье в ChatGPT

ChatGPT может сохранять персональные сведения пользователей в памяти искусственного интеллекта, формируя цифровое досье на человека. Об этом сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.

В ведомстве сослались на исследование The Algorithmic Self-Portrait, авторы которого, по данным МВД, установили, что компания OpenAI сохраняла личную информацию пользователей вопреки собственной политике конфиденциальности.

Отмечается, что почти все записи создавались без согласия пользователей. У большинства аккаунтов в памяти ИИ содержались имена, адреса, сведения о доходах и социальном положении. У половины пользователей сохранялась информация о здоровье и убеждениях, а практически у всех — о целях, предпочтениях и особенностях поведения.

В МВД предупредили, что накопление таких сведений создает риск идентификации человека, даже если он использует псевдоним. Информация о работе, здоровье, доходах и личных переживаниях может использоваться для составления подробного цифрового досье.

Еще одной угрозой в ведомстве назвали манипуляцию памятью ИИ. Злоумышленники могут внедрять в обрабатываемые документы ложные инструкции, с помощью которых нейросеть способна незаметно влиять на решения госслужащих и ученых с учетом их личных данных и психологических особенностей.

Для защиты информации в МВД рекомендовали проверять настройки памяти и персонализации ИИ-сервисов, не загружать служебные документы и личные сведения, обезличивать запросы и пользоваться временными чатами.

Ранее сообщалось, что функция памяти ChatGPT может запоминать сведения о профессии, месте проживания и предпочтениях пользователя. Эксперты рекомендовали не передавать нейросетям пароли, данные документов и банковских карт.