info@russians-in-london.co.uk

Эксперт Мелерзанов назвал угрозу бесконтрольного применения ИИ в медицине

Эксперт Мелерзанов назвал угрозу бесконтрольного применения ИИ в медицине

Заместитель исполнительного директора Института биофизики будущего МФТИ, доцент, кандидат медицинских наук Александр Мелерзанов в интервью aif.ru сказал, в чём главный риск бесконтрольного применения искусственного интеллекта в медицине. По его мнению, ключевая опасность связана с качеством данных, которые вводятся в модель.

«Чтобы ИИ давал хороший, качественный ответ, нужно вводить в модель правильные данные. Мы знаем из логики, что неправильная (ложная) посылка делает бессмысленным любой вывод, сделанный на её основе», — пояснил эксперт.

Мелерзанов подчеркнул, что риск неправильных ответов ИИ будет возрастать по мере того, как недостаточно образованные люди будут пользоваться этим инструментом, внося в него данные и формулируя вопросы. «Боюсь, что это будет развиваться дальше, и как с этой проблемой справиться, я честно сказать, не знаю», — признался он.

Врач с более чем 30-летней практикой отметил, что сам ежедневно пользуется нейросетями, но всегда опирается на собственный клинический опыт и критическое мышление: «ИИ — это всего лишь вспомогательный инструмент, хотя и очень хороший: экономит кучу времени и реально помогает. У машины могут быть и технические ошибки. Поэтому надо доверять, но проверять».

Существует также проблема выписки лекарств на основе рекомендаций ИИ: нейросети могут искать в интернете частые упоминания препаратов и попадать на их рекламу, что, однако, не гарантирует их качества. По словам Александра Мелерзанова, врач должен выписывать международное непатентованное название, а не конкретный препарат, и отличать реально работающее средство от рекламы.

Кроме того, эксперт обратил внимание, что машинные алгоритмы не обучены психологии: опытный врач сможет объяснить пациенту условия приёма препаратов, учитывая индивидуальные особенности этого человека. ИИ этого не сделает.



Полная версия: https://aif.ru/health/ekspert-melerzanov-nazval-ugrozu-beskontrolnogo-primeneniya-ii-v-medicine
Источник: АО «Аргументы и Факты»
Обсудить на форуме: Беседка

Image

Office Address

info@russians-in-london.co.uk
  • +44 (0) 2036 272028

Social List