Всемирная организация здравоохранения (ВОЗ) призвала усилить механизмы этической экспертизы и надзора за исследованиями в области здравоохранения, использующими технологии искусственного интеллекта (ИИ). В организации предупреждают, что стремительное развитие ИИ без достаточных механизмов контроля может создавать новые риски для прав человека, справедливости и общественного доверия. Об этом сообщает ВОЗ.
Новый доклад ВОЗ и ключевые риски
Доклад Artificial Intelligence-related health research: ethics review and oversight («Исследования в области здравоохранения с применением искусственного интеллекта: этическая экспертиза и надзор») подготовлен экспертами ВОЗ в области этики исследований, науки, цифрового здравоохранения и ИИ. Документ содержит практические рекомендации для исследователей, комитетов по этике, регуляторов, грантодателей и лиц, принимающих решения.
ВОЗ отмечает, что ИИ уже меняет подходы к анализу медицинских данных, проведению исследований, а также разработке и оценке новых технологий. При этом существующие механизмы этического надзора не всегда способны учитывать специфические риски, связанные с применением ИИ. Среди них организация выделяет вопросы прозрачности, алгоритмической предвзятости, справедливости, распределения ответственности, защиты конфиденциальности и потенциального вреда при быстром внедрении ИИ-инструментов.
Три категории ИИ-исследований в здравоохранении
ВОЗ выделяет три широкие категории исследований в области здравоохранения, связанных с искусственным интеллектом:
- Исследования в области здравоохранения с использованием данных и ИИ — применение ИИ для анализа данных в рамках исследований;
- Исследования с использованием инструментов и технологий ИИ — применение существующих ИИ-инструментов и технологий в исследовательской работе;
- Исследования инструментов и технологий ИИ в области здравоохранения — разработка и оценка самих ИИ-инструментов и технологий.
Доклад рассматривает вопросы этического надзора на протяжении всего исследовательского цикла — от разработки исследования и этической экспертизы до публикации результатов, регулирования и практического внедрения.
Роль комитетов по этике и системный надзор
ВОЗ подчеркивает, что комитеты по этике исследований (Research Ethics Committees, RECs) сохранят центральную роль в защите участников исследований. При этом для оценки все более сложных проектов с применением ИИ им могут потребоваться дополнительные компетенции, обучение и ресурсы.
Одновременно организация отмечает, что ответственность за этически ответственное развитие ИИ не может ограничиваться только работой комитетов по этике. Важную роль должны играть грантодатели, научные журналы и издатели, органы управления доступом к данным, профессиональные объединения и государственные регуляторы. Такой подход необходим для решения системных вопросов, которые невозможно эффективно контролировать только на уровне отдельных исследовательских проектов.
«Искусственный интеллект создает беспрецедентные возможности для ускорения медицинских исследований и улучшения жизни людей. В то же время инновации должны направляться строгими этическими гарантиями, защищающими человеческое достоинство, права и справедливость», — заявила директор Департамента науки для здоровья ВОЗ доктор Мег Доэрти (Dr Meg Doherty).
«Эффективное управление ИИ в медицинских исследованиях требует сотрудничества между различными дисциплинами, секторами и учреждениями. По мере быстрого развития технологий нам необходимы гибкие и основанные на доказательствах механизмы надзора, способные обеспечить безопасность, надежность и пользу инноваций для всех», — отметил директор Департамента данных, аналитики цифрового здравоохранения и искусственного интеллекта ВОЗ доктор Ален Лабрик (Dr Alain Labrique).
Вызовы для стран с низким и средним уровнем дохода
Отдельное внимание в докладе уделено вызовам и возможностям для стран с низким и средним уровнем дохода (LMIC). ВОЗ отмечает, что значительная часть современных исследований и технологических разработок в сфере ИИ сосредоточена в странах с более высоким уровнем дохода.
Организация считает важным укреплять местное лидерство, экспертный потенциал и участие исследователей из LMIC в исследованиях, связанных с ИИ. Среди рассматриваемых проблем — вопросы справедливости, распределения выгод, «колониализма данных», этического демпинга и дисбаланса сил. По мнению ВОЗ, развитие местного потенциала и более широкое участие таких стран необходимо для предотвращения новых форм исключения и неравенства.
ВОЗ рассматривает новый доклад как отправную точку для дальнейшего усиления этического надзора в эпоху ИИ и разработки будущих стандартов, рекомендаций и механизмов управления исследованиями с применением искусственного интеллекта.
