Ассоциация международных фармацевтических производителей (АМФП) выпустила Общие рекомендации по ответственному применению искусственного интеллекта (ИИ) в области здравоохранения и фармацевтической индустрии. Компании-члены АМФП разработали этот документ в качестве норм саморегулирования, чтобы обеспечить этичное, безопасное и эффективное развитие и использование ИИ на благо общества.
Роль ИИ и сопутствующие риски
Создание и использование ИИ приобретает новые масштабы в различных отраслях, включая здравоохранение. Технологии ИИ уже применяются на всех этапах жизненного цикла лекарственных препаратов — от исследований и разработок до пострегистрационных наблюдений. ИИ позволяет увеличить скорость, эффективность, точность и объемы обработки данных, а также персонализировать решения и оптимизировать ресурсы.
Однако, как отмечают разработчики, использование ИИ может повлечь за собой существенные риски и негативные последствия для пациентов и иных лиц. Поэтому крайне важен ответственный подход к созданию и использованию ИИ, особенно в области, связанной с жизнью и здоровьем человека.
Основные принципы ответственного применения
В документе ИИ определяется как комплекс технологических решений, позволяющий имитировать когнитивные функции человека и получать результаты, сопоставимые или превосходящие интеллектуальную деятельность человека.
Ответственное использование ИИ предполагает обеспечение добросовестного, прозрачного, объяснимого, разумного, безопасного и экологичного применения систем ИИ.
Разработанные принципы применимы к ИИ на любом этапе его жизненного цикла: при проектировании, разработке, внедрении, использовании и выведении из эксплуатации. Эти принципы касаются не машинной этики, а этичности поведения человека при применении ИИ.
Среди ключевых принципов, которыми рекомендуется руководствоваться компаниям-членам АМФП, выделяются следующие:
- Технология для человека: Применение ИИ должно основываться на уважении прав и достоинства каждого человека. ИИ не должен применяться для причинения вреда, нарушения прав или умаления свободы самостоятельного принятия решений человеком. Должны быть предприняты максимальные усилия для заблаговременного предотвращения рисков.
- Прозрачность и объяснимость: Рекомендуется обеспечить прозрачный и объяснимый ход работы ИИ. Пользователей необходимо заранее информировать о том, что они взаимодействуют с системой ИИ, и предоставлять им в доступной форме информацию о том, как ИИ приходит к своим результатам. При использовании контента, созданного ИИ, необходимо принимать меры для предотвращения введения потребителей в заблуждение.
- Подконтрольность: Рекомендуется применять ИИ под строгим контролем человека. Это включает разработку и внедрение механизмов контроля и мониторинга, а также обязательную оценку воздействия и рисков. Степень автономии, предоставляемая ИИ, должна быть непосредственно соотнесена с уровнем возможного влияния его решений на человека.
- Безопасность, приватность и конфиденциальность: Обязательным условием является обеспечение безопасной работы ИИ, защита от несанкционированного доступа и уважение и защита персональных данных. В случае обработки персональных данных должны соблюдаться принципы целенаправленности, минимизации использования и законности.
- Ответственность: В сфере здравоохранения должна сохраняться независимость и самостоятельность профессионального суждения специалиста здравоохранения при принятии клинических решений с использованием ИИ.
Документ также подчеркивает важность обучения пользователей ответственному применению ИИ, включая технические, этические, правовые и социальные аспекты. Рекомендации подлежат периодической оценке и обновлению в связи с развитием технологий и появлением новых рисков. Скачать «Общие рекомендации по ответственному применению искусственного интеллекта» можно по ссылке.
