Искуственный интеллект в европейских правилах GMP — Обзор проекта Приложения 22

В ответ на бурное развитие цифровых технологий и систем искусственного интеллекта (ИИ) в фармацевтике, Европейская Комиссия опубликовала проект Приложения 22 «Искусственный интеллект». Этот документ, разработанный Рабочей группой инспекторов GMDP EMA в сотрудничестве с PIC/S, является проектом первого официального руководства EU GMP, устанавливающим правила для использования ИИ и машинного обучения (МО) в производстве.

Проект Приложения 22 был опубликован 7 июля 2025 года и направлен на поддержку инноваций в производстве лекарственных средств при одновременном обеспечении регуляторной гармонизации.

Сфера применения: Фокус на статическом и детерминированном ИИ

Проект Приложения 22 восполняет пробел, оставленный Приложением 11 «Компьютеризированные системы», которое было написано до появления современных систем МО. Оно предоставляет структурированную, основанную на рисках основу для ИИ-моделей, используемых в критических GxP-приложениях, которые могут напрямую влиять на безопасность пациента, качество продукта и целостность данных.

Ключевые ограничения документа:

• Применимость: Документ применяется к моделям, функциональность которых получена путем обучения на данных, а не путем явного программирования.
• Статические модели: Приложение 22 применяется только к статическим моделям (Frozen model), которые не адаптируют свою производительность во время использования путем включения новых данных. Использование динамических моделей в критических GMP-приложениях не рекомендуется.
• Детерминированный вывод: Приложение применяется к моделям с детерминированным выводом, что означает, что одинаковые входные данные должны всегда обеспечивать одинаковые выходные данные.
• Исключение Генеративного ИИ (GenAI) и LLM: Генеративный ИИ и большие языковые модели (LLM) не покрываются этим документом и не должны использоваться в критических GMP-приложениях.

Если LLM используются в некритических GxP-приложениях, необходимо соблюдать принцип «человек в цикле» (Human-in-the-Loop, HITL), при этом персонал с соответствующей квалификацией и обучением всегда должен нести ответственность за пригодность выходных данных.

Ключевые принципы и требования к данным

Проект Приложения 22 переносит традиционные принципы GMP на новую технологию:

1. Персонал и сотрудничество: Требуется тесное сотрудничество между QA, ИТ-специалистами, специалистами по данным и профильными экспертами (SMEs). Весь персонал должен иметь сооьветствующую квалификацию и определенные обязанности. Сотрудники должны понимать предполагаемое использование и связанные с ним риски ИИ-модели.
2. Независимость данных: Для тестирования моделей необходимо обеспечить независимость тестовых данных. Одни и те же данные ни в коем случае не должны использоваться как для обучения/разработки, так и для тестирования.
3. Независимость персонала: Персонал, имевший доступ к тестовым данным, должен быть отделен от сотрудников, участвующих в обучении и валидации той же модели. Если это невозможно, необходимо применять принцип двойного контроля (4-eyes principle).

Прозрачность и операционный контроль

Проект Приложения 22 требует, чтобы ИИ не был «черным ящиком» (black box).

• Объяснимость (Explainability): Системы должны фиксировать и записывать признаки (features) в тестовых данных, которые внесли вклад в конкретное решение (например, отказ продукта). Рекомендуется использовать такие методы, как SHAP или LIME, для объяснения результатов.
• Оценка уверенности (Confidence Score): Модель должна регистрировать показатель уверенности для каждого прогноза. Если уверенность очень низка, система должна помечать результат как «нерешенный» (undecided), чтобы предотвратить ненадежные автоматические решения и обеспечить надзор со стороны человека.
• Мониторинг: Модели и системы должны находиться под контролем изменений и управлением конфигурацией. Требуется постоянный мониторинг производительности для обнаружения дрейфа данных или снижения точности.

В целом, проект Приложения 22 нацелен на то, чтобы сделать ИИ в фармацевтической отрасли надежным, прозрачным и прослеживаемым, предоставляя отрасли четкий путь вперед.

В обзоре использованы материалы:

1. Stakeholders’ Consultation on EudraLex Volume 4 — Good Manufacturing Practice Guidelines: Chapter 4, Annex 11 and New Annex 22
2. Draft Guidelines: New Annex 22 – Artificial Intelligence
3. Implementing AI in GMP: Key Takeaways from the EU’s Annex 22 Guideline
4. What Requirements does the new Annex 22 place regarding Personnel?