Рекомендации по ответственному применению ИИ в фармацевтической индустрии

Ассоциация международных фармацевтических производителей (АМФП) представила Общие рекомендации по ответственному использованию искусственного интеллекта (ИИ) в здравоохранении и фармацевтической отрасли. Документ, разработанный членами АМФП, устанавливает стандарты саморегулирования для обеспечения этичного, безопасного и эффективного применения ИИ в интересах общества.

ИИ в здравоохранении: возможности и риски

ИИ активно трансформирует здравоохранение, охватывая все этапы жизненного цикла лекарств — от исследований до пострегистрационного мониторинга. Технологии ИИ повышают скорость, точность и эффективность обработки данных, способствуют персонализации решений и оптимизации ресурсов. Однако их применение сопряжено с рисками, которые могут негативно повлиять на пациентов и общество. Поэтому ответственный подход к разработке и использованию ИИ в здравоохранении имеет первостепенное значение.

Что такое ИИ и принципы его применения

Согласно рекомендациям, ИИ — это технологии, способные имитировать когнитивные функции человека, достигая результатов, сравнимых или превосходящих человеческие способности. Ответственное использование ИИ предполагает добросовестность, прозрачность, объяснимость, безопасность и экологичность.

Принципы применимы на всех стадиях жизненного цикла ИИ: от проектирования до вывода из эксплуатации. Они фокусируются на этичности человеческого поведения при использовании ИИ, а не на этике машин.

Ключевые принципы

1. Человекоцентричность: ИИ должен уважать права и достоинство человека, не нанося вреда, не нарушая свобод и не ограничивая самостоятельность принятия решений. Риски должны предотвращаться заранее.
2. Прозрачность и объяснимость: Пользователи должны знать, что взаимодействуют с ИИ, и понимать, как он формирует результаты. При использовании ИИ-контента важно избегать введения в заблуждение.
3. Контроль со стороны человека: ИИ должен работать под надзором человека. Необходимы механизмы мониторинга, оценки рисков и ограничения автономии ИИ в зависимости от потенциального воздействия его решений.
4. Безопасность и конфиденциальность: ИИ должен быть защищен от несанкционированного доступа, а обработка персональных данных — соответствовать принципам законности, минимизации и целенаправленности.
5. Ответственность: В здравоохранении решения с использованием ИИ не должны подменять профессиональное суждение специалистов.

Обучение и актуализация

Документ подчеркивает важность обучения пользователей ответственному применению ИИ с учетом технических, этических, правовых и социальных аспектов. Рекомендации будут регулярно обновляться в соответствии с развитием технологий и появлением новых вызовов.