Искусственный интеллект в медицине: проблемы кибербезопасности и этические аспекты

Интеграция искусственного интеллекта в медицину открывает широкие возможности, но одновременно порождает принципиально новые риски для информационной безопасности. Интеллектуальные системы получают доступ к конфиденциальным данным пациентов и участвуют в принятии клинических решений; их уязвимость (например, к атакам с искажением входных данных) может привести к утечке персональной информации или выдаче ошибочных медицинских рекомендаций. Между тем на федеральном уровне отсутствуют специальные требования к кибербезопасности медицинских систем с искусственным интеллектом, а единые этические стандарты их применения в здравоохранении не закреплены нормативно. Это обуславливает актуальность настоящего исследования. Его цель – проанализировать возникшие киберугрозы и этико-правовые пробелы при внедрении искусственного интеллекта в здравоохранение и разработать предложения по совершенствованию нормативной базы и практических мер для обеспечения безопасного и ответственного использования искусственного интеллекта. В ходе работы проведен анализ действующих нормативных актов и стандартов, выявлены ключевые проблемы (отсутствие специальных норм ответственности за ошибки искусственного интеллекта, риск злоумышленных воздействий на алгоритмы, дефицит правил прозрачности и информирования пациентов) и предложены подходы к их устранению. Научная и практическая значимость заключается в том, что полученные результаты могут служить основой для разработки новых требований и рекомендаций по кибербезопасности и этике применения искусственного интеллекта в медицине. Научная новизна состоит в комплексном рассмотрении вопросов информационной безопасности медицинских интеллектуальных систем с учётом технических, правовых и этических аспектов, а также в обосновании необходимости интеграции специальных мер защиты и прозрачности в существующую нормативно-правовую систему здравоохранения.

1. Постановление Кабинета Министров Республики Татарстан от 19.04.2022 г. № 369 «Об использовании технологий искусственного интеллекта в Республике Татарстан». URL: https://pravo.tatarstan.ru/npa_kabmin/post/?npa_id=977556

2. Федеральный закон от 27.07.2006 г. № 152-ФЗ «О персональных данных» (ред. от 08.08.2024) // СЗ РФ. 2006. № 31 (1 ч.). Ст. 3451.

3. Кошечкин К.А., Хохлов А.Л. Этические проблемы внедрения искусственного интеллекта в здравоохранении // Медицинская этика. 2024. № 1. С. 12–19.

4. Асеева И.А. Проблема приватности в цифровую эпоху // Науковедческие исследования. 2020. № 20. С. 36–50.

5. Вигель Н.Л., Меттини Э. Этические и культурные вызовы внедрения искусственного интеллекта в медицинских практиках: мультикультуральный анализ // Medical Ethics. 2024. № 3. С. 11–15.

6. Федеральный закон от 21.11.2011 г. № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» (ред. от 28.12.2024) (с изм. и доп., вступ. в силу с 01.03.2025) // СЗ РФ. 2011. № 48. Ст. 6724.

7. Федеральный закон от 24.04.2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // СЗ РФ. 2020. № 17. Ст. 2701.

8. Приказ Минэкономразвития России от 02.07.2021 г. № 407 «Об утверждении отдельных методик расчета показателей федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации» (ред. от 28.12.2021) // СПС Гарант.

9. Всероссийский центр изучения общественного мнения (ВЦИОМ) представляет результаты всероссийского опроса о применении искусственного интеллекта в здравоохранении. URL: https://wciom.ru/analytical-reviews/analiticheskiiobzor/progress-ili-ugroza-ili-ob-iskusstvennomintellekte-v-medicine

10. Приказ ФСТЭК России от 18.02.2013 г. № 21 «Об утверждении Состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ред. от 14.05.2020) (зарегистрировано в Минюсте России 14.05.2013 г. № 28375) // Российская газета. 2013. № 107.

11. Нормативно-правовое регулирование искусственного интеллекта в здравоохранении / Regulatory considerations on artificial intelligence for health // Всемирная организация здравоохранения. URL: https://ai.gov.ru/knowledgebase/mezhdunarodnye-dokumenty-po-razvitiyuii/2023_normativno-pravovoe_regulirovanie_iskusstvennogo_intellekta_v_zdravoohranenii_regulatory_considerations_on_artificial_intelligence_for_health_vsemirnaya_organizaciya_zdravoohraneniya