Artificial Intelligence in Medicine: Cybersecurity Issues and Ethical Aspects

The integration of artificial intelligence into medicine opens up wide opportunities, but at the same time creates fundamentally new risks for information security. Intelligent systems gain access to confidential patient data and participate in clinical decision-making; their vulnerability (for example, to attacks with distorted input data) can lead to the leakage of personal information or the issuance of erroneous medical recommendations. Meanwhile, there are no special requirements for the cybersecurity of medical systems with artificial intelligence at the federal level, and uniform ethical standards for their use in healthcare are not legally fixed. This determines the relevance of this study. Its purpose is to analyze the emerging cyber threats and ethical and legal gaps in the implementation of artificial intelligence in healthcare and to develop proposals for improving the regulatory framework and practical measures to ensure the safe and responsible use of artificial intelligence. In the course of the work, an analysis of existing regulations and standards was carried out, key problems were identified (lack of special rules of responsibility for artificial intelligence errors, the risk of malicious attacks on algorithms, lack of rules for transparency and patient information) and approaches to their elimination were proposed. The scientific and practical significance lies in the fact that the results obtained can serve as a basis for the development of new requirements and recommendations on cybersecurity and ethics of the use of artificial intelligence in medicine. The scientific novelty consists in a comprehensive consideration of the issues of information security of medical intelligent systems, taking into account technical, legal and ethical aspects, as well as in substantiating the need to integrate special protection measures and transparency into the existing regulatory and legal system of healthcare.

1. Постановление Кабинета Министров Республики Татарстан от 19.04.2022 г. № 369 «Об использовании технологий искусственного интеллекта в Республике Татарстан». URL: https://pravo.tatarstan.ru/npa_kabmin/post/?npa_id=977556

2. Федеральный закон от 27.07.2006 г. № 152-ФЗ «О персональных данных» (ред. от 08.08.2024) // СЗ РФ. 2006. № 31 (1 ч.). Ст. 3451.

3. Кошечкин К.А., Хохлов А.Л. Этические проблемы внедрения искусственного интеллекта в здравоохранении // Медицинская этика. 2024. № 1. С. 12–19.

4. Асеева И.А. Проблема приватности в цифровую эпоху // Науковедческие исследования. 2020. № 20. С. 36–50.

5. Вигель Н.Л., Меттини Э. Этические и культурные вызовы внедрения искусственного интеллекта в медицинских практиках: мультикультуральный анализ // Medical Ethics. 2024. № 3. С. 11–15.

6. Федеральный закон от 21.11.2011 г. № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» (ред. от 28.12.2024) (с изм. и доп., вступ. в силу с 01.03.2025) // СЗ РФ. 2011. № 48. Ст. 6724.

7. Федеральный закон от 24.04.2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // СЗ РФ. 2020. № 17. Ст. 2701.

8. Приказ Минэкономразвития России от 02.07.2021 г. № 407 «Об утверждении отдельных методик расчета показателей федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации» (ред. от 28.12.2021) // СПС Гарант.

9. Всероссийский центр изучения общественного мнения (ВЦИОМ) представляет результаты всероссийского опроса о применении искусственного интеллекта в здравоохранении. URL: https://wciom.ru/analytical-reviews/analiticheskiiobzor/progress-ili-ugroza-ili-ob-iskusstvennomintellekte-v-medicine

10. Приказ ФСТЭК России от 18.02.2013 г. № 21 «Об утверждении Состава и содержания организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных» (ред. от 14.05.2020) (зарегистрировано в Минюсте России 14.05.2013 г. № 28375) // Российская газета. 2013. № 107.

11. Нормативно-правовое регулирование искусственного интеллекта в здравоохранении / Regulatory considerations on artificial intelligence for health // Всемирная организация здравоохранения. URL: https://ai.gov.ru/knowledgebase/mezhdunarodnye-dokumenty-po-razvitiyuii/2023_normativno-pravovoe_regulirovanie_iskusstvennogo_intellekta_v_zdravoohranenii_regulatory_considerations_on_artificial_intelligence_for_health_vsemirnaya_organizaciya_zdravoohraneniya