Волченко А.В. - Кандидат юридических наук, старший преподаватель кафедры уголовного процесса, майор полиции
Когтева А.Н. - Кандидат экономических наук, доцент кафедры информационной безопасности
Москва
Moscow
Тимохина Г.В. - Магистрант Юридического института
Интеграция искусственного интеллекта в медицину открывает широкие возможности, но одновременно порождает принципиально новые риски для информационной безопасности. Интеллектуальные системы получают доступ к конфиденциальным данным пациентов и участвуют в принятии клинических решений; их уязвимость (например, к атакам с искажением входных данных) может привести к утечке персональной информации или выдаче ошибочных медицинских рекомендаций. Между тем на федеральном уровне отсутствуют специальные требования к кибербезопасности медицинских систем с искусственным интеллектом, а единые этические стандарты их применения в здравоохранении не закреплены нормативно. Это обуславливает актуальность настоящего исследования. Его цель – проанализировать возникшие киберугрозы и этико-правовые пробелы при внедрении искусственного интеллекта в здравоохранение и разработать предложения по совершенствованию нормативной базы и практических мер для обеспечения безопасного и ответственного использования искусственного интеллекта. В ходе работы проведен анализ действующих нормативных актов и стандартов, выявлены ключевые проблемы (отсутствие специальных норм ответственности за ошибки искусственного интеллекта, риск злоумышленных воздействий на алгоритмы, дефицит правил прозрачности и информирования пациентов) и предложены подходы к их устранению. Научная и практическая значимость заключается в том, что полученные результаты могут служить основой для разработки новых требований и рекомендаций по кибербезопасности и этике применения искусственного интеллекта в медицине. Научная новизна состоит в комплексном рассмотрении вопросов информационной безопасности медицинских интеллектуальных систем с учётом технических, правовых и этических аспектов, а также в обосновании необходимости интеграции специальных мер защиты и прозрачности в существующую нормативно-правовую систему здравоохранения.
The integration of artificial intelligence into medicine opens up wide opportunities, but at the same time creates fundamentally new risks for information security. Intelligent systems gain access to confidential patient data and participate in clinical decision-making; their vulnerability (for example, to attacks with distorted input data) can lead to the leakage of personal information or the issuance of erroneous medical recommendations. Meanwhile, there are no special requirements for the cybersecurity of medical systems with artificial intelligence at the federal level, and uniform ethical standards for their use in healthcare are not legally fixed. This determines the relevance of this study. Its purpose is to analyze the emerging cyber threats and ethical and legal gaps in the implementation of artificial intelligence in healthcare and to develop proposals for improving the regulatory framework and practical measures to ensure the safe and responsible use of artificial intelligence. In the course of the work, an analysis of existing regulations and standards was carried out, key problems were identified (lack of special rules of responsibility for artificial intelligence errors, the risk of malicious attacks on algorithms, lack of rules for transparency and patient information) and approaches to their elimination were proposed. The scientific and practical significance lies in the fact that the results obtained can serve as a basis for the development of new requirements and recommendations on cybersecurity and ethics of the use of artificial intelligence in medicine. The scientific novelty consists in a comprehensive consideration of the issues of information security of medical intelligent systems, taking into account technical, legal and ethical aspects, as well as in substantiating the need to integrate special protection measures and transparency into the existing regulatory and legal system of healthcare.
The authors declare that there are no conflicts of interest present.