АННОТАЦИЯ

Кодекс этики применения искусственного интеллекта в сфере охраны здоровья (далее - Кодекс) - это набор принципов и рекомендаций, предлагаемых Министерством здравоохранения Российской Федерации совместно с главными внештатными специалистами Минздрава России и направленных на определение этических норм использования искусственного интеллекта (далее - ИИ).

Субъекты СИИ должны развивать и поддерживать научное партнерство, обеспечивать соблюдение принципов профессиональной ответственности, прозрачность оценки эффективности и безопасности применения СИИ при практическом применении в части использования данных клинической практики при формировании баз данных, используемых для обучения различных СИИ.

Настоящий Кодекс разработан на основе следующих нормативных правовых актов и документов:

Конституция Российской Федерации;

Указ Президента Российской Федерации от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года");

Федеральный закон от 21.11.2011 N 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации";

Федеральный закон от 24.04.2020 N 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве";

и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных";

Федеральный закон от 31.07.2020 N 258-ФЗ "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации";

Федеральный закон от 27.07.2006 N 152-ФЗ "О персональных данных";

Приказ Росстандарта от 25.10.2024 N 68-пнст "Об утверждении предварительного национального стандарта Российской Федерации" вместе с национальным стандартом Российской Федерации ПНСТ 961-2024 "Системы искусственного интеллекта в здравоохранении. Этические аспекты", с гармонизацией Кодекса с нормами международного права.

Положения настоящего Кодекса рассчитаны на системы искусственного интеллекта, применяемые исключительно в сфере охраны здоровья граждан при оказании медицинской помощи в части профилактики, диагностики, лечения и иных действий в сфере здравоохранения Российской Федерации. Его Положения могут быть расширены и/или конкретизированы в отраслевых или локальных документах по этике в сфере ИИ с учетом развития технологий, особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.

Основными этическими проблемами применения технологии ИИ в условиях практического здравоохранения являются:

недостаток доказательств эффективности и безопасности решений СИИ с точки зрения допуска их для применения медицинскими работниками;

повышенный риск причинения вреда здоровью пациентов в силу потенциальных ошибок обработки данных и знаний, а также заключений (рекомендаций), формируемых СИИ;

сложность интерпретации решений при машинном обучении (проблема "черного ящика");

повышенные риски от СИИ с непрерывным обучением, которые способны изменять свою работу вследствие появления новых данных, в том числе получаемых во время их эксплуатации;

повышенные риски, связанные с добросовестностью разработчика системы ИИ в части полноты выборки и качества обучающих данных;

отсутствие понятия вывода из эксплуатации технологий, что может быть особенно важно при выявлении критических отклонений в работе алгоритмов ИИ;

необходимостью проработки вопросов, связанных с выводом из эксплуатации ИИ-систем, в том числе при выявлении критических ошибок в их работе;

проблемы кибербезопасности, включая несанкционированное вмешательство в алгоритмы работы ИИ или доступ к персональным данным пациентов;

сложность определения конкретного субъекта СИИ, ответственного за финальное принятое решение на основании работы СИИ, в случае отсутствия регистрационного удостоверения на СИИ, являющиеся медицинскими изделиями с технологией искусственного интеллекта;

этические проблемы, связанные с внедрением квантовых вычислений;

необходимость предоставления гражданину или его законному представителю в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства (в том числе с применением технологий ИИ), о его последствиях.

Реализация Кодекса и его принципов позволит:

содействовать расширению обоснованного применения технологий ИИ в здравоохранении;

сформировать нравственную основу для субъектов ИИ основанную на традициях отечественной медицинской школы;

повысить прозрачность использования технологий ИИ для пациентов и медицинских специалистов, в сфере охраны здоровья.