Резюме: Закон ЕС об искусственном интеллекте

Резюме: Регламент (ЕС) 2024/1689, устанавливающий согласованные правила в отношении искусственного интеллекта (Закон об искусственном интеллекте)

Какова цель Регламента?

Регламент (ЕС) 2024/1689 призван стимулировать разработку и внедрение безопасных и надежных систем искусственного интеллекта (ИИ) на едином рынке Европейского союза (ЕС) как в частном, так и в государственном секторе, обеспечивая при этом охрану здоровья и безопасность граждан ЕС, а также соблюдение основных прав. Регламент устанавливает правила, основанные на оценке рисков, касающиеся:

• выпуска на рынок, ввода в эксплуатацию и использования определенных систем ИИ;
• запрета на определенные практики применения ИИ;
• требований и обязательств в отношении систем ИИ с высоким уровнем риска;
• обеспечения прозрачности для определенных систем ИИ;
• прозрачности и управления рисками для моделей ИИ общего назначения (мощных моделей ИИ, лежащих в основе систем ИИ, способных выполнять широкий спектр задач);
• мониторинга рынка, надзора за рынком, управления и правоприменения;
• поддержки инноваций с особым вниманием к малым и средним предприятиям (МСП) и стартапам.

Предусмотрены определенные исключения, например, для систем, используемых исключительно в военных целях и целях обороны или для проведения научных исследований.

КЛЮЧЕВЫЕ ПОЛОЖЕНИЯ

Что такое система искусственного интеллекта?

Система искусственного интеллекта (ИИ) - это машинная система, предназначенная для функционирования с определенной степенью автономности и способная:

• адаптироваться после ввода в эксплуатацию; и
• формировать на основе полученных входных данных такие результаты, как прогнозы, контент, рекомендации или решения (для достижения явных или неявных целей).

Риск-ориентированный подход

Законодательство базируется на риск-ориентированном подходе: чем выше риск причинения вреда обществу, тем строже установленные правила.

В рамках данного регулирования использование ИИ в следующих сферах классифицируется как высокорискованное ввиду потенциального воздействия на основные права, безопасность и благополучие:

• компоненты безопасности в продукции, подпадающей под действие законодательства ЕС о гармонизации (или поставляемые как отдельные изделия), которые должны проходить процедуру оценки соответствия с участием третьей стороны в соответствии с этим же законодательством;
• биометрические технологии, используемые для удаленной идентификации, классификации лиц по чувствительным признакам (таким как раса или вероисповедание) или распознавания эмоций, за исключением случаев, когда они применяются исключительно для подтверждения личности;
• критически важная инфраструктура, где ИИ выступает компонентом безопасности в таких сферах, как цифровая инфраструктура, транспорт, водо-, газо-, тепло- и электроснабжение;
• образование и профессиональная подготовка, включая вопросы доступа к образованию, оценку результатов обучения, определение уровня образования или мониторинг поведения во время экзаменов и тестов;
• сфера занятости, включая наем и отбор кандидатов, принятие решений об условиях работы (повышение в должности, увольнение), распределение задач или контроль эффективности работы;
• жизненно важные услуги - системы ИИ, используемые государственными органами для оценки права на получение государственных услуг (здравоохранение, социальные пособия), кредитного скоринга, оценки страховых рисков и определения приоритетности реагирования на чрезвычайные ситуации;
• правоохранительная деятельность - системы ИИ, используемые для оценки риска совершения преступлений, применения полиграфов, оценки достоверности доказательств, прогнозирования рецидивов или составления профилей лиц в рамках уголовных расследований;
• миграция и пограничный контроль - системы ИИ, используемые для оценки рисков, связанных с миграцией, предоставлением убежища и оформлением виз, а также для обнаружения и идентификации лиц в контексте миграционных процессов;
• отправление правосудия и демократические процессы — системы ИИ, используемые судебными органами для правового анализа и толкования норм права, или системы, способные повлиять на результаты выборов.

Регламент запрещает следующие виды практики применения ИИ, сопряженные с неприемлемым уровнем риска:

• Использование методов сублиминального (подсознательного) воздействия или обманных приемов для манипулирования поведением отдельных лиц или групп, что ограничивает их способность принимать осознанные решения и может нанести вред.
• Использование уязвимостей, обусловленных возрастом, инвалидностью или социально-экономическим положением, для манипулирования отдельными лицами или группами, что может привести к причинению вреда.
• Социальный скоринг - оценка или классификация людей на основе их поведения или характеристик, приводящая к несправедливому обращению, не связанному с контекстом сбора данных, или к мерам, несоразмерным тяжести поведения.
• Оценка криминальных рисков - прогнозирование вероятности совершения преступления исключительно на основе профилирования или личностных качеств, за исключением случаев проведения объективных расследований, опирающихся на факты.
• Массовый сбор данных (скрейпинг) для систем распознавания лиц из интернета или с камер видеонаблюдения без конкретной цели поиска.
• Распознавание эмоций в чувствительных сферах, таких как рабочие места или учебные заведения, за исключением случаев использования в медицинских целях или в целях обеспечения безопасности.
• Биометрическая классификация, направленная на выявление чувствительных характеристик (например, расы, вероисповедания или политических взглядов), за исключением случаев законного использования правоохранительными органами.
• Биометрическая идентификация в общественных местах в режиме реального времени, осуществляемая правоохранительными органами, за исключением случаев, когда это строго необходимо в определенных ситуациях (например, поиск пропавших без вести, предотвращение непосредственной угрозы или выявление подозреваемых в совершении тяжких преступлений). Такие действия должны регулироваться строгими правовыми процедурами, включая получение предварительного разрешения, ограничение сферы применения и наличие гарантий защиты прав и свобод.

Регламент вводит обязательства по раскрытию информации в случаях, когда отсутствие прозрачности при использовании ИИ может создать риски:

• системы ИИ, предназначенные для имитации общения с человеком (например, чат-боты), должны уведомлять об этом собеседника;
• результаты работы генеративного ИИ должны быть маркированы как созданные искусственным интеллектом в формате, доступном для машинного считывания;
• в определенных случаях результаты работы генеративного ИИ должны иметь визуальную маркировку; это касается, в частности, дипфейков и текстов, предназначенных для информирования общественности о вопросах, представляющих общественный интерес.

Все остальные системы ИИ считаются системами с ограниченным уровнем риска, поэтому в отношении них Регламент не устанавливает дополнительных правил.

Надежное использование крупных моделей ИИ

• Модели ИИ общего назначения - это модели, обученные на больших объемах данных и способные выполнять широкий спектр задач. Они могут выступать в качестве компонентов систем ИИ.
• Регламент устанавливает требования к прозрачности для поставщиков таких моделей ИИ общего назначения, касающиеся подготовки технической документации, предоставления информации разработчикам систем ИИ, использующим данные модели, и раскрытия сведений о данных, применявшихся при обучении модели.
• Наиболее мощные модели ИИ общего назначения могут создавать системные риски. Если модель достигает определенного уровня возможностей, ее поставщик обязан выполнять дополнительные требования в области управления рисками и кибербезопасности.

Управление

• Регламент предусматривает создание ряда органов управления, которые начнут действовать со 2 августа 2025 года:
  • национальные компетентные органы, которые будут осуществлять надзор и обеспечивать соблюдение правил в отношении систем ИИ;
  • Управление по вопросам ИИ (AI Office) при Европейской комиссии, которое будет координировать согласованное применение общих правил на всей территории ЕС и выполнять функции регулятора в отношении моделей ИИ общего назначения.
• Государства-члены ЕС и Управление по вопросам ИИ будут тесно сотрудничать в рамках Совета по ИИ (AI Board), состоящего из представителей государств-членов, для обеспечения единообразного и эффективного применения регламента.
• Регламент предусматривает создание двух консультативных органов при Управлении по вопросам ИИ и Совете по ИИ:
  • научной группы независимых экспертов для предоставления научных консультаций;
  • консультативного форума для заинтересованных сторон, обеспечивающего предоставление технической экспертизы Совету по ИИ и Комиссии.

Санкции

Штрафы за нарушения устанавливаются в виде процента от годового оборота компании-нарушителя или в фиксированном размере - в зависимости от того, какая из этих сумм выше. Для малых и средних предприятий, а также стартапов предусмотрены соразмерные административные штрафы.

Прозрачность и защита основных прав

Повышенные требования к прозрачности распространяются на разработку и использование систем искусственного интеллекта (ИИ) с высоким уровнем риска:

• перед внедрением системы ИИ с высоким уровнем риска организациями, предоставляющими государственные услуги, необходимо оценить ее влияние на основные права человека;
• системы ИИ с высоким уровнем риска и организации, использующие их, подлежат регистрации в базе данных ЕС.

Инновации

Регламент создает правовую базу, благоприятную для инноваций, и призван способствовать совершенствованию регулирования на основе фактических данных. Предусматривается создание «регуляторных песочниц» для ИИ - контролируемой среды, в которой можно разрабатывать, тестировать и проверять инновационные системы ИИ, в том числе в реальных условиях эксплуатации. Кроме того, регламент допускает тестирование систем ИИ с высоким уровнем риска в реальных условиях при соблюдении определенных требований.

Оценка и пересмотр

Европейская комиссия ежегодно оценивает необходимость внесения изменений в перечень случаев использования ИИ с высоким уровнем риска и в список запрещенных практик. К 2 августа 2028 года, а затем каждые четыре года, Комиссия будет проводить оценку и представлять отчеты по следующим вопросам:

• дополнение или расширение перечня категорий с высоким уровнем риска;
• внесение изменений в список систем ИИ, требующих дополнительных мер по обеспечению прозрачности;
• внесение изменений для совершенствования надзора и управления.

С КАКОГО МОМЕНТА ПРИМЕНЯЕТСЯ РЕГЛАМЕНТ?

Регламент применяется с 2 августа 2026 года. Тем не менее, существуют некоторые исключения:

• запреты, определения и обязательства, касающиеся грамотности в сфере ИИ, применяются со 2 февраля 2025 года;
• некоторые правила вступят в силу 2 августа 2025 года, в том числе касающиеся структуры управления, санкций и обязательств для поставщиков моделей ИИ общего назначения.

СПРАВОЧНАЯ ИНФОРМАЦИЯ

Дополнительную информацию см. по следующим ссылкам:

• AI Act (European Commission)
• European AI Office (European Commission).

СОПУТСТВУЮЩИЕ ДОКУМЕНТЫ

Регламент (ЕС) 2022/2065 о едином рынке цифровых услуг (Акт о цифровых услугах)

Директива (ЕС) 2020/1828 о представительных исках для защиты коллективных интересов потребителей

Регламент (ЕС) 2019/881 об ENISA (Агентстве Европейского союза по кибербезопасности) и о сертификации кибербезопасности в сфере информационно-коммуникационных технологий (Акт о кибербезопасности)

Директива (ЕС) 2019/882 о требованиях к доступности продукции и услуг

Регламент (ЕС) 2019/1020 о надзоре за рынком и соответствии продукции

Регламент (ЕС) 2016/679 Общий регламент ЕС по защите данных (GDPR)

Регламент (ЕС) 2018/1725 об обработке персональных данных учреждениями ЕС (EUDPR).

Директива (ЕС) 2016/680 о защите данных в сфере правоохранительной деятельности (GDPR-LED)

Директива 2002/58/EC о конфиденциальности и электронных коммуникациях (ePrivacy Directive)