EU AI Act (Регламент (ЕС) 2024/1689) классифицирует системы ИИ по четырём уровням риска: запрещённые, высокого риска, ограниченного риска и минимального риска. Категория высокого риска — определённая в Статье 6, а также в списках Приложения I и Приложения III — это то, где сосредоточено большинство обязательств корпоративного ИИ.

Приложение III содержит восемь категорий вариантов использования высокого риска: биометрия, критическая инфраструктура, образование, занятость, основные услуги, правоохранительная деятельность, миграция и правосудие/демократия. Если ваш ИИ попадает в любую из них, вы сталкиваетесь с полным набором требований по оценке соответствия, технической документации, человеческому надзору, постмаркетинговому мониторингу — а также со штрафами до 15 миллионов евро или 3% от мирового оборота.

Обязательства по высокому риску применяются с 2 августа 2026 года. Статья 6(3) предусматривает узкое исключение, если ИИ выполняет лишь «узкую процедурную задачу», улучшает ранее завершённую человеческую деятельность, обнаруживает отклонения от шаблона принятия решений, не заменяя его, или выполняет подготовительную задачу.

EU AI Act — первый комплексный горизонтальный регламент об ИИ в мире. Он применяется к поставщикам, размещающим системы ИИ на рынке ЕС, и к внедряющим сторонам, использующим системы ИИ в ЕС, включая компании за пределами ЕС, чьи результаты используются в ЕС (Статья 2).

Как и GDPR, AI Act имеет экстерриториальное действие. Как и GDPR, его нарушение влечёт штрафы в процентах от оборота. В отличие от GDPR, в нём есть явные категории запрещённых вариантов использования и гораздо больший объём предрыночных требований к системам высокого риска.

• Запрещённые (Статья 5). Запрещены в ЕС независимо от мер соответствия. Штраф: до 35 млн евро или 7% от мирового оборота.
• Высокий риск (Статья 6 + Приложение I + Приложение III). Разрешены, но строго регулируются — оценка соответствия, FRIA, регистрация, постоянный мониторинг. Штраф: до 15 млн евро или 3% от мирового оборота.
• Ограниченный риск (Статья 50). Только обязательства по прозрачности — информировать пользователей, маркировать синтетический контент.
• Минимальный риск. Никаких особых обязательств по AI Act. Поощряются добровольные кодексы поведения.

Большая часть корпоративного ИИ попадает либо в категорию высокого риска (из-за вариантов использования в HR, кредитовании или биометрии), либо ограниченного риска (из-за развёртывания чат-ботов).

Статья 6 классифицирует систему ИИ как высокорисковую, если она удовлетворяет любому из условий:

1. Статья 6(1) + Приложение I. Система является компонентом безопасности продукта или сама является продуктом, на который распространяется определённое гармонизирующее законодательство ЕС (машины, игрушки, лифты, медицинские изделия, средства диагностики in vitro, гражданская авиация, сельскохозяйственная техника, морское оборудование, радиооборудование и т. д.), И этот продукт обязан пройти оценку соответствия третьей стороной согласно этому законодательству.
2. Статья 6(2) + Приложение III. Система подпадает под одну из восьми категорий вариантов использования Приложения III.

Многие системы удовлетворяют обоим тестам; путь через Приложение III — это то, что большинству продуктовых команд необходимо понимать.

Статья 6(3) предусматривает узкое исключение. Система ИИ, перечисленная в Приложении III, не является высокорисковой, если она не создаёт значительного риска причинения вреда здоровью, безопасности или основным правам физических лиц, в том числе не оказывая существенного влияния на исход принятия решений. Условия Статьи 6(3) таковы:

1. Система выполняет узкую процедурную задачу;
2. Она предназначена для улучшения результата ранее завершённой человеческой деятельности;
3. Она предназначена для обнаружения шаблонов принятия решений или отклонений от прежних шаблонов принятия решений и не предназначена для замены или влияния на ранее завершённую человеческую оценку без надлежащего человеческого контроля; или
4. Она предназначена для выполнения подготовительной задачи к оценке, релевантной для целей вариантов использования, перечисленных в Приложении III.

Исключение не применяется, если система ИИ выполняет профилирование физических лиц. Если поставщик приходит к выводу, что система из Приложения III не является высокорисковой, поставщик обязан задокументировать оценку (Статья 6(4)) и зарегистрировать систему в базе данных ЕС (Статья 49).

Обязательства по высокому риску обширны. Поставщики обязаны:

• Система управления рисками (Статья 9) — непрерывный, итеративный процесс на протяжении всего жизненного цикла.
• Данные и управление данными (Статья 10) — данные для обучения, валидации и тестирования подлежат критериям качества и проверке на предвзятость.
• Техническая документация (Статья 11) — составляется до размещения на рынке, поддерживается в актуальном состоянии.
• Ведение записей и журналирование (Статья 12) — автоматические журналы на протяжении всего жизненного цикла.
• Прозрачность и информирование внедряющих сторон (Статья 13) — инструкции по использованию, предполагаемое назначение, ограничения.
• Человеческий надзор (Статья 14) — проектирование с возможностью эффективного надзора со стороны физических лиц в течение периода использования системы.
• Точность, устойчивость и кибербезопасность (Статья 15) — соответствующие уровни, заявленные в инструкциях по использованию.
• Система управления качеством (Статья 17) — письменные политики, процедуры и инструкции.
• Оценка соответствия (Статья 43) — внутренняя процедура для большинства систем Приложения III; оценка третьей стороной для биометрии и некоторых регулируемых продуктов.
• Декларация соответствия ЕС и маркировка CE (Статьи 47–48).
• Регистрация в базе данных ЕС (Статья 49).
• Постмаркетинговый мониторинг (Статья 72) и отчётность о серьёзных инцидентах (Статья 73) — в орган надзора за рынком.

Внедряющие стороны — физические или юридические лица, использующие систему ИИ под своим руководством — имеют более лёгкие, но реальные обязательства:

• Использовать систему в соответствии с предоставленными инструкциями.
• Возложить человеческий надзор на лиц, обладающих необходимой компетенцией, подготовкой и полномочиями.
• Отслеживать серьёзные инциденты или неисправности и сообщать о них согласно Статье 73.
• Внедряющие стороны из публичного сектора и некоторые внедряющие стороны из частного сектора обязаны проводить оценку воздействия на основные права (FRIA) согласно Статье 27 — документируя вариант использования, затронутых лиц, риски причинения вреда и меры по их снижению.
• Внедряющие стороны, использующие ИИ для принятия решений в отношении физических лиц, обязаны информировать этих лиц (Статья 26(11)).

• 2 февраля 2025 года — вступают в силу запрещённые практики по Статье 5; обязательства по ИИ-грамотности (Статья 4).
• 2 августа 2025 года — вступают в силу правила для ИИ общего назначения (GPAI); органы управления функционируют; применяются штрафы.
• 2 августа 2026 года — применяются обязательства для систем высокого риска по Приложению III.
• 2 августа 2027 года — применяются обязательства для систем высокого риска по Статье 6(1) (компоненты безопасности продуктов, подпадающих под законодательство Приложения I).

• Запрещённые практики по Статье 5 — до 35 млн евро или 7% от мирового годового оборота (Статья 99(3)).
• Несоблюдение других обязательств AI Act — до 15 млн евро или 3% от мирового годового оборота (Статья 99(4)).
• Предоставление неверной, неполной или вводящей в заблуждение информации органам власти — до 7,5 млн евро или 1% от мирового годового оборота (Статья 99(5)).
• МСП и стартапы — штрафы применяются с учётом их экономической жизнеспособности; может применяться более низкий процентный предел.