Может ли чиновник отдать ваше дело алгоритму: правила ИИ в Дании

Датский чиновник сможет получить от ИИ рекомендацию по вашему делу, а итоговое решение должен принять сам. Новый проект AI-hjemmelsloven дает государственным органам общее основание для работы ИИ с персональными данными — от профилирования граждан до подготовки рекомендаций по конкретным делам. Для обучения новых систем ведомства смогут использовать и данные из старых дел, которые все еще законно хранят.

14 сентября проект отправили на общественные консультации до 12 октября. 16 сентября датское Управление по защите данных Datatilsynet сообщило, что изучит новую редакцию и проверит, как в ней учтены замечания к предыдущему варианту.

Одно основание для государственного ИИ

Сейчас датским ведомствам приходится искать правовое основание для ИИ в правилах конкретной сферы. Правительство называет эту систему фрагментарной: нормы появляются отдельно в разных отраслях, а возможности использовать одну и ту же технологию различаются.

AI-hjemmelsloven должен дать государственному сектору общую норму. Ведомство сможет применять ИИ при обработке персональных данных для задач, которые уже входят в его полномочия, без нового специального основания под каждую систему.

То есть социальная служба, налоговая или образовательное ведомство получают новый инструмент для своей обычной работы. Границы самой государственной задачи по-прежнему задает отраслевое законодательство.

Алгоритм советует, чиновник решает

Проект разрешает ИИ анализировать данные человека, оценивать отдельные его характеристики и выдавать чиновнику рекомендацию. В законе это называется decision support — поддержкой принятия решений.

Сотрудник должен сам изучить обстоятельства дела, оценить машинный вывод и иметь полномочия выбрать другой вариант. Datatilsynet отдельно предупреждает об automation bias: когда человек начинает придавать оценке системы больший вес, чем собственной профессиональной оценке.

Полностью автоматические решения с юридическими или сопоставимо серьезными последствиями остаются в режиме статьи 22 GDPR. Новый датский закон регулирует именно системы, где ИИ помогает человеку принять решение.

На практике граница здесь тонкая. Чем увереннее выглядит рекомендация системы, обработавшей тысячи похожих дел, тем легче она превращается для сотрудника в готовый вариант по умолчанию.

Старые дела пойдут на обучение

Для разработки, обучения и доработки моделей ведомства смогут использовать персональные данные, которые уже находятся в их распоряжении в рамках законной государственной работы. Проект прямо включает обучение и повторное обучение систем в понятие их разработки.

Это открывает для государственного ИИ массив исторических дел: старые заявления, документы и другие сведения могут стать тренировочным материалом, пока ведомство вправе их хранить и обрабатывать.

Сроки хранения остаются прежними. Когда основание для хранения заканчивается, данные подлежат удалению по действующим правилам.

Передача информации между ведомствами по-прежнему требует собственного правового основания. Для данных о здоровье, религии, политических взглядах, судимостях и других чувствительных категорий действуют дополнительные требования и меры защиты.

Права на данные смогут ограничивать

Проект дает профильным министрам возможность для отдельных сфер полностью или частично ограничивать ряд прав по GDPR. В перечень входят доступ к данным, исправление, удаление, ограничение обработки и право возражать против нее. Такие правила должны соответствовать условиям статьи 23 GDPR.

Правительство объясняет эту возможность техническим устройством AI-систем. В некоторых моделях найти все сведения конкретного человека или удалить их значительно сложнее, чем в обычной базе данных. Именно право на доступ и удаление проект приводит как примеры проблемных случаев.

Для граждан это одна из самых чувствительных частей реформы: государство одновременно расширяет использование их старых данных для ИИ и получает механизм для ограничения части прав на управление этими данными.

Как узнать, что в деле участвовал ИИ

Сам AI-hjemmelsloven не создает отдельного нового механизма объяснения машинной рекомендации. Информация о данных и административном решении будет регулироваться действующими нормами GDPR, датского административного права и, где он применим, AI Act.

RTVI ранее разбирал, какую информацию в ЕС можно запросить, если алгоритм повлиял на решение о работе, кредите или жилье. Формальное присутствие сотрудника в такой процедуре еще не гарантирует содержательного человеческого контроля.

Для датской модели поэтому важен очень практический вопрос: сможет ли гражданин понять, что ИИ участвовал в его деле и насколько сильно чиновник опирался на рекомендацию системы.

Такой ИИ у Дании уже есть

Датское Управление образования уже разрабатывало AI-систему для заявлений студентов на дополнительную стипендию из-за инвалидности или стойкого заболевания. Она проверяет, достаточно ли документов приложено к заявлению, после чего спорные или неполные дела отправляются сотруднику на ручную проверку.

Для обучения использовали около 3 тыс. исторических дел. В них содержались сведения о здоровье, доходах, образовании, занятости, социальных обстоятельствах и другая информация, связанная с назначением выплаты.

Именно для таких проектов сегодня приходится опираться на нормы конкретной сферы — в этом случае на законодательство о студенческой поддержке и специальное регулирование AI-SU. Общий закон должен сделать этот путь стандартным для разных государственных органов.

Человеческий контроль придется проверить на практике

Датская конструкция на бумаге довольно ясная: система анализирует данные и предлагает вариант, сотрудник оценивает его и принимает решение.

Главный тест начнется внутри самих ведомств. Если алгоритм быстро выдает убедительную рекомендацию на основе тысяч прошлых дел, чиновнику придется действительно проверять ее, а не привыкать соглашаться с машиной.

Именно от этого будет зависеть разница между ИИ как помощником государственного служащего и системой, решение которой человек лишь оформляет своей подписью.