Лидеры 20 стран призвали оставить передовые модели ИИ под контролем человека
Представители из 20 стран, включая ряд европейских государств, поддержали международный призыв, согласно которому передовые модели искусственного интеллекта «должны оставаться под управлением, надзором и контролем человека». Документ также предлагает изучить возможность создания международного института для надзора за ИИ. США и Китай — крупнейшие центры разработки передовых ИИ-технологий — к инициативе не присоединились, сообщает Politico.
Инициатива на фоне Генассамблеи ООН
Международный призыв был представлен в понедельник, 21 сентября, на фоне Недели высокого уровня Генеральной Ассамблеи ООН. В документе признается «потенциал ИИ улучшать жизнь, продвигать науку и укреплять экономики», но одновременно предупреждается, что «быстрое развитие передовых моделей ИИ создает серьезные риски для безопасности, если не управлять им должным образом».
Инициатива появилась накануне запланированной встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина, которая должна пройти в Вашингтоне в четверг. Ни США, ни Китай к призыву не присоединились.
Президент Финляндии Александр Стубб, один из главных организаторов инициативы, заявил, что рассчитывает создать «импульс» и привлечь больше участников:
«Думаю, и Китаю, и США будет интересно иметь некие ограничители. Наш посыл в том, что нужно человеческое вмешательство, поэтому люди должны быть главными», — сказал он в интервью.
Риски и протоколы безопасности
Ссылаясь на сообщения о кибератаках с участием автономных ИИ-агентов, в том числе на платформу Hugging Face, инициатива призывает «устранить эти риски», обязав компании, работающие в сфере ИИ, «разрабатывать прозрачные протоколы безопасности, включая обязательное тестирование перед развертыванием и независимую оценку, с предоставлением квалифицированным оценщикам достаточного доступа для анализа рисков».
Документ не содержит призыва к общей приостановке разработки ИИ. Основной акцент организаторы делают на управлении рисками и сохранении человеческого контроля.
Для этого странам следует «дальше разрабатывать и координировать общие стандарты» и укреплять прозрачность, «включая совместное оповещение о серьезных инцидентах в сфере безопасности». Кроме того, государства — члены ООН должны «опираться на существующие международные механизмы и изучить возможность создания международного института» для надзора за ИИ.
Предложение о международном институте
Стубб сказал, что его личное предпочтение — создать новую структуру, аналогичную Международному агентству по атомной энергии, «в рамках ООН». Однако, учитывая скептическое отношение президента США Дональда Трампа к ООН, он добавил:
«Мы должны оставить формулировку открытой, чтобы люди не отвергали ее только потому, что она будет в рамках ООН».
Премьер-министр Норвегии Йонас Гар Стере, инициировавший призыв вместе со Стуббом и присоединившийся к интервью по видеосвязи, заявил:
«Мы были бы очень воодушевлены, если бы и G7, и предстоящее председательство Великобритании в G20 взялись за это… ООН — большая структура, но G7 и G20 немного более сфокусированы».
Среди крупных европейских стран инициативу поддерживает канцлер Германии Фридрих Мерц, тогда как Франция, Италия и Польша не вошли в число участников.
Угрозы и потенциальная польза ИИ
Стубб добавил, что ни он, ни Стере не являются «паникерами» в отношении искусственного интеллекта, но назвал три причины, по которым отсутствие эффективного надзора представляет угрозу: создание с помощью ИИ биологического оружия, кибератаки с участием ИИ-агентов и роботы-убийцы, использующие ИИ для летальных атак.
При этом Стубб подчеркнул, что при правильном использовании технологий польза от ИИ может быть «гораздо выше» — от «искоренения болезней» до роста производительности, распространения информации и других преимуществ.
Генсек ООН: потеря контроля над ИИ — экзистенциальная угроза человечеству
Неконтролируемое развитие ИИ несет прежде всего риск потери контроля над системами, способными самостоятельно ставить задачи, применять внешние сервисы и принимать решения без подтверждения человека. Генеральный секретарь ООН Антониу Гутерриш 16 сентября 2026 года включил этот сценарий в тройку главных экзистенциальных угроз современности наряду с климатическим кризисом и углублением неравенства.
Глава Anthropic Дарио Амодеи призвал замедлить развитие наиболее мощных моделей, а руководитель направления выравнивания Эван Хубингер оценил вероятность гибели человечества из‑за ИИ в ближайшем десятилетии выше 10%.
Среди конкретных рисков эксперты выделяют: возможность использования ИИ для кибератак и биотерроризма (в сентябре 2026 года Anthropic зафиксировала попытки применения ее модели Claude для разработки биологического оружия), рекурсивное самосовершенствование моделей, которое может опередить механизмы контроля, масштабные кампании дезинформации, манипулирование демократическими процессами, концентрацию безграничной власти в одних руках и серьезные экономические потрясения.
При этом часть специалистов, включая почетного профессора Вашингтонского университета Педро Домингоса, выступает против замедления, считая остановку исследований передачей технологии в руки авторитарных режимов.