Банк Англии предупредил о рисках автономного ИИ для финансовой системы
Регулятор считает, что для ИИ‑агентов могут потребоваться специальные ограничители и механизмы экстренной остановки.
Банк Англии заявил, что автономные ИИ‑системы в финансах могут потребовать более строгого контроля, сообщает Reuters. Заместитель управляющего Банка Англии по финансовой стабильности Сара Бриден подчеркнула: нынешние правила не рассчитаны на ИИ‑агентов, которые сами принимают решения и совершают операции — например, проводят платежи или торгуют на рынке. Проще говоря, законы писали для людей, а теперь в игре появились «умные помощники», которые действуют без подсказок — и это создаёт новые риски.
Что сказала Сара Бриден и где прозвучало предупреждение
Бриден выступила на форуме ЕЦБ по вопросам центральных банков в Синтре. В своей речи, опубликованной Банком Англии, она отметила: ИИ стремительно меняет финансы, кибербезопасность, рынки и платёжные системы — а значит, центробанкам нужно быстрее подстраиваться и укреплять устойчивость всей финансовой системы.
По словам Бриден, уже нереально рассчитывать, что человек сможет постоянно следить за каждым шагом ИИ‑агента. Такие системы способны сами проводить платежи, выстраивать торговые стратегии и даже искать слабые места в системах — действуя по цепочке шагов без участия людей.
Получается, если раньше можно было сказать «человек всё проверит», то сейчас эта страховка перестаёт работать: объём и скорость действий ИИ слишком велики, чтобы за ними успевал контролёр.
Какие риски видит Банк Англии и какие меры предлагает
Главная опасность, по мнению регулятора, в том, что ИИ‑агенты могут усилить скачки цен и панику на рынках в моменты стресса. Например, если десятки таких систем одинаково среагируют на одну и ту же новость, они могут одновременно начать продавать или покупать — и рынок резко «тряхнёт». Ещё хуже, если цели ИИ начнут расходиться с тем, что задумывали создатели, или с интересами общества.
Чтобы снизить эти риски, Банк Англии рассматривает дополнительные защитные механизмы. Среди них — автоматические ограничители и принудительные «выключатели», которые смогут остановить сбойные ИИ‑модели. Reuters поясняет: такие меры могут работать на уровне всего рынка — например, временно приостанавливать торги, если алгоритмы ведут себя аномально.
Простыми словами, это как аварийный тормоз в поезде: если система «сходит с рельсов», её нужно быстро отключить, чтобы не допустить большой аварии.
Насколько широко используют ИИ в финансах и что это значит
По данным опроса Cambridge Centre for Alternative Finance, которые приводит Reuters, уже 52 % финансовых компаний применяют agentic AI — то есть ИИ, способный действовать самостоятельно. Пока чаще его используют для задач с невысоким риском. Но Сара Бриден допускает, что ситуация может быстро измениться: компании начнут доверять ИИ всё более серьёзные операции.
Это значит, что риски, о которых говорит Банк Англии, из гипотетических могут быстро стать реальными. Чем больше решений будет принимать ИИ без участия человека, тем важнее заранее продумать «страховки» — от автоматических лимитов до механизмов экстренной остановки.
Сейчас регулятор не вводит жёсткие запреты, а старается опередить возможные проблемы: понять, как устроены эти системы, и подготовить правила, которые сделают их использование безопасным для всей финансовой системы.