Искусственный интеллект давно перестал быть нишевой технологией: сегодня он глубоко встроен в финансовые рынки, банковский сектор и платёжную инфраструктуру. Мнения участников финансового сообщества расходятся. Одни, как глава Банка Англии, считают ИИ угрозой системного масштаба. Другие, как менеджеры ряда европейских банков, полагают, что эта технология открывает такие возможности, что игнорировать её попросту нельзя.
Кристин Лагард, президент Европейского центрального банка, заняла позицию, близкую к первой точке зрения. Об этом она заявила во Франкфурте, выступив с программной речью на ежегодном открытии заседания Европейского комитета по системным рискам (ESRB).
Огромные возможности и новые системные риски
«Если мы хотим разумно использовать ИИ, директивные органы обязаны предвидеть риски для финансовой системы. Закон об ИИ в Европе устанавливает правила для систем искусственного интеллекта в зависимости от связанных с ними рисков. Но этого недостаточно: работа с пограничными моделями, которые становятся всё более мощными, потребует также глобального сотрудничества».
Лагард уточнила, что искусственный интеллект несёт в себе:
«Огромные возможности с точки зрения эффективности, но вместе с тем порождает новые системные риски».
Параллели с холодной войной
Фактически, лагард провела аналогию с периодом холодной войны. Тогда США и Советский Союз согласовали ограничения ядерных потенциалов и совместно противодействовали распространению ядерного оружия, продолжая при этом жёсткое соперничество друг с другом. Сегодня ситуация принципиально иная, и это, по словам Лагард, вызывает серьёзную обеспокоенность:
«Разница между той эпохой и нынешней состоит в том, что США располагают явным превосходством в области пограничного ИИ. Вашингтон может расценить любое глобальное соглашение как инструмент сдерживания этого лидерства, однако подобный взгляд близорук».
Президент ЕЦБ подчеркнула: у всего мирового сообщества есть общий интерес в том, чтобы наиболее мощные модели не попали в руки мошенников и злоумышленников. По её убеждению, необходимо формирование глобального сотрудничества в этой сфере с участием всех стран, разработавших и внедривших ИИ.
Комитет ESRB, который возглавляет Лагард, предупредил о ряде рисков, связанных с моделями ИИ. Часть из них очевидна. Киберзащита критически важных финансовых систем требует пересмотра и обновления: передовой ИИ изменяет характер угроз, с которыми сталкиваются системы безопасности. Финансовые регуляторы должны обеспечить, чтобы компании заблаговременно планировали оперативные ответные меры и были готовы к координации действий в случае, если атака распространится на весь сектор.
Разделяемые опасения
Иными словами, тревоги Лагард перекликаются с позицией американского сенатора Берни Сандерса. Политик давно предупреждает об опасности бесконтрольного финансирования сектора ИИ: по его мнению, модели уже развиваются с темпами, которые с трудом поддаются контролю, и в обозримой перспективе способны выполнять сложнейшие операции с почти мгновенной скоростью, недоступной ни одному человеку. Именно поэтому Сандерс подготовил законопроект о замедлении разработки таких моделей.
Если подобная вычислительная мощь окажется в руках злоумышленников, последствия могут быть катастрофическими. Непрерывная атака методом перебора, осуществляемая неутомимым ИИ-оператором с задачей взломать киберзащиту банка, блокчейна или виртуальной платёжной системы, рискует стать неотразимой. Это запустит цепную реакцию, которая сделает всю систему онлайн-транзакций уязвимой. Для русскоязычных инвесторов, многие из которых ведут операции через европейские и международные платёжные платформы, подобный сценарий означает вполне конкретные риски для сохранности цифровых активов.
