Как банки зарабатывают на ИИ и почему он иногда отказывает вам в кредите без объяснений
Весной 2024 года несколько крупных российских банков сообщили, что доля автоматически одобренных кредитных заявок превысила 80%. Человек-аналитик участвует только в пограничных случаях. За этой цифрой стоят миллиарды инвестиций в системы машинного обучения, которые за секунды анализируют кредитную историю, транзакционное поведение, данные из госреестров и принимают решение.
Кажется, что это победа эффективности. Но у медали есть обратная сторона: если алгоритм ошибается или дискриминирует определённую группу клиентов по косвенным признакам, заёмщик узнаёт об этом только по короткому отказу без объяснений. Именно из-за этой непрозрачности ЦБ РФ в 2023–2024 годах начал разрабатывать требования к объяснимости финансовых алгоритмов.
Где ИИ приносит банкам реальные деньги
Антифрод-системы — самый очевидный случай окупаемости. Алгоритм отслеживает каждую транзакцию в режиме реального времени и за миллисекунды сравнивает её с типичным поведением конкретного клиента. Нестандартный перевод на крупную сумму ночью в незнакомый банк: система блокирует и запрашивает подтверждение. Сбербанк заявлял, что ИИ-системы помогают предотвращать мошеннические операции на сумму десятков миллиардов рублей ежегодно. Стоимость внедрения и поддержки таких систем многократно меньше предотвращённых потерь.
Алгоритмическая торговля изменила фондовый рынок. Роботы-трейдеры реагируют на новости и движение рынка за микросекунды, совершая сотни сделок в секунду. На Московской бирже доля алгоритмических операций по ряду инструментов превышает 50%. Это снижает спреды и добавляет ликвидности, но одновременно создаёт риски: в августе 2015 года алгоритмы на мировых площадках за 36 минут обвалили рынок на 1000 пунктов, а потом восстановили его почти так же быстро. Регуляторы до сих пор спорят, как с этим жить.
Риски, о которых редко говорят вслух
Первый риск: системный. Если многие банки используют схожие модели (а так и есть: большинство берут базовые архитектуры у нескольких вендоров), их ошибки становятся ошибками всей системы одновременно. Кризис одной модели рискует обернуться кризисом сектора.
Второй риск: дискриминация по косвенным признакам. Алгоритм формально не смотрит на пол или регион, но может ориентироваться на сигналы, которые с ними коррелируют: тип смартфона, провайдер, список приложений. В итоге жители отдельных регионов или люди с нетипичным потребительским профилем систематически получают худшие условия. ЦБ РФ уже зафиксировал несколько таких случаев при проверках.
Третий риск: зависимость от данных. Модель, обученная на поведении в «спокойные» годы, плохо предсказывает дефолты в кризис, потому что таких паттернов в обучающей выборке просто нет. Именно это произошло с рядом крупных банков в кризис 2008 года: рейтинговые алгоритмы не видели рисков, которые в итоге уничтожили портфели. Российские финансисты изучают этот опыт, но гарантий нет.
