Искусственный интеллект в соблюдении требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа, использующего искусственный интеллект для обеспечения соответствия требованиям и обнаружения мошенничества в финансовых учреждениях.

Откройте для себя лучшие новости и события финтеха!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и другие

Что на самом деле проверяет ИИ в области соблюдения требований: технологии или нас?

В финансовых услугах соблюдение требований больше не просто функция. Это активная точка давления — место столкновения регулирования, рисков и операций. По мере внедрения технологий ИИ в эту сферу, один вопрос постоянно всплывает: насколько мы можем автоматизировать процессы, и кто остается ответственным, когда что-то идет не так?

Преимущество ИИ в обнаружении мошенничества и соблюдении требований легко понять. Финансовые институты сталкиваются с растущими ожиданиями обработки огромных объемов данных, реагирования на меняющие угрозы и соблюдения новых правил — при этом не жертвуя скоростью или точностью. Автоматизация, особенно при использовании машинного обучения, предлагает способ снизить операционное напряжение. Но она также вызывает более глубокие опасения по поводу управления, объяснимости и контроля.

Эти противоречия не теоретические. Они разворачиваются в реальном времени, когда финансовые компании внедряют модели ИИ в роли, традиционно выполняемых аналитиками-человеками. За сценой возникают новые риски: ложные срабатывания, слепые зоны аудита и алгоритмические решения, остающиеся непонятными как для пользователей, так и для регуляторов.

В то же время, специалисты по соблюдению требований вынуждены менять роли. Вместо ручной проверки каждой транзакции они теперь контролируют инструменты, которые это делают. Эта переоценка — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он может выявлять несоответствия. Но он не способен полностью объяснить намерения, интерпретировать контекст или принять на себя вину.

Понимание этих ограничений критически важно. И немногие лучше, чем Роман Элошвили, основатель британской компании ComplyControl, подготовлены к их изучению. Его работа находится на пересечении рисков, автоматизации и надзора — там, где эффективность алгоритмов сталкивается с регуляторным контролем.

Более десяти лет в отрасли, Роман видел, как меняются команды по соблюдению требований и как ИИ трансформирует их рабочие процессы и обязанности. Он утверждает, что обещание ИИ заключается не в устранении человеческих ролей, а в их переосмыслении — в ясности, что именно машины должны делать, а что по-прежнему остается за человеком.

Этот сдвиг требует не только технических обновлений. Он требует культурного переосмысления ответственности. Прозрачные системы, проверяемые процессы и четко назначенная человеческая ответственность — это уже не просто особенности, а минимальные стандарты. Когда ИИ внедряется в критическую инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, требующих активного стратегического управления.

В этом интервью для FinTech Weekly Роман делится реалистичным взглядом на то, что нужно для ответственного внедрения ИИ в области соблюдения требований и предотвращения мошенничества. Его позиция не рассматривает автоматизацию как неизбежность, а как выбор — требующий постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где действительно находится доверие.

Мы рады поделиться его мнением в то время, когда многие в финтехе задаются вопросом не о том, стоит ли внедрять ИИ, а как сделать это так, чтобы не потерять стандарты, благодаря которым финансовые системы функционировали изначально.

1. Вы построили карьеру на стыке соблюдения требований и технологий. Можете ли вы вспомнить момент, когда поняли, что ИИ может кардинально изменить подход к управлению рисками?

Я бы не сказал, что это был один конкретный момент, который все изменил. Скорее, это был постепенный процесс. В значительной части своей карьеры я работал с крупными европейскими банками, и постоянно замечал, что многие из них значительно отстают в области цифровых банковских решений. Особенно это было заметно по сравнению с более развитыми финтех-центрами.

Несколько лет назад, когда тема развития ИИ снова начала активно обсуждаться, я заинтересовался этим. И, изучая технологии и их работу, понял, что искусственный интеллект способен кардинально изменить подход банков к соблюдению требований, делая их более современными и гибкими, сравнимыми с передовыми финтех-компаниями.

Это и подтолкнуло меня к запуску своей компании в 2023 году. Сложность соблюдения требований и управления рисками только растет с каждым годом. Столкнувшись с этой реальностью, наша миссия проста: внедрять решения на базе ИИ в финансовом секторе и помогать им справляться с растущими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль человеческих специалистов по мере развития ИИ в области соблюдения требований и обнаружения мошенничества?

Прежде всего, хочу сразу сказать одну вещь. В многих областях существует распространенное опасение, что ИИ заменит человека. И в сфере соблюдения требований и рисков мое мнение — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу индустрию, он далек от совершенства. Поэтому участие человека остается важным фактором. Регламенты постоянно меняются, и кто-то должен нести ответственность, если системы не справляются или допускают ошибки. На текущем уровне развития ИИ еще трудно объяснить свои решения ясно, поэтому он не готов работать полностью автономно. Особенно в области, где доверие и прозрачность — на первом месте.

Тем не менее, ИИ активно облегчает процессы соблюдения требований. Например, в зависимости от настроек системы ИИ может отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дополнительную проверку. Нет необходимости, чтобы человек вручную проверял каждую деталь, если что-то действительно кажется странным. И по мере развития эти системы будут все больше снижать необходимость ручной работы, позволяя командам сосредоточиться на более тонких задачах, требующих человеческого участия.

Я считаю, что в будущем появится гибридная модель, где специалисты по соблюдению требований будут все лучше использовать ИИ-инструменты. Они будут внедрять и обслуживать системы ИИ, а сама ИИ-обработка упростит их работу, анализируя сложные данные и предоставляя рекомендации. Однако окончательное решение всегда останется за человеком.

3. Работая с ИИ в чувствительных сферах, таких как финансовое соблюдение требований, как лично вы подходите к вопросу сохранения доверия и ответственности при принятии решений?

Конечно. Как я уже говорил, при использовании ИИ в соблюдении требований доверие — ключевой аспект.

Именно поэтому мы сделали наши системы полностью прозрачными. Они не работают как «черный ящик» — каждое предложение системы основано на прослеживаемых правилах и данных. Мы ведем полный журнал решений, чтобы их можно было полностью объяснить. Эта практика уже показала свою ценность при взаимодействии с регуляторами.

Окончательное решение всегда принимает специалист по соблюдению требований. ИИ просто предлагает обоснованную рекомендацию, которую человек может легко проверить и решить, одобрить или отклонить.

4. Ваша карьера насчитывает более 10 лет. Как изменилось ваше отношение к автоматизации и человеческому контролю за это время, особенно сейчас, когда ИИ становится все более автономным?

Определенно. Говоря шире о состоянии внедрения ИИ, чем дальше развивается эта технология, тем больше мы постепенно доверяем ей автономии — при условии, что она прошла тщательное тестирование и продолжает показывать надежность.

Но еще больше меняется роль человека-специалиста в этой системе. Вместо микроменеджмента каждого случая специалисты по соблюдению требований все чаще выступают в роли стратегических надзирателей. Они могут быстро просматривать целые группы похожих случаев, оценивать работу системы и корректировать модели на основе полученных результатов.

Другими словами, фактическая роль специалистов по соблюдению требований переходит от ручной работы к управлению системами ИИ, которые делают работу за них.

5. Работа с ИИ в области управления рисками поднимает сложные этические вопросы. Как лично вы разрабатываете рамки для ответственного принятия решений при проектировании или внедрении решений на базе ИИ?

Мы основываем наш подход на двух ключевых принципах: прозрачном контроле и принципах ответственного ИИ. Каждая модель, которую мы используем, имеет назначенного ответственного. Оценки рисков, проверки эффективности и соблюдение требований проводятся регулярно.

Также мы делаем наши системы проверяемыми. Если алгоритм принимает решение, этот процесс можно просмотреть и подтвердить. Эта прозрачность — важная часть нашего обязательства по развитию ответственного ИИ.

6. В вашем опыте, какой самый сложный профессиональный урок вы усвоили о пределах — или рисках — чрезмерной зависимости от автоматизации в критических сферах, таких как предотвращение мошенничества?

Один из уроков — помнить, что даже хорошо обученные модели могут «галлюцинировать» — ошибаться в тонких, но серьезных случаях.

ИИ может пропускать сложные схемы мошенничества или давать слишком много ложных тревог. Поэтому так важно сочетать ИИ с человеческим опытом — люди обладают гибким суждением и лучше оценивают этику и общий контекст, чем ИИ.

Баланс между ними обеспечивает более надежные результаты. ИИ помогает справляться с объемом задач и упрощает их, а люди сохраняют необходимый уровень точности и доверия.

7. Какие личные принципы или привычки вы бы посоветовали молодым специалистам, входящим в области соблюдения требований, управления рисками или разработки ИИ, чтобы успешно адаптироваться к быстро меняющейся среде?

Прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет «паузы», и нужно идти в ногу, чтобы не отстать. Здесь нет промежуточных вариантов.

Во-вторых, думайте широко. С развитием ИИ границы между ролями стираются — технологии, финансы и регулирование становятся все более переплетенными. Я убежден, что широкий набор навыков и открытость к новым идеям станут ключевыми качествами будущих профессионалов.

В-третьих — будьте гибкими. Постоянные изменения требуют быстрой адаптации, и эта способность станет вашим большим преимуществом.

И, наконец, развивайте навыки коммуникации и учитесь работать в команде. Как мы уже говорили, соблюдение требований — это пересечение бизнеса, технологий и права. Умение переключаться между этими сферами и общаться с людьми из разных областей — ценное качество.