На форуме FinCore 2025 эксперты обсудили банкинг будущего и ответили на вопрос: какой будет IT-архитектура в условиях роста необанков и дедлайнов по импортозамещению? Отдельный блок программы был посвящен использованию искусственного интеллекта и машинного обучения в финансовом секторе. Встреча состоялась 27 февраля 2025 года в Москве, на площадке «Россия сегодня».

В ходе сессии «ИИ в финансовом секторе: переход от “баловства” на осмысленное использование?» спикеры рассказали о технологиях для бизнес-решений на базе ИИ, архитектуре AI-ассистентов и трудностях внедрения ИИ в бизнес-процессы. Модератором обсуждения выступил ИТ-хедлайнер МТС Банка Алексей Клепиков.

Advanced RAG для ИИ-ассистентов

Сессию открыли руководитель по разработке технологий для бизнес-решений на базе ИИ Альфа Банка Сергей Денисов и директор по консалтингу компании Arenadata Антон Балагаев. Эксперты рассказали о методе Advanced RAG для ИИ-ассистентов. По их словам, сейчас появилась возможность запуска настоящих агентов, которые будут работать с людьми и вместо них.

Поисковые системы имеют определенные недостатки. RAG же (Retrieval Augmented Generation, в пер. «генерация ответа, дополненная результатами поиска») является дополнением, внешней памятью для большой языковой модели. Этот шаблон расширенного поиска всегда располагает актуальной информацией и предоставляет ее небольшим контекстом. Однако пока RAG не универсален, а формируется под конкретную бизнес-задачу.

Классический векторный RAG имеет большую погрешность, а для агентских ИИ-систем со множеством шагов планирования, накапливающих ошибку, точность критична. Поэтому для решения бизнес-задач нужен Advanced RAG (продвинутый вариант). Его высокая точность обеспечивает экономию токенов и объема контекста, сужает простор для галлюцинаций ИИ.

Технология должна отвечать следующим критериям:

1) быть «всеядной» по форматам данных,

2) не требовать дополнительной ручной обработки,

3) работать с большими объемами данных из различных доменов знаний,

4) быть простой в настройке,

5) обеспечивать мультимодальность,

6) быть построенной по агентной архитектуре.

«Мы ориентируемся на то, что в течение этого года до 5% обращений и сессий к платформам данных будут выполняться уже агентами, автономными единицами, которые смогут принимать решения и задачи. Это пока немного… А вот к 2027 году количество агентов (когда они уже себя зарекомендуют себя) будет раз в 20 больше, чем людей», — сказал Антон Балагаев.

Архитектуры для ИИ-ассистентов

Тому, как выбрать архитектуру для корпоративного AI-ассистента, какие есть преимущества и подводные камни каждой из технологий, был посвящен доклад руководителя центра компетенций Data Science компании Neoflex Романа Сорокина.

По последним данным McKinsey за 2024 год, 65% компаний уже внедряют GenAI хотя бы в одной функции. В России, по исследованию «Яков и партнеры» 2023 года, 65% компаний с GenAI получили до 5% прироста EBITDA (прибыль компании до вычета расходов) за последний год. Более того, генеративные подсказки на 30-40% ускоряют обслуживание клиентов.

Для корпоративных ИИ-ассистентов необходимо правильно выбрать архитектурный шаблон для планируемой задачи. Оптимальной архитектурой можно назвать ту, которая эффективно решает бизнес-задачи сегодня и готова масштабироваться для задач завтра. Роман Сорокин рассказал о преимуществах и недостатках некоторых технологий:

1. RAG: поиск информации + генерация

Модель при каждом запросе ищет релевантные куски текста, затем формирует итоговый ответ из них. Используется для быстрого старта, когда много справочной документации. Однако зависит от качества поиска и полноты индекса, не дает возможности диалога.

2. Advanced RAG: улучшенный поиск

«RAG+++» с усиленным поиском онтологий, графом знаний, rerank-моделями, дополнительным контекстом используется для сложной предметной области, при работе с информацией из разных источников. Из минусов — нет диалога, дополнительные затраты на подготовку данных, риск попадания в поисковую выдачу нерелевантных источников.

3. Router: маршрутизация

Эта архитектура используется, когда вопросы пользователей разные, требуют маршрутизации или нужна масштабируемая система. Из подводных камней можно выделить: риск ошибки маршрутизации, составные вопросы из нескольких доменов, «потерю» ассистента в случае переключения с одного сценария на другой.

4. ReAct (Reasoning + Acting): рассуждение + действие + реакция

Модель поддерживает диалоговость и разделение сложного вопроса на подшаги, подходит для задач, объединяющих несколько доменов, не теряет контекст беседы и способна масштабироваться. Однако расходует много токенов, а существующие фреймворки неудобны для кастомизации.

5. Multi-Agents: разделение задач

Многоагентная архитектура предполагает, что вместо одного универсального AI-модуля будут действовать несколько агентов, обменивающихся результатами и совместно решающих задачу. Агент-скринер фильтрует информацию, переформулирует запросы, а агент-ревьюер проверяет ответы и анализирует ссылки на источники. Используется для узкоспециализированных решений, где несколько этапов. Однако сложно масштабируем и негибок, с развитием LLM (в AGI) потеряет смысл.

Референтная архитектура ИИ-платформы

Советник генерального директора по ИИ Ассоциации ФинТех Алексей Сидорюк рассказал о платформизации применения искусственного интеллекта и референтной архитектуре. Эксперт напомнил, что сегодня ИИ все еще не умеет выполнять ряд функций. Например, он не способен создавать и понимать цели, ставить самому себе задачи, прокачивать навыки, рефлексировать и самостоятельно принимать решения. Эти проблемы нужно решить для создания полностью автономных ИИ-агентов и систем.

Если брать генеративный ИИ, то только 10-15% организаций доходят до реально работающих кейсов. Из них только 20-25% получают экономический эффект. При этом компетенции в этой области очень дорогостоящие и 60-80% организаций сталкиваются с дефицитом компетенций сотрудников. К тому же еще нет методологической базы.

Алексей Сидорюк поделился, что в этом году в Ассоциации ФинТех сделали отдельное направление по созданию референтной архитектуры ИИ-платформы. Его цель — создать единые подходы по применению ИИ в финансовой отрасли, условия для демократизации технологий, повышения эффективности применения ИИ и улучшения конверсии перехода из пилотных проектов в продуктивную эксплуатацию за счет внедрения референтной архитектуры платформы ИИ (MLSecOps).

ИИ в построении новых финансовых продуктов

Заместитель генерального директора АО «ФлексСофт» Александр Борискин рассказал о трендах финансового сектора и практическом применении ИИ для построения и имплементации в автоматизированной банковской системе (АБС) новых финансовых продуктов в режиме реального времени.

В настоящее время в финтех-секторе:

✓ востребованы технологии, которые способны обеспечить бизнесу скорость, гибкость и масштабируемость;

✓ активно развивается цифровая и платежная инфраструктура;

✓ потребители финансовых услуг быстро адаптируются к ИИ, маркетплейсам, цифровым валютам;

✓ генеративный ИИ стал «базовой технологией»;

✓ наблюдается нехватка квалифицированных ИТ-кадров.

Также спикер представил FXL — единую технологическую бизнес-платформу для банков. LLM применяется в ней как конструктор (экранных форм, тарифов, комиссий, бизнес-процессов, сценариев диалога, регуляторной, аналитической и управленческой отчетности) и как сценарный механизм — основа финансовой модели. Искусственный интеллект в FXL позволяет: генерировать финансовые продукты и бизнес-процессы в реальном времени на уровне Core-системы, сократить time to market (T2M, переход от идеи до вывода продукта на рынок) в десятки раз и кардинально снизить трудозатраты благодаря минимизации ручного труда.  

Роль телекома в ИИ-банках

Между тем директор по технологиям «СберМобайл» Евгений Ситников уверен, что «сервисным слоем» для ИИ в банках может стать телеком. В своем докладе о виртуальном операторе сотовой связи (MVNO) для банковской системы он подчеркнул, что в настоящее время роли банков меняются: государство забирает на себя часть банковских функций (общая система платежей, цифровой рубль), следовательно, банки должны трансформироваться.

• 

Телеком может выступать, с одной стороны, как инфраструктурный партнер ИИ-банков (давать каналы связи, доступа), с другой стороны — в роли конкретных сервисов, которые решают задачу клиента. Он также поставляет массовые данные (о поведении, сетевой активности, локациях) и способствует борьбе с мошенничеством.

«Сейчас основной фокус у телеком-индустрии направлен на безопасность в финансовом сервисе», — поделился спикер.  

ML-платформа как основа корпоративного ИИ

С докладом о гибридном моделировании и применении ИИ-решений в молодом Ozon Банке выступил директор по данным (CDO) Александр Толмачев. Он рассказал о проблематике маркетплейса и банка, едином стандарте всех банковских моделей и итоговом решении, связывающем данные и бизнес.

Банк и маркетплейс связаны между собой, но в то же время имеют разных и одинаковых пользователей, разные уровни доступа, инфраструктурные команды, структуры данных. Благодаря отдельному приложению — иерархии метрик — все нужные данные собраны в одном месте и, за счет обновления, видна ежедневная динамика всех показателей бизнеса. Также эксперт подробно описал устройство ML-платформы Ozon Банка и привел примеры моделей на внутренних (банк и Ozon) и внешних данных.

Корпоративный GenAI стабилизирует ландшафт

Директор департамента «Заказная разработка» «Рексофт» Алексей Лебедев и руководитель группы разработки «Рексофт» Евгений Никифоров рассказали о том, как изменился финтех-сектор после импортозамещения и какую роль в нем играет генеративный ИИ (GenAI).

На сегодняшний день 60-90% прикладных систем уже замещено. По данным Ассоциации ФинТех, 95% финансовых и технологических компаний применяют ИИ. Это привело к росту операционной эффективности: сокращению Т2М для бизнес-идей, повышению эффективности аналитики и качества процессов. Новая цель — это стабилизация и переосмысление ИТ-ландшафта.

Алексей Лебедев описал особенности и трудности применения GenAI: отсутствие централизованного управления внедрением ИИ, жесткие требования к безопасности и защите персональных данных, неполный контроль потоков данных, возможность использования только моделей On Prem (по подписке), наличие скрытых рисков, затрудненный контроль и аудит.

Евгений Никифоров уточнил, что создание тест-кейсов и чек-листов для QA (обеспечения качества) позволяют увеличить производительность до 50%, и рассказал о том, какие возможности дает корпоративная система GenAI. Гибкая и масштабируемая система упрощает управление, делает логирование и мониторинг, быструю проверку бизнес-гипотез, снижает стоимость разработки и экспериментов, ускоряет продуктивизацию.

Сессия «ИИ в финансовом секторе» завершилась дискуссией, в ходе которой участники обсудили полноценное внедрение новых технологий в компаниях, поговорили об особенностях ИИ-решений, их преимуществах и рисках, а также ответили на вопросы модератора и участников форума FinCore.

Виктория РОДИЧЕВА

Фото автора

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!