«Сбер» выпустил новую флагманскую ИИ-модель — GigaChat 3.5 Ultra. По сравнению со своей предыдущей версией она генерирует длинный текст до 4-х раз быстрее, лучше решает задачи, связанные с написанием кода, математикой и автономными агентными сценариями, а также эффективнее анализирует контракты, техрегламенты, отчеты и другие объемные документы. Об этом Let AI be рассказала пресс-служба банка.

Для GigaChat 3.5 Ultra команда «Сбера» создала архитектуру с применением технологии линейного внимания. В отличие от классического «внимания» ИИ-моделей, которое при каждом новом слове заново сверяет его со всем предыдущим текстом, линейное внимание один раз «запоминает» суть прочитанного и дальше просто дополняет эту память — примерно как человек, который держит в голове краткий пересказ книги, а не перелистывает ее с начала при каждой странице. По словам разработчиков, GigaChat 3.5 Ultra — одна из самых больших моделей с линейным вниманием среди всех, что выходили в опенсорс.

«Мы живем в момент, когда разрыв между человеком и возможностями ИИ резко сокращается. GigaChat 3.5 Ultra — наш шаг к тому, каким должен быть ИИ-инструмент для решения реальных задач: полноценный партнер, способный мыслить в логике конкретного процесса, а не просто отвечать на вопросы. Чтобы разработать такую модель, нужно постоянно экспериментировать и пробовать то, чего до тебя не делал никто — количество наших экспериментов выросло более чем вдвое, до 1500», — отметил Антон Фролов, старший вице-президент, руководитель блока «Развитие генеративного ИИ» Сбербанка.

Как добавили разработчики, при обучении модели акцент сделан на натуральных, созданных человеком текстах, прошедших многоуровневую классификацию и фильтрацию — собранный увеличенный датасет позволил достичь лучших метрик. Модель построена по архитектуре MoE (Mixture of Experts) и примерно вдвое компактнее предыдущей версии GigaChat Ultra, что снижает потребление вычислительных ресурсов и позволяет разворачивать ее на более доступном оборудовании.

Моделью GigaChat 3.5 Ultra может пользоваться любой желающий через ИИ-помощника ГигаЧат. В open source она бесплатно доступна разработчикам по всему миру для встраивания в свои сервисы и создания ИИ-агентов.

Изображение: создано с помощью ИИ / Freepik

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!