Команда разработчиков «Сбербанка» представила новую версию чат-бота GigaChat. В скором времени доступ к API новой версии этого программного продукта получат корпоративные клиенты, а также участники академического сообщества. Инструмент позволит на базе GigaChat создавать разнообразные решения для бизнеса, а также проводить научные исследования.
В рамках международной конференции по искусственному интеллекту AI Journey разработчики «Сбера» анонсировали новую версию русскоязычного чат-бота GigaChat. Главная особенность разработки – использование одной из самых продвинутых больших языковых моделей (LLM) для русского языка, в которой содержится около 29 млрд параметров.
Использование новой LLM позволяет чат-боту лучше следовать инструкциям и выполнять сложные задания. Благодаря этому существенно повысилась качество суммаризации, рерайтинга, редактирования текстов и ответов на различные вопросы.
Разработчики сравнили ответы новой и предыдущей моделей и зафиксировали общее повышение качества на 23%. В дополнение к этому с фактологией новая модель справляется на 25% лучше предшественницы.
Для повышения качества работы LLM было проведено множество экспериментов по наращиванию эффективности её обучения. К примеру, использовался фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, за счёт чего удалось сократить потребление памяти на них. Результат внутренней оценки в бенчмарке Massive Multitask Language Understanding показал, что версия GigaChat с 29 млрд параметров превосходит самый популярный открытый аналог LLaMA 2 34B.
«Обучение моделей, лежащих в основе GigaChat, — это масштабный и сложный вычислительный проект, прежде мы не делали ничего подобного. Суммарное количество вычислительных операций почти в 6 раз превысило количество операций при обучении модели ruGPT-3 с 13 млрд параметров в 2021 году. Также специально для GigaChat мы собрали и развиваем уникальный датасет, над которым работают сотни сотрудников «Сбера», помогая развивать и улучшать качество ответов в самых разных доменах. Благодаря этим усилиям пользователи с каждым новым релизом GigaChat получают максимум от сервиса для решения своих задач», — отметил Андрей Белевцев, старший вице-президент, руководитель блока «Технологии» Сбербанка.