Новые увеличенные версии модели нейросетей ruCLIP Сбера размещены в открытом доступе

На портале GitHub выложена линейка моделей ruCLIP, позволяющая ранжировать изображения и подписи к ним на русском языке, а также оценивать семантическу близость изображений и текстов. Модели разработаны командами Sber AI и SberDevices в дополнение к ранее опубликованной модели ruCLIP Small.  «Экосистема Сбера является одним из лидеров в области ML-решений — уже сегодня мы предлагаем разработчикам, дата-сайентистам и представителям бизнеса всё больше инструментов и сервисов: от платформ для ML-разработки, как SberCloud ML Space, до законченных ML-решений, как SmartSpeech, - отмечает первый заместитель председателя правления Сбербанка Александр Ведяхин. - Также за последний год объединённые команды Sber AI и SberDevices выпустили ряд трансформерных моделей — ruGPT-3 & family, — среди которых и популярная text-to-image ruDALL-E. Модели занимают первые строчки рейтингов различных бенчмарков и, в отличие от большинства аналогичных решений, размещены в открытом доступе. Эксклюзивные промышленные модели доступны в DataHub SberCloud ML Space. Всё это позволяет решать бизнесу многие задачи для создания собственных прорывных продуктов на базе ML, ускорять time to market и снижать затраты на разработку».

Промышленные версии с наивысшим качеством и количеством параметров — ruCLIP Base exclusive и ruCLIP Large exclusive — доступны в хабе предобученных моделей, датасетов и контейнеров DataHub на платформе SberCloud ML Space.
Эти модели на ряде датасетов успешно обошли ансамбль оригинальной англоязычной модели CLIP и русско-английского переводчика. 

Успешное обучение ruCLIP и доступность моделей в open source позволит решать многие задачи компьютерного зрения в различных продуктах и сервисах в режиме zero-shot, то есть без необходимости дорогостоящего дообучения, сообщают разаботчики. В релизе шесть моделей ruCLIP, отличающиеся размером использованного патча (14×14, 16×16, 32×32) и размерами входных изображений (224×224, 336×336 и 384×384). Семантика названия моделей выглядит так:

-         ruclip-vit-base-patch16-224;

-         ruclip-vit-base-patch32-224;

-         ruclip-vit-base-patch32-384 — ruCLIP Base;

-         ruclip-vit-large-patch14-224 — ruCLIP Large;

-         ruclip-vit-large-patch14-336 — ruCLIP Large exclusive — доступна DataHub SberCloud ML Space only;

-         ruclip-vit-base-patch16-384 — ruCLIP Base exclusive — доступна в DataHub SberCloud ML Space only.

Посмотреть детальное сравнение всех шести новых обученных моделей можно в репозитории на GitHub.