Сбер представил нейросеть, способную генерировать тексты на 61 языке мира
16:45 21.04.2022
SberDevices представила многоязычную версию нейросети GPT-3: модель под названием mGPT может генерировать тексты на 61 языке мира, включая языки народов России и стран СНГ. mGPT – первая в мире генеративная модель, которая поддерживает такое количество языков. Она доступна в двух версиях: базовой, с 1,3 млрд параметров, опубликованной в открытом доступе в облачном хранилище СберДиск, и расширенной, с 13 млрд параметров, которая скоро станет доступна на платформе машинного обучения ML Space от SberCloud.
Модель mGPT может использоваться как просто для генерации текста, так и для решения различных задач в области обработки естественного языка на одном из поддерживаемых языков путем дообучения или в составе ансамблей моделей. Модель показывает выдающиеся результаты на многих задачах few-shot и zero-shot learning. В этой области машинного обучения не требуется отдельно доучивать модель, достаточно сформулировать задачу текстом и привести несколько примеров, после чего mGPT научится выполнять новую задачу. Это может использоваться для того, чтобы научить автоматизированную систему отвечать на вопросы, определять эмоциональную окраску текста, извлекать из текста имена, фамилии, названия компаний и т. п. Модель может также использоваться как компонент различных речевых технологий – например, для улучшения качества распознавания речи, генерации сценариев диалоговых систем и т. д.
«В 2020 году мы представили русскоязычную версию нейросети GPT-3, именно она используется в двух виртуальных ассистентах семейства Салют от Сбера – Джой и Афине. Мы продолжили развивать наши NLP-технологии и представили модель mGPT, поддерживающую более 60 языков, при этом для многих из них ранее генеративных моделей просто не существовало. Это среди прочего станет нашим вкладом в сохранение и развитие языков народов России: mGPT умеет генерировать тексты, например, на татарском или якутском», – отметил CEO SberDevices, вице-президент по новым цифровым поверхностям Салют Сбербанка Денис Филиппов.
Русскоязычная версия GPT-3, разработанная Сбером, доступна на платформе SmartMarket.
Комментарии отключены - материал старше 3 дней
Новости
- 21:20 15.06.2024
- Властям Украины придется дать бронь от мобилизации части работников сельского хозяйства
- 18:15 15.06.2024
- Шведские военные заявили, что российский Су-24, якобы, нарушил воздушное пространство страны
- 17:08 15.06.2024
- Премьер Италии собирается в Пекин и хочет «сделать это побыстрее»
- 15:20 15.06.2024
- Никаких посланий участникам встречи по Украине в Швейцарии Россия передавать не будет - Песков
- 13:08 15.06.2024
- Британцы опасаются, что китайцы могут встроить следящие устройствав кокарды для головных уборов
- 11:50 15.06.2024
- Канцлер ФРГ о новых антироссийских санкциях: Мы их не блокируем
- 11:30 15.06.2024
- Шольц считает, что предложение Путина по Украине «не было сделано всерьез»
- 09:53 15.06.2024
- Очередной пакет санкций против РФ тормозится властями Германии - СМИ
- 09:15 15.06.2024
- Подлодку ВМС США в территориальные воды Кубы не приглашали – МИД республики
- 09:00 15.06.2024
- Погранслужба Украины фиксирует рост групп уклонистов, пытающийся пересечь границу
комментарии(0)