15 июля 2025

eur = 91.77 0.65 (0.72 %)

btc = 116 470.00$ -3 411.72 (-2.85 %)

eth = 3 043.95$ 45.62 (1.52 %)

ton = 3.02$ 0.01 (0.17 %)

usd = 78.37 0.49 (0.62 %)

eur = 91.77 0.65 (0.72 %)

btc = 116 470.00$ -3 411.72 (-2.85 %)

Сбер выложил в открытый доступ русскоязычную текстовую ИИ-модель ruGPT-3.5

1 минута на чтение
Сбер выложил в открытый доступ русскоязычную текстовую ИИ-модель ruGPT-3.5

Сбер открыл доступ к нейросетевой модели генерации текста для русского языка ruGPT-3.5 13B.

Её дообученная версия лежит в основе сервиса GigaChat. Также банк выложил новую версию модели mGPT 13B — самую большую из семейства многоязычных моделей Сбера, способную генерировать тексты на 61 языке.

Russian Generative Pretrained Transformer версии 3.5 (ruGPT-3.5 13B) — новая версия нейросети ruGPT-3 13B. Это современная модель генерации текста для русского языка на основе доработанной исследователями Сбера архитектуры GPT-3 от OpenAI. Модель ruGPT-3.5 13B содержит 13 млрд параметров и умеет продолжать тексты на русском и английском языках, а также на языках программирования.

Обучение модели производилось в два этапа. Первый этап продлился 1,5 месяца — за это время платформа обработала 300 Гбайт данных: книги, энциклопедийные и научные статьи, социальные ресурсы и другие источники. Потребовались ресурсы 512 ускорителей NVIDIA V100. На втором этапе проводилось дообучение на 110 Гбайт данных из датасета The Stack, юридических документов и обновлённых текстов «Википедии» — это заняло три недели и потребовало 200 ускорителей NVIDIA A100.

Модель доступна на HuggingFace, её могут использовать все разработчики.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
Cyberpunk 2077 выйдет на macOS 17 июляCyberpunk 2077 выйдет на macOS 17 июля

GigaChat Max: коротко о главном

Cyberpunk 2077 выйдет на macOS 17 июля

Полная версия 
Эксперты раскрыли многомилионные доходы сайтов с нейросетями для «раздевания»Эксперты раскрыли многомилионные доходы сайтов с нейросетями для «раздевания»

GigaChat Max: коротко о главном

Эксперты раскрыли многомилионные доходы сайтов с нейросетями для «раздевания»

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Новости
Карьера
Блоги 377
OTP Bank
Газпромбанк
Сбер
Т-Банк
X5 Tech
билайн
МТС
Яндекс Практикум
Ozon Tech
Циан

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы