1 июля 2025

eur = 92.28 0.62 (0.67 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

eth = 2 479.03$ -23.61 (-0.94 %)

ton = 2.88$ -0.01 (-0.39 %)

usd = 78.47 0.26 (0.33 %)

eur = 92.28 0.62 (0.67 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

NVIDIA представила чат-бот без подключения к интернету — он бесплатный

1 минута на чтение
NVIDIA представила чат-бот без подключения к интернету — он бесплатный

Новая программа для ПК с видеокартами RTX получила название Chat with RTX.

Она представляет собой аналог ChatGPT, который включает в себя генеративный ИИ на основе большой языковой модели. Программа позволяет запускать одну из доступных языковых моделей — Mistral или Llama 2.

  • Chat with RTX не требует выхода в Сеть, и в отличие от ChatGPT и прочих аналогов запускается на компьютере локально.
  • Чат-бот даёт ответы на вопросы при помощи анализа локальных документов, сохранённых на ПК — ему можно выдать доступ к нескольким форматам документов: txt, pdf, doc, docx и xml.
NVIDIA представила чат-бот без подключения к интернету — он бесплатный
Изображение: The Verge
  • Более того, он также способен анализировать данные из YouTube-роликов — для этого следует ввести URL-адрес, после чего будет в виде текста отображено краткое содержание видео.
  • Для работы чат-бота требуются тензорные ядра RTX — они применяются для ускорения обработки запросов.
  • Чтобы использовать Chat with RTX, нужно иметь на компьютере операционную систему Windows 11, не менее 16 ГБ ОЗУ, а также видеокарту линейки RTX 30 или 40 с 8 ГБ видеопамяти.

В The Verge отметили, что программа всё ещё кажется недоработанной, однако она может стать полезной для журналистов или тем, кто исследует пакеты документов. Chat with RTX действительно удобен в том числе для поиска конкретных деталей в видео, но есть нюансы:

Однако для поиска видео на YouTube он не подходит. Я попытался найти содержание видео The Verge на YouTube, а Chat with RTX загрузил транскрипт совершенно другого ролика. Это был даже не тот ролик, который я запрашивал ранее, так что в этой ранней демо-версии явно есть ошибки.

В остальном программа работает достаточно шустро, например, журналисту было легко получить релевантный и структурированный набор данных по судебным документам в деле FTC против Microsoft — вручную эта задача, по его мнению, казалась непосильной.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
694a2677-9fab-4232-b168-4b6b694a1fc8-изображение-0

GigaChat Max: коротко о главном

Мобильную связь отключат иностранцам, не сдавшим биометрию

Полная версия 
e29d9ca2-1485-4dfd-aff9-5aa28e2598f7-изображение-07c067629-adc2-41f3-9d80-3eec9046850b-изображение-1

GigaChat Max: коротко о главном

Юристы объяснили, что не так с штрафами за размещённую ранее в запрещённых соцсетях рекламу

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 367
Т-Банк
X5 Tech
Газпромбанк
билайн
Сбер
МТС
Яндекс Практикум
Ozon Tech
Циан
Банк 131

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы