20 июля 2025

eur = 91.08 0.11 (0.12 %)

btc = 118 217.00$ 413.80 (0.35 %)

eth = 3 555.99$ 8.48 (0.24 %)

ton = 3.17$ -0.05 (-1.69 %)

usd = 78.31 0.13 (0.16 %)

eur = 91.08 0.11 (0.12 %)

btc = 118 217.00$ 413.80 (0.35 %)

NVIDIA представила чат-бот без подключения к интернету — он бесплатный

1 минута на чтение
NVIDIA представила чат-бот без подключения к интернету — он бесплатный

Новая программа для ПК с видеокартами RTX получила название Chat with RTX.

Она представляет собой аналог ChatGPT, который включает в себя генеративный ИИ на основе большой языковой модели. Программа позволяет запускать одну из доступных языковых моделей — Mistral или Llama 2.

  • Chat with RTX не требует выхода в Сеть, и в отличие от ChatGPT и прочих аналогов запускается на компьютере локально.
  • Чат-бот даёт ответы на вопросы при помощи анализа локальных документов, сохранённых на ПК — ему можно выдать доступ к нескольким форматам документов: txt, pdf, doc, docx и xml.
NVIDIA представила чат-бот без подключения к интернету — он бесплатный
Изображение: The Verge
  • Более того, он также способен анализировать данные из YouTube-роликов — для этого следует ввести URL-адрес, после чего будет в виде текста отображено краткое содержание видео.
  • Для работы чат-бота требуются тензорные ядра RTX — они применяются для ускорения обработки запросов.
  • Чтобы использовать Chat with RTX, нужно иметь на компьютере операционную систему Windows 11, не менее 16 ГБ ОЗУ, а также видеокарту линейки RTX 30 или 40 с 8 ГБ видеопамяти.

В The Verge отметили, что программа всё ещё кажется недоработанной, однако она может стать полезной для журналистов или тем, кто исследует пакеты документов. Chat with RTX действительно удобен в том числе для поиска конкретных деталей в видео, но есть нюансы:

Однако для поиска видео на YouTube он не подходит. Я попытался найти содержание видео The Verge на YouTube, а Chat with RTX загрузил транскрипт совершенно другого ролика. Это был даже не тот ролик, который я запрашивал ранее, так что в этой ранней демо-версии явно есть ошибки.

В остальном программа работает достаточно шустро, например, журналисту было легко получить релевантный и структурированный набор данных по судебным документам в деле FTC против Microsoft — вручную эта задача, по его мнению, казалась непосильной.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
ИИ от OpenAI занял второе место на чемпионате по программированиюИИ от OpenAI занял второе место на чемпионате по программированиюИИ от OpenAI занял второе место на чемпионате по программированию

GigaChat Max: коротко о главном

ИИ от OpenAI занял второе место на чемпионате по программированию

Полная версия 
Геймерам могут запретить передавать аккаунты из-за нового закона

GigaChat Max: коротко о главном

Геймерам могут запретить передавать аккаунты из-за нового закона

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 379
OTP Bank
Газпромбанк
Сбер
Т-Банк
X5 Tech
билайн
МТС
Яндекс Практикум
Ozon Tech
Циан

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы