8 февраля 2025

eur = 100.68 -2.25 (-2.18 %)

btc = 96 113.00$ -1 121.90 (-1.15 %)

eth = 2 625.15$ -81.39 (-3.01 %)

ton = 3.70$ -0.04 (-1.20 %)

usd = 96.91 -1.15 (-1.17 %)

eur = 100.68 -2.25 (-2.18 %)

btc = 96 113.00$ -1 121.90 (-1.15 %)

Форум

OpenAI выпустила сервис для выявления текстов, написанных ChatGPT

1 минута на чтение
OpenAI выпустила сервис для выявления текстов, написанных ChatGPT

Компания OpenAI объявила о выпуске сервиса, который способен выявлять тексты, сгенерированные с помощью нейросетей, включая собственную разработку компании – ChatGPT.

Запущенный классификатор призван помочь выявлять использование ИИ для распространения дезинформации, а также злоупотреблений в сфере образования.

Однако в компании отметили, что классификатор не является полностью надёжным инструментом. В ходе тестов компании он правильно определил 26% написанных ИИ текстов. Однако, в 9% случаев он ошибся и назвал текст, написанный человеком, как сгенерированный нейросетью.

Уточняется, что степень точности классификатора повышается по мере увеличения длины проверяемого текста. Классификатор будет общедоступен для всех пользователей, сейчас компания собирает отзывы об инструменте.

Принцип работы классификатора пока не описывается подробно. Однако, эксперты института искусственного интеллекта AIRI считают, что распознавание сгенерированных текстов происходит с помощью скрытых стилистических приёмов нейросети, которые служат водяными знаками в тексте.

Вероятнее всего, решение системы уже сейчас базируется на наличии так называемых скрытых водяных знаков (watermark), о которых недавно рассказывал специалист отдела безопасности ИИ в OpenAI.

Watermark для текстов строятся с помощью криптографических функций. Известно, что человек, как и нейросеть, генерирует фразы следуя некоторому статистическому шаблону. Именно наличие этих специфичных шаблонов можно использовать как водяные знаки.

При генерации нового символа, в модели присутствует некоторая случайность («псевдослучайность») для того, чтобы ответы на один и тот же запрос были разнообразными. При генерации символов можно использовать эту псевдослучайность для определения специфичного порядка расстановки слов и символов в сгенерированном тексте, характеризующего контент, созданный сетью, – заявил научный сотрудник Института искусственного интеллекта AIRI, Елизавета Гончарова.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
6bbde2b8-1eaf-4f0d-bd91-b26be429fb38-изображение-0c5403e0a-fe0d-4d7a-b110-f4475bf6be47-изображение-1

GigaChat Max: коротко о главном

NASA впервые проведёт прямую трансляцию с МКС на Twitch

Полная версия 
0a55d2a3-5382-46ab-accc-97112f68adcc-изображение-0

GigaChat Max: коротко о главном

Яндекс проведёт фестивали «Игромир» и Comic Con Russia

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 312
Газпромбанк
X5 Tech
МТС
Т-Банк
Сбер
билайн
Яндекс Практикум
Ozon Tech
Циан
Банк 131