«ИИ становится похож на Гомера Симпсона»: в чём его главная проблема? Репортаж с Data Fusion 2024

Искусственный интеллект отличается от естественного — по крайней мере, пока. Но чем? И можно ли сократить этот разрыв между ИИ и человеческим разумом?

Этой теме была посвящена не одна пленарная сессия и не один доклад на конференции Data Fusion 2024, на которой мы были. Послушали спикеров и готовы поделиться интересными мыслями.

ИИ — имитация интеллекта?

Путешествие по залам конференции мы начали с выступления Константина Воронцова. Он представился как «тот самый чел, лекции которого многие из вас смотрели на YouTube» — отличное начало доклада, получившего название «Машина, будь человеком». На самом деле, он доктор физико-математических наук, профессор РАН, руководитель лаборатории машинного обучения и семантического анализа ИИИ МГУ — внушает доверие.

Сейчас ИИ развился так, что модели спрогрессировали сами по себе — они научились тем вещам, которым их не учили. Языковые модели не учили решать математические задачи или писать эссе, но они это умеют. Кроме того, нейронки научились исправлять свои ошибки: если нейросеть неверно решила задачу, а пользователь указал на это и попросил привести решение в двух шагах, она исправит ошибку и решит задачу в два шага. Мы доверяем моделям, и нам кажется, что за нейросетью стоит человек с определёнными взглядами, предубеждениями и так далее. Всё потому, что раньше мы не могли говорить с машинами на естественном языке.

Объём знаний в наше время растёт экспоненциально — и это мешает нам развиваться. К тому же, не стоит забывать о недостоверности информации, а также о сложности в отличии важного от второстепенного. А как структурировать эти данные? Один из лучших вариантов — использовать карты, что даст свободный и быстрый доступ к знаниям как коллективному интеллекту, так и машинному. Интеллект-карты (mind map) — способ визуализировать то, как темы разбиваются на подтемы в иерархии. Эти карты нацелены на повышение эффективности понимания и систематизации знаний.

Интеллект-карты должны привести к картам знаний. Карта знаний отличается тем, что комментарии автора необязательны, а карта способна «жить своей жизнью». При этом считается, что начинать такие карты нужно именно с центра — так их проще читать. Воронцов уточнил, что это не «Википедия», а весь его доклад и был построен по принципу карты знаний — всё можно было бы понять и без спикера. При помощи карт было бы гораздо проще обучать большие языковые модели.

Нынешняя проблема обработки знаний — необходимость кодировать и декодировать текст. Мысль составляется в буквы, слова и предложения — и только в таком виде другой человек может её воспринять. Это невероятно долго для нынешнего потока информации, и это тормозит весь прогресс, считает Константин. Если у нас есть проблема с передачей информации друг другу, то «от нейросетей мы ждём чего? Вопрос риторический». Поэтому так важно развивать свой интеллект.

Искусственный интеллект становится похожим на Гомера Симпсона

Ещё одна интересная тема, которую подняли на одной из дискуссионных сессий, — можно ли мыслить без знания языка? Ответ прост: мышление же есть у животных, а языка у них нет. Другое дело — есть языковая форма мышления, но даже у человека в ряде случаев мыслительные операции проходят сначала зрительными образами и ассоциациями, и только потом находятся словесные выражения для этих вещей.

С другой стороны, говорят про национальный менталитет в способе мышления. Конкретная языковая система может модулировать мышление в определённых ситуациях. Естественно, языки отличаются друг от друга. Например, в некоторых языках нужно добавлять к ситуации суффикс, означающий, видели вы что-то сами, слышали от кого-то или сделали логический вывод. Это влияет на то, как человек мыслит.

Специалист в области психо- и нейролингвистики, директор Центра языка и мозга и профессор факультета гуманитарных наук НИУ ВШЭ Ольга Драгой рассказала об интересном эксперименте, заключающемся в том, как ведёт себя человек в зависимости от языка. Если на экране высветится глагол в прошедшем времени, вы, вероятно, нарисуете в голове таймлайн и разделите его на отрезки «прошлое», «настоящее» и «будущее». Было установлено, что дрифт зрачков русскоговорящих людей смещается влево, когда люди думают о прошлом. А если глагол в прошедшем времени показать тем, кто пишет на иврите, где направление письма справа налево, то и зрачок сдвинется немного правее.

Возвращаясь к теме нейронных сетей, те технологии, которые появились за последние два года, уже в большей степени можно назвать искусственным интеллектом. Нынешние нейронки можно поставить в ситуации, в которых они никогда не были, и они попробуют найти решение. Можно ли это назвать мышлением? Отчасти. Всё дело в том, что языковые модели лишь имитируют язык и перенимают особенности человеческой логики. Интеллектом это назвать сложно. Именно поэтому один из спикеров сравнил ИИ с Гомером Симпсоном. В шутку, конечно же. Не стоит забывать, что ИИ — это не игрушка, он имеет практическое применение и может приносить пользу.

Как считает Воронцов, обучение по терабайтам текстов — это тупиковый путь, потому что они чрезмерно избыточны, неточны и противоречивы. На поведении языковых моделей мы увидели проявление свойств накопленного человеческого знания в текстовом виде. Это мешает нам находить единомыслие, у каждого своя фрагментированная картина мира, и все эти недостатки переносятся и на искусственный интеллект.

Соответственно, задача учёных и программистов — реструктурировать человеческие знания, сжать их в десятки тысяч раз, и уже по этому знанию обучать большие языковые модели. Если мы научимся выстраивать структуры, где мы выделяем главное, и обучим модели по этим структурам, то модели будут понимать, что для человеческого мозга считается главным, а что — второстепенным. Это позволит повысить качество работы с ИИ и сделает коммуникацию удобнее для пользователей.

Искусственный интеллект — всё ещё помощник, а не полноценный собеседник. Он умеет говорить на языке грамматически правильно, но ему не хватает знаний и факт-чекинга, что делает из ИИ «довольно среднего собеседника», подчеркнула Ольга Драгой.

Уже пора бояться? Или ещё нет?

Подводя итог дискуссиям в ходе Data Fusion, хочется привести результаты интересного исследования ВТБ: более половины россиян считают, что человечество вскоре не сможет жить без ИИ. У большинства искусственный интеллект вызывает интерес, хотя многие опасаются безработицы и угрозы физического вреда.

67% опрошенных уверены, что без технологий искусственного интеллекта не обойтись, и 39% опрошенных переживают, что их профессию заменят нейросети и алгоритмы. Опрос проводился в возрастных группах от 18 до 60 лет среди жителей городов, население которых превышает 100 тысяч человек.

Занимательно, что почти половина опрошенных опасается нейросетей, но 51% респондентов не смогли выбрать верное определение ИИ из предложенных вариантов. Люди недостаточно осведомлены в сфере нейросетей, в связи с чем и появляются опасения — человек боится неизвестности.

Рано или поздно технологии машинного обучения будут доминировать в большинстве окружающих нас сервисов. Но живой разум такие технологии никогда не смогут заменить, — руководитель департамента анализа данных и моделирования банка ВТБ Максим Коновалихин.

Ключевое отличие человека от робота — его способность принимать нестандартные решения в новых ситуациях. Поэтому поручить рутинные задачи нейросетям — неплохой вариант, но контролировать искусственный интеллект всё равно нужно, считает Максим.

Словом, бояться искусственного интеллекта и нейросетей не стоит — по крайней мере, до тех пор, пока мы всё ещё обмениваемся знаниями через слова. ИИ не заменит людей, но точно изменит процессы.