Иван Оселедец: если использовать ИИ правильно, можно делать то, чего невозможно было представить год назад

Спрос на научные исследования в сфере искусственного интеллекта неуклонно растет, и этой теме в России уделяется очень большое внимание.

Доктор физико-математических наук, профессор РАН, генеральный директор Института AIRI, профессор Сколтеха Иван Оселедец в интервью «Коду Дурова» рассказал, какие направления развития ИИ сегодня в фокусе у российских ученых, о взаимодействии науки, бизнеса и государства в этой области и о том, как сегодня происходит взаимодействие на международном уровне.

— Перед нашим интервью я выгрузил небольшую статистику о том, что в 2022 году в России зарегистрировали 138 патентов в области искусственного интеллекта. За 2023 год такой статистики, к сожалению, пока нет. На ваш взгляд, эта цифра стала больше?

— На самом деле искусственный интеллект сейчас развивается бешеными темпами, с этим сложно спорить. Исследования идут в двух направлениях — фундаментальные и прикладные (ОКР, НИОКР и т.д.). Фундаментальные исследования в конечном итоге становятся публикациями на конференциях A* по тематике искусственного интеллекта — как раз то, чем мы гордимся, — либо патентами.

Отвечаю на ваш вопрос: на мой взгляд, конечно, количество патентов выросло. Сколько из них реально работает и приносит какую-то пользу, мне сказать сложно. Но одно могу сказать точно — и у нас в стране, и во всем мире в сфере ИИ лучше всего работает механизм ноу-хау, а не патентной защиты.

— Что это значит?

— Если чуть-чуть углубиться в детали, то патентуются системы с элементами искусственного интеллекта. А математические вычисления и алгоритмы, которых очень много в сфере ИИ, в общем-то зачастую не патентуют. Как пример можно привести Google, который пытался запатентовать нейросети. У них есть кейсы успешного получения нескольких патентов, но, на мой взгляд, это странно, потому что ими все пользуются. Те, кто имеет представление о том, как это работает, создают свои модели. Запатентовать способ, с помощью которого люди строят модели ИИ, с формальной точки зрения можно, но лучше патентовать уже какое-то более совершенное решение, которое будет создано на основе этой модели.

Дело в том, что один разработчик искусственного интеллекта от другого отличается, грубо говоря, только опытом. У них может быть одна и та же задача, одни и те же данные, даже плюс-минус одни и те же методы, но у одного всегда результат будет на 1-2% лучше, чем у другого. Эти 2% могут переводиться в гигантские деньги или, наоборот, стать причиной огромной ошибки: представьте себе погрешность в 1-2% в сфере медицины — это может обернуться очень плохо. Поэтому в основном подход такой: «Я могу решить эту задачу, но я не буду вам рассказывать, каким способом я её решил».

— Как вы считаете, на каком месте сейчас находится наша страна в сфере научных изысканий, связанных с искусственным интеллектом?

— Научная область изучения искусственного интеллекта отличается от других. В первую очередь тем, где и как предоставляются результаты этой деятельности. На конференции A* попасть очень сложно. Из 10 тыс. статей принимается 10-15%. Как раз по количеству таких статей можно измерять заметность страны в мире. Мы сейчас, наверное, в топ-20 попадаем, но видно, что число таких статей растет. Если лет 10 назад у нас было, может быть, 4-5 статей в год, то сейчас это уже десятки, если не сотни. Хотя, безусловно, надо больше.

— А этот рост связан с большим интересом к теме искусственного интеллекта в нашем научном сообществе или это мировые тренды, которым Россия старается соответствовать?

— Естественно, мировой тренд развития искусственного интеллекта отражается и на России — в эту область начали в разы больше инвестировать, стали создавать центры искусственного интеллекта. Мне кажется, в любом университете есть центр искусственного интеллекта, у некоторых даже несколько. Существует огромный спрос на исследования, даже несмотря на то, что это крайне затратная история, причем как с точки зрения человеческих ресурсов, так и с точки зрения вычислительных мощностей. Теме ИИ уделяется очень много внимания на государственном уровне и бизнес очень активно развивает эти компетенции. Поэтому возросший интерес к теме ИИ — это совокупность факторов.

— Вы сказали, что есть различные научные центры, в том числе при вузах. Насколько вы можете оценить интерес молодого поколения к теме искусственного интеллекта и их потенциал?

— Потенциал наших молодых ученых всегда был высоким. Как человек, который много взаимодействует с международными организациями, я знаю, с каким удовольствием зарубежные университеты берут наших студентов. У нас очень сильная базовая фундаментальная математика, физика. Есть всё, что нужно, чтобы развивать искусственный интеллект.

Сегодня в России много сильных научных групп, которые работают в области компьютерного зрения, обработки естественного языка, робототехники. Но зачастую количество задач и проектов существенно больше, чем людей. Запрос на специалистов очень большой.

— Вы назвали несколько направлений ИИ. Какие из них наиболее популярны сейчас?

У нас в AIRI основное направление — это развитие сильного искусственного интеллекта. Сейчас ИИ умеет видеть, читать тексты, слышать. Но мы работаем над тем, чтобы ИИ был мультимодальным — способным одновременно и картинку понимать, и дать к этой картинке текстовое описание, а ещё после этого рассказать, почему он дал именно такое объяснение. Мне кажется, в этом направлении будет происходить много интересного в ближайшее время.

— Раз уж мы заговорили про сильный искусственный интеллект или общий, как его иногда тоже называют, насколько мы приблизились к созданию реального AGI, и какой ваш прогноз?

— Прогнозы — дело неблагодарное, но, скажем так, если бы меня спросили где-то год назад, я бы сказал, что ещё много лет, но сегодня стало совершенно очевидно, что мы гораздо ближе к AGI, чем нам казалось. Сегодня системы уже более-менее становятся похожими на человека в различных задачах. Если использовать ИИ правильно, можно делать то, чего совершенно невозможно было представить ещё год назад. Прогресс в этом смысле совершенно потрясающий.

— То есть я правильно понимаю, что GPT-3, GPT-4 — это некая предтеча к созданию AGI?

— Да, это реальность. Ну и у нас есть достаточно неплохие модели, которые решают те же задачи. Конечно, пока такой ИИ не может сам принимать решения, но если мы говорим о каких-то рутинных задачах, будь то написание текста или какое-то планирование, то эта штука может выполнять их не хуже человека. Многие вещи мы можем автоматизировать.

— А как вы относитесь к появлению профессии prompt-инженер?

— В ближайшей перспективе такие люди будут очень востребованы, потому что правильный запрос к модели сильно влияет на качество её работы и результат. И, скорее всего, с добавлением новых, более сложных задач такая инженерия будет необходима. Я думаю, каждый человек, который в этой области работает, станет немножко prompt-инженером, и поэтому на отдельных людей, которые умеют делать только это, я бы не ставил. Люди должны адаптироваться к новым технологиям, а если вы начинаете пользоваться инструментом, не умея делать это правильно, то результаты будут соответствующими.

— Для оценки научной деятельности принято применять Индекс Хирша. Какой он у нашей страны?

— Таких данных у меня нет. Но вообще, когда вся эта история с наукометрией становится самоцелью, у многих сразу возникает острое ощущение заняться приписками и, условно говоря, процитировать самого себя по 10 раз. К этим всем числам надо относиться с правильной долей скептицизма. Хотя каждый учёный, безусловно, радуется, когда его Индекс Хирша растет. Я, к примеру, радуюсь, что накануне мой Индекс вырос до 54. Это классный результат. Нужно стремиться всегда улучшить свои позиции в рейтингах, но, повторюсь, это не должно быть самоцелью.

Вместе с тем важно понимать, что эти показатели всё же влияют на некоторые аспекты. Часто люди приходят в компании, говоря, что они крутые исследователи, но когда обращаешься к цифрам, а там что-то очень не выдающееся, возникает вопрос: «А что подтверждает реальную экспертизу этого соискателя, особенно если он работал в науке?». Поэтому цифры имеют значение, но на них не нужно зацикливаться.

— Мы с вами говорим про научные статьи в области искусственного интеллекта. Давайте приведем несколько примеров, может быть, из вашей практики. О чём они?

— Основную известность, в том числе международную мне принёс «Тензорный поезд». Вообще, хочу отметить, что в науке очень важен маркетинг — если ты своё исследование хорошо и ёмко назвал, то люди про него тоже начинают чаще и охотнее говорить. Вкратце об этом исследовании: допустим, у нас есть какая-нибудь величина, которая зависит от большого количества параметров (возраст, вес и ещё что-то). И если каждый параметр принимает 10 значений, то возникает многомерный массив, который называется «тензор». Нам удалось из научного интереса предложить новый способ представления таких массивов. Получилась чисто теоретическая работа с некоторыми примерами. Потом оказалось, что этот способ настолько простой, что зачастую работает гораздо эффективнее, чем те же самые нейросети. Люди использовали его во всяких биологических, химических задачах, недавно мне писали физики, которые с его помощью посчитали какую-то проводимость. Лет через 6-7 после статьи про способ узнали люди, которые занимаются машинным обучением, искусственным интеллектом, и использовали «Тензорный поезд» для уменьшения модели — то есть модель становится меньше, а точность не падает. И так далее.

Надо сказать, что сама область искусственного интеллекта немножко не похожа на классические области научного знания. Если человек занимается физикой высоких энергий, то он полностью погружён в этот процесс и всецело занимается только ей. В ИИ ситуация меняется настолько быстро, что надо адаптироваться. Всё состоит из большого количества маленьких интересных результатов — ты нашёл задачу, решил её, опубликовал, пошёл дальше. Результат может стать неактуальным уже через полгода. И задача исследователя –– из таких маленьких результатов собрать что-то интересное. Например, мы искали подходы, которые ломают нейронные сети — изменяли пару точек на картинке, чтобы ИИ перестал понимать, что там нарисовано. Это очень важно для безопасности. Мы использовали всякие хитрые математические подходы, чтобы оценивать качество сгенерированных картинок.

Сейчас мы активно работаем над генеративным искусственным интеллектом. Не только для того, чтобы генерировать лица и очки с усами туда приделывать, а для более масштабных задач. Например, для использования в промышленности — генерировать какие-нибудь детали или свойства микроструктур, анализировать их прочность и так далее. Таких историй могу рассказать очень много. Этим занимаются большие команды людей.

— Не могу не спросить про поддержку от государства. Наверняка же есть определенные программы, гранты или ещё что-то, в рамках которых работают ваши коллеги. Как сейчас происходит взаимодействие в области ИИ с государством?

— Мне, на самом деле, грех жаловаться. Я свою активную научную деятельность начал, если считать с магистратурой, в 2005 году. И уже тогда были инструменты поддержки российских фундаментальных исследований. Как сейчас помню, мы получили грант в размере 600 тыс. руб., по-моему, на коллектив из 10 человек. Не такие, кстати, маленькие деньги для науки в то время, но его было очень сложно получить.

В 2009 году появилась программа по подготовке кадров, где давали гранты аспирантам и молодым кандидатам наук. Там была тяжелейшая бюрократия, плеваться хотелось, но зато это были действительно суммы в 10 раз большие, чем до этого давало государство. А самое главное — оказалось, что это действительно работает. Всеми этими инструментами я пользовался потом, в 2013 году, когда открылся Сколтех и меня туда пригласили. Стояла задача создать новый университет с нормальными конкурентоспособными зарплатами.

Сейчас основным механизмом поддержки науки в нашей сфере являются центры искусственного интеллекта. Их, по-моему, сейчас в России двенадцать. Конечно, не обходится без бюрократии, но без неё никуда. Вместе с тем, государство понимает, что в это направление надо инвестировать через разные инструменты, и эти инвестиции растут год от года.

Второй момент, который хотелось бы отметить, это взаимодействие науки с бизнесом. Почти все разработки в области искусственного интеллекта довольно сильно востребованы бизнесом. Основная проблема заключается в том, как правильно выстроить взаимодействие между государством, бизнесом и наукой. О чём я говорю?

Например, государство финансирует учёных, учёные создают технологию третьего уровня, условно говоря, прототип, а бизнес ждёт коробочное решение уровня 6, 7, или 8. Возникает огромный пробел, который очень трудно восполнить. В качестве одного из вариантов исправления этой ситуации можно предложить создание института вендоров, которые, грубо говоря, будут брать решение университета, дорабатывать его и передавать в компании.

Например, в Китае на 1 юань государственных средств приходится, по-моему, 4 юаня частных средств, то есть инвестиций бизнеса. У нас соотношение сильно не в пользу бизнеса. Плюс некоторые компании предпочитают хватать студентов на первых-вторых курсах и давать им зарплаты больше, чем у преподавателей. Естественно, система науки ломается, а подготовка кадров начинается в тех местах, где могут студентов удерживать, платить нормальные деньги. В этом направлении нам ещё есть над чем работать.

— В нынешних реалиях институт вендоров был бы очень классным решением.

— Так делают многие страны, а не как у нас сейчас происходит: «Вот вы в своём этом университете доработаете до конца всё решение, а мы, может быть, его купим». Конечно, есть и другие способы создавать решения в области ИИ. Существуют хорошие примеры, когда государство инвестировало в создание новых научных коллективов, а потом эти коллективы целиком организовывали либо отдельные компании, либо переходили в крупный бизнес. Взять хотя бы одну из команд в СберМедИИ. Ребята разработали алгоритм, собрали людей в университете и целиком перешли в компанию, которая сейчас разрабатывает решения для медицины. Но таких историй не так много.

— Как сегодня в сфере искусственного интеллекта происходит международное взаимодействие? Насколько часто вы общаетесь со своими коллегами за рубежом?

— Я всегда говорю, что наука должна быть международной. Сотрудничество крайне важно. К сожалению, современное политическое устройство мира таково, что некоторые люди этому пытаются противодействовать. С моей точки зрения, всё, что изменилось, это время полёта до Европы. Но я заметил, что это плохо влияет на молодых учёных. В науке, если ты не знаком с учёными из области, в которой работаешь, ты теряешь не только знание о том, что ты делаешь, но и часто теряешь большую часть удовольствия от того, что происходит в твоей сфере.

Сначала covid, когда фактически ни на одной конференции люди не смогли выступить, теперь нет-нет да слышны голоса адептов «отмены». Тем не менее у нас продолжается совместная работа, в том числе с европейскими учеными. Нас приглашают на конференции. Мы продолжаем писать статьи, общаться с коллегами. Учёные все-таки понимают друг друга.

Жизнь не стоит на месте. Да, есть проблемы с поездками в США, но недавно мы были на конференции в Саудовской Аравии –– там большой интерес к теме ИИ. Огромный интерес из Китая. С коллегами из Поднебесной работать непросто, например, с точки зрения культурных и языковых барьеров, но мы довольно много работаем с китайскими компаниями. Просто это по-другому.

Конечно, в 2022 году международное взаимодействие чуть просело, но сейчас уже восстанавливается. Надо обязательно участвовать во всех международных конференциях, писать в международные журналы. Не пускают куда-то? Надо делать и свои конференции и приглашать на них международных учёных. Вместе с тем, учёные, конечно, живут в своём мире. Иногда доходит до смешного — говоришь коллеге из условного Парижа, что, мол, до вас теперь лететь не 3 часа, а 10. В ответ он интересуется: «Да? А что случилось?».

— Иван, и завершить наше интервью хотелось бы коротким вопросом и, наверное, коротким на него ответом. Искусственный интеллект в России — это …?

— На это коротко не ответить, но я попробую. На мой взгляд, это, конечно, наша фундаментальная, математическая и физическая школа, которая переориентировалась сейчас на создание моделей искусственного интеллекта. В первую очередь я говорю про сильный искусственный интеллект. Мне кажется, у нас никогда этим напрямую так активно не занимались, но если мы за это дело возьмёмся, то можем сделать это лучше всех.