Евгений Черешнев: ИИ по степени влияния на человечество сопоставим с открытием атомной энергетики

Уровень развития технологий ИИ, в которые инвестируются огромные деньги, сильно превышает темпы, с которыми социум адаптируется к изменениям. При помощи ИИ можно за год создать бизнес-инструменты на ближайшие 20 лет и трансформировать все отрасли и сферы.

Так считает член Правления, Вице-президент по стратегии и инновациям ПАО «МТС» Евгений Черешнев. В интервью «Коду Дурова» он рассказал, почему нельзя тормозить инновации, о будущем ИИ в России и ответил на вопрос, что нужно, чтобы стать в этой сфере лучшими в мире.  

— В конце сентября глава OpenAI Сэм Альтман опубликовал эссе «Эра интеллекта», в нём он заявляет, что совсем скоро генеративный ИИ приведёт человечество к такому процветанию, о котором мы и не могли мечтать. Но взрывное развитие ИИ-технологий уже стало предметом беспокойства — ещё в 2023 году ведущие технические эксперты, в числе которых Илон Маск и Стив Возняк, подписали письмо о том, чтобы приостановить развитие ИИ. Глава OpenAI Сэм Альтман согласился с необходимостью повышения возможностей безопасности, но не согласился с паузой в развитии ИИ. Что вы думаете об этом?

— Альтман — специфический человек. Я считаю, что он не заслуживает слепого доверия сообщества. Дело в том, что, когда создавалась возглавляемая им OpenAI, одним из её инвесторов был Илон Маск. Когда Илон давал первые деньги, у них с Альтманом была договорённость, что компания будет работать исключительно в области фундаментальных научных исследований и перспективных инженерных разработок в области ИИ, которые будут доступны всему человечеству примерно так же, как сегодня всем нам совершенно бесплатно доступен исходный код Linux.

Маск настаивал на том, чтобы OpenAI не работал на максимизацию прибыли акционеров. Альтман согласился и взял деньги, причём не только у Маска, но в определённый момент переобулся и пошёл именно в жёсткую коммерциализацию ИИ, пустив в состав акционеров корпорацию-стратега (сделка с Microsoft — ред.). Безусловно, Маск не будет делать того, что ему невыгодно: он прекрасный маркетолог, и OpenAI в виде идеологического общественного движения ему была выгоднее, чем коммерческая корпорация, но его позиция по данному вопросу (что неравномерный доступ к этой технологии опасен) в моем представлении очень правильная.

Маск совершенно справедливо полагает, что в настоящий момент технологии развиваются в формате Injustice World (несправедливый мир), где ИИ может использоваться как оружие или инструмент доминирования в экономике, медицине, логистике и многих других областях. Перевод передовых разработок в области ИИ в разряд публичных — один из вполне практичных путей к выравниванию баланса, снижению риска «цифровой колонизации» в интересах одной конкретной страны.

Натан Ротшильд в своё время сказал: «Кто владеет информацией, тот владеет миром». Сегодня ИИ — это та самая информация, но на стероидах.

Если у тебя есть универсальное торговое предложение (УТП) в области ИИ, и ты им ни с кем не делишься, что, собственно, и происходит сегодня на примере OpenAI, то в какой-то момент ты придёшь к любой другой стране, у которой таких технологий нет, и скажешь: «У меня есть что-то, чего у вас никогда не будет, вы можете даже не начинать, потому что это стоит триллион. И даже если я сейчас дам вам триллион в виде займа, вы всё равно не добьетесь того, что сделал я. К тому же, пока вы будете меня догонять, я уйду вперед. Давайте работать со мной».

Альтман, на мой взгляд, алчно рвётся к власти и выступает за неравенство. Это подтвердилось и в ходе его выступления в Конгрессе, где он прямым текстом сказал: «Сенатор, я уверен, что США должны лидировать в мировом сообществе в вопросах ИИ». Более того, его подход явно не нравится некогда его единомышленникам: мы видим, как за последние несколько месяцев из его команды из-за разногласий ушли ключевые для проекта сотрудники —  Илья Суцкевер [Научный руководитель OpenAl] и Мира Мурати [Технический директор Open AI].

Уровень развития технологий ИИ, в которые инвестируются огромные деньги, сильно превышает темпы, с которыми социум адаптируется к изменениям. При помощи ИИ можно за год создать бизнес-инструменты на ближайшие 20 лет, трансформировать всё: от медицины до банковской деятельности, от воспитания детей до нутрициологии.

Можно создать ситуацию, когда бюджет компании, которая сумеет «обуздать ИИ», будет превышать ВВП некоторых стран. И нужно как-то всё это внедрять, а социум не готов.

Когда лет 10 лет назад на своих лекциях я говорил, что скоро компьютер будет рисовать не хуже художников-людей, сочинять музыку и воскрешать умерших звезд, вкладывая в их уста современные песни, делать презентации лучше офисного планктона, — мне смеялись в лицо. Люди не верили, что это не фантазии, а реальность.

Сейчас никому уже не смешно, но общество, как и прежде, пока не понимает масштаб происходящих изменений и тот факт, что нарастает их скорость — прорывные витки развития ИИ будут ощутимы каждый год. Уверен, в 2025 году новые версии Open AI многих из обывателей попросту ввергнут в шок, ибо будут симулировать вполне себе человеческий уровень общения и взаимодействия.

Поэтому основных причин, по которым уважаемые эксперты подписали ту петицию с просьбой затормозить, две. Первая — это банальная жадность. Многие осознают, что рынок не успевает монетизировать всё, что меняется с такой скоростью — на внедрения сложных технологий, вроде ИИ, особенно в корпоративный и в госсектор, нужно время, иногда это годы. В мире, где ChatGPT революционно меняется раз в 6 месяцев, это малореалистично. Торможение нужно для внедрений в комфортном темпе, окупаемости инвестиций и получения новых ресурсов. Вторая причина — это действительно риск выхода технологий ИИ из-под контроля, потому что не все понимают, как принимает решения машина.

Если у инженера-человека спросить, как он пришёл к тому или иному выводу, он потратит время, но в конечном счёте объяснит всё при помощи математических формул, алгоритмов и блок-схем. А в сфере ИИ сегодня появились так называемые «чёрные ящики», когда какую-то модель с триллионами параметров спрашивают: «Почему Земля круглая?», она отвечает: «Кто изучал вопрос, говорят, что круглая». Но всех факторов, повлиявших на выдачу именно этого ответа, сами инженеры уже не понимают, и этот гэп растёт.

Генеративный ИИ пока далёк от идеала, в работе того же ChatGPT есть масса косяков. К тому же, пока что машина всё-таки ждёт запроса человека, она не формулирует собственных. При этом неуклонно растёт количество инструментов, которые нацелены на предиктивность запросов — то есть на обработку гипотетического запроса человека, когда тот ещё ничего не спросил, а машина уже что-то предсказала и просто ждёт, и всё больше таких вопросов и ответов — «чёрный ящик» с точки зрения объяснения логики принятия решений.

Пока ИИ можно «удерживать в узде». Опыт GPT 4 и 5 это наглядно демонстрирует.

Модель от OpenAI довольно сильно «отупела» за последние годы, но не потому, что она была плохой в самом начале, а потому что включился механизм цензуры — программистов обязали выправлять веса значений, чтобы машина говорила не то, что «хочется», а то, что надо.

В Штатах свои ограничения, в Китае — свои, у нас в России — свои, в любой стране они есть. Это не хорошо и не плохо, это базовый принцип геополитики — если ты не говоришь со своими гражданами, с ними будет говорить кто-то другой. Но проблема в том, что запрос на проактивность и самостоятельность ИИ будет расти, и авторы письма боятся, что в определённый момент люди попросту не смогут управлять машинами.

Именно поэтому они просят притормозить, чтобы мы на уровне экспертного международного сообщества придумали способы работы с рисками для человечества. Причём не только с точки зрения экономики или обороны, но и для социума в целом. Шутки шутками, но не так уж далеко тот кейс, когда живое существо будет испытывать глубокую эмоциональную привязанность к персонально обученному ИИ. Пока мы это видим в фантастических фильмах вроде Bladerunner 2049, но давайте вспомним мой пример про рисование и музыку. Это не вопрос «будет или нет», это просто вопрос времени.

— Почему это происходит там, где эти технологии уже на супервысоком уровне? Почему в России не призывают ограничивать ИИ?

— Потому что мы сейчас в роли догоняющих. Прежде чем ограничивать, нам нужно достичь приоритетных целей. Но я, если говорить прямо, считаю ошибочным ограничивать любые научные и технологические исследования и приведу два примера, доказывающих, почему это единственно верный подход.

Когда в 1996 году клонировали овечку Долли, мировое сообщество моментально собралось и приняло резолюцию о запрете клонирования людей. Случилось чудо — мы никогда так быстро ни о чём не договаривались. Но Китай сказал «всем спасибо, мы как-нибудь сами разберёмся, какие разработки важны, а какие нет».

В итоге Поднебесная пошла своим путём, и в 2019 году именно команда доктора Пу клонировала двух обезьян-приматов. Так Китай стал и остаётся лидером в области потенциального клонирования человека.

Второй пример. Во время Второй мировой войны группа учёных и инженеров под руководством Алана Тьюринга создала принципиально новое устройство, при помощи которого удалось взломать немецкий шифратор «Энигма». После этого британские спецслужбы начали поставлять бесценные сведения на фронт, в том числе — союзникам. Это изобретение принципиально не изменило расстановки сил, но приблизило конец Второй мировой.

После победы над нацистами все сверхдержавы осознали, что шифрование — это один из критичных приоритетов в области фундаментальных наукоёмких исследований и начали щедро финансировать разработки в области криптографии. Но есть нюанс: британцы сделали все свои исследования по этой теме публичными, так же поступили в СССР. А США вначале закрыли всё грифом «совершенно секретно».

Спустя годы такой практики выяснилось, что все, кто делился своими наработками публично, смогли создать максимально криптостойкие алгоритмы, так как все прототипы и идеи пытались массово взломать лучшие умы планеты, в том числе из недружественных спецслужб, и делали это совершенно открыто. А вот те, кто скрывал свои алгоритмы шифрования, в итоге оказывались с «дырявыми» решениями на руках, ибо их никто всерьёз не проверял на прочность.

В итоге решения СССР и Великобритании в этой сфере оказались отличными, а у американцев — крайне уязвимыми и ненадёжными. После чего они тоже изменили свой модус операнди и стали заниматься криптографией публично, что позволило быстро вернуться в клуб лидеров. К слову, этот подход к открытой проверке криптографии неплохо проиллюстрирован в фильме «Меркурий в опасности» (Mercury Rising) с Брюсом Уиллисом.

Поэтому самое неправильное, что мы можем сделать — это тормозить и ограничивать развитие науки. Другое дело, что ИИ сейчас достиг такой фазы, когда нельзя не поднимать вопрос о выборочном регулировании. Логика та же, что, например, с автомобилями — на заре изобретения первых машин люди свободно ездили по любой полосе, абсолютно пьяными, без ремней безопасности и ограничений скорости. В какой-то момент мы, как социум, решили, что такой подход нас не устраивает и что нам нужны общие правила поведения на дорогах. И сегодня есть причина, почему, прежде чем сесть за руль, надо сдать на права и получить страховку. С ИИ похожая логика.

Сейчас ситуация с искусственным интеллектом выглядит как в русской пословице: «Кто в лес, кто по дрова». Никаких требований к точности, надёжности, совместимости, безопасности, хотя бы для некоторых областей применения, таких как медицина, психология, военное дело и так далее. Нам пора осознать, что ИИ по степени влияния на человечество сопоставим с открытием атомной энергетики. Но если с открытием атома везде появились соответствующие службы, корпорации или ведомства, например, Росатом у нас в России, то по теме ИИ пока всё очень разрозненно. Тормозить инновации — плохая идея и тупиковый путь, но должен быть регулятор, который будет принимать решения там, где без этого не обойтись.

Понятно, что инновации — это всегда разрушение того, что исправно работает. Более того, почти все прорывные инновации в моменте противозаконны, на адаптацию с точки зрения законодательства и процессов всегда уходит время.

Но в этом и парадокс: чтобы быть лучшими в мире, сверхдержавой, нам сейчас надо быть не просто дисциплинированными, но и умными, и гибкими.

Это значит уметь создавать то, чего нет, и делать это постоянно, не нарушая работоспособность всей системы. Это непросто, ибо требует уникальной экспертизы, но это реально.

Google в своё время столкнулся с похожей проблемой — на их масштабе любая инновация могла сломать многомиллиардный бизнес. Пришла идея создать Google Ireland — формально штаб-квартиру компании в Ирландии, а на деле «государство в государстве» с экспериментальным законодательным и лицензионным режимом и почти безграничными возможностями для внедрения инноваций и исследований в обмен на отчисления в бюджет страны. Этот опыт можно и нужно использовать.

У нас в стране, в Краснодарском крае, есть, например, Сириус, там реализован концепт экспериментального правого регулирования и сегодня там можно хоть криптовалюту внедрить в качестве средства оплаты товаров и услуг, в тестовом режиме, если договоришься с главой Сириуса. Но проблема в том, что если у нас как страны стоит задача быстро компенсировать последние 30 лет ослабления нашей науки и промышленности, то надо сказать себе честно: одной такой экономической зоны мало.

Их для масштаба России нужно от 100 до 300 штук, потому что страна большая, индустрий много, есть разные потребности и специфика, причем часто в одной точке пространства экспериментальных режимов нужно несколько, чтобы не возникало конфликтов формата «за беспилотными автомобилями в Томск, за криптой в Сириус, а за экспериментальной энергетикой — в Саров». Есть масса прорывных инноваций, требующих возможности реализации всех этих трёх и ещё десятка технологий в едином месте. Я уверен, что государство на потенциал развития и тиражирования подобных полигонов серьёзно смотрит. А если нет — пора.

— Кто должен за это нести ответственность, и хватит ли нам талантливых людей, чтобы в этих зонах творить чудеса?

Я думаю, если не организовать подобные зоны, то у людей не будет желания создавать чудеса в нужных стране объёмах. Илоны Маски, то есть люди, способные своим авторитетом ломать системы (например, убедить целый штат Калифорния в том, чтобы те разрешили пробовать беспилотные автомобили на дорогах общего пользования), увы, штучный товар. Поэтому без полигонов не обойтись. Как и без программ привлечения в эти зоны талантов. Государству надо решить принципиально вопрос «делаем или не делаем» и выбрать модель, по которой всё это будет функционировать. Пока есть две основных модели работы с талантами: американская и китайская. Полагаю и надеюсь, что у нас появится своя, которая впитает лучшее от обеих.

В чем разница между китайской и американской? В Америке сознательным образом поддерживается небольшое количество качественных STEM-вузов (Science, Technology, Engineering, Mathematics — ред.), так как текущее капиталистическое общество не нуждается в огромном количестве мозгов. Там нужны люди, которые принимают решения, и люди, которые потребляют — это базовый принцип, который исправно поддерживается. Недостаток собственных дарований и экспертов США всегда решала программой «визы талантов», когда любой квалифицированный инженер, учёный или мастер мог довольно легко приехать и начать работать в США. И можно смело сказать, что никто не дал Штатам столько качественных мозгов, сколько Советский Союз после своего распада и Россия за последние 30 лет.

У Китая другая история. Они последние 60 лет системно вкладывались в программу государственного образования: строили огромное количество школ, лицеев и вузов, повышали квалификацию преподавательского состава (в том числе переманивали экспертов мирового уровня). Акцент Китая был на воспитании собственных талантов. Более того, они возвращали студентов, которые обучались в России, в Штатах, в Европе, в топовых мировых вузах, предлагая им зарплаты выше, чем те получали бы в США. Итог? Сегодня Китай — единственная страна в мире, которая более-менее обслуживает свой кадровый дефицит в области ИТ самостоятельно. У них есть достаточное количество собственных гениев, развивающих технологии уровня Huawei.

В нашем случае без гибрида не обойтись. СССР был прекрасен своей системой отбора талантов и обучения, количеством вузов военных и гражданских, которые готовили качественных специалистов, легко конвертируемых из гражданки в военку и наоборот. С распадом Союза многое из этого было утрачено.

Сейчас важно понимать, что если у страны появляется фокус на инновации и технологические прорывы, надо вкладываться в школы и вузы. Возрождать советский подход и внедрять лучшие из современных мировых практик.

Кроме того, стране нужны визовая программа для талантов и программа ассимиляции, чтобы не случилось как в Штатах, когда переехавшие туда китайцы говорят по-китайски, весь юг США говорит по-испански и даже не пытается учить английский. А зачем, если тебя все понимают? Мы себе этого позволить не можем — таланты, переезжающие в Россию, обязаны изучать русский язык, знать базовую историю страны и ключевые элементы культурного кода — учёных, писателей, инженеров уровня Королева, учёных уровня Капицы и Перельмана и так далее. Тогда это будет глина, из которой удастся лепить процессы создания инноваций.

Что касается мотивации, то надо менять культуру работы с инвестициями в инновации. Нужно взращивать культуру предпринимателей, а не функционеров, перекладывающих ответственность друг на друга — предоставлять талантам долевое участие в создаваемых инновациях и обеспечивать абсолютную гарантию неприкосновенности частной и интеллектуальной собственности. Уверен, это нашей стране по плечу.

— Как вы считаете, реально сейчас в России воплотить в жизнь всё, что вы предлагаете в перспективе 3-5 лет, или это мечты?

— Мы живём в специфической стране, где пословица «мы долго запрягаем, зато потом быстро едем» реально описывает национальный характер. Почитайте мемуары Королева или историю проекта «Венера 14» — наши деды на калькуляторах успешно долетали до других планет — в 1971 году именно они, на минуточку, первыми высадились на Марс и передали оттуда на Землю телеметрию. Нам грех унывать, наши с вами соотечественники совершали титанические, немыслимые поступки за 1-3-5 лет и в медицине, и в литературе, и в космосе. Раз они смогли, значит и мы сможем — надо просто не бояться ставить себе исторического масштаба цели и не пасовать перед неизбежными препятствиями. Успех никогда не бывает по взмаху волшебной палочки. Это всегда труд. Как правильно заметил Черчилль, «успех — это способность идти от стены к стене без потери энтузиазма».

Взять те же Госуслуги — сколько их вначале ругали, но как они изменились за какие-то 3-5 лет, потому что команда не сдавалась и шла вперёд, вопреки проблемам. Сегодня это магия — я недавно через Госуслуги получал электронную подпись для юридического лица, и вся процедура от входа в налоговую до того, как я вернулся в машину, у меня заняла 12 (!) минут.

Делать прорывы мы точно умеем, на уровне культурного ДНК. У нас в стране другая проблема: до сих пор встречаются люди, кто сами не хотят ничего делать руками, просто молотят языками и осваивают бюджеты. Мы встали на долгий, но правильный путь по изменению культуры отношения к делу, к результату, к имиджу страны. Нам необходимо двигать и публично поощрять людей, у которых есть успешный опыт, подтверждающийся делами, и немедленно отстранять тех, кто хочет сделать деньги на посредничестве. Тогда у нас получится выйти на лидерские позиции в мире быстрее. Хорошая новость в том, что государство этим занимается. Дайте время, всё получится. Дорогу осилит идущий.

— Прогноз по поводу появления в России того, что мы сейчас обсудили. Сколько потребуется времени?

— В нашей стране срок появления чего-то большого никак не зависит от состояния экономики и технологий. У нас реальность определяется наличием критической массы запроса экспертного сообщества, доверием руководства страны к лидерам изменений и наличием мандата для профильных талантливых людей на создание нового в сочетании с правом на ошибки. Я считаю, что всё реалистично уже сейчас, но эта информация должна дойти до соответствующих инстанций и лиц, которые принимают стратегические решения. И мы все должны работать как одна команда. Я верю, что это реально.

— Последний вопрос. Искусственный интеллект в России — это?

— Наряду с культурой, наукой и искусством это наш шанс вернуться в статус мировой технологической сверхдержавы.

Ещё интервью первого номера «Кода Дурова» об ИИ: