Что умеет искусственный интеллект и насколько разработчики его контролируют? Рассказывает Алексей Шпильман

Искусственный интеллект и нейросети стали неотъемлемой частью жизни людей. Они общаются, сочиняют стихи, и это далеко не все их возможности. Крупные компании все чаще задаются вопросом, какие профессии могут исчезнуть из-за технологического прогресса, а в поп-культуре все чаще встречаются сюжеты о продвинутых роботах и восстании машин. На какой стадии развития сейчас находится искусственный интеллект — рассказал Алексей Александрович Шпильман, академический руководитель магистерской программы «Машинное обучение и анализ данных» НИУ ВШЭ — Санкт-Петербург.

НИУ ВШЭ — Санкт-Петербург

— Что необычного сейчас умеет делать искусственный интеллект?

— Искусственный интеллект научился классно рисовать картинки на основе запросов от пользователей. По такому принципу работают DALL-E 2, Stable Diffusion и MidJourney. С последней нейросетью недавно приключился такой анекдот: в Колорадо проходил конкурс живописи и в нем победила картина Джейсона Аллена, нарисованная с помощью этой нейросети. Потом этот случай еще долго обсуждали в соцсетях: художника критиковали за то, что он подал свою работу наравне с другими.

Этот случай с конкурсом говорит нам о том, что профессия художника на грани вымирания. Нейросети не просто рисуют, но делают это настолько круто, быстро и качественно, что могут заменить реальных специалистов. Дизайнеры тоже в группе риска: у «Студии Артемия Лебедева» есть нейросеть, которая способна разработать айдентику для бренда. Так что пока все складывается не так, как раньше думали ученые. Мы считали, что творческие профессии исчезнут последними, а искусственным интеллектом заменят обычных рабочих. Пока выходит наоборот.

Оказалось, технологов или обычных рабочих заменить намного сложнее. Роботам плохо даются тонкие манипуляции — например, соединить между собой два провода. Но роботам пока тяжело дается пространственное мышление, особенно когда они сами — часть этого пространства. Так что такие операции пока надежнее отдавать людям.

— Раз уж мы заговорили о роботах — расскажите, какими они бывают и что делают?

— Есть роботы Boston Dynamics, которые и пляшут, и крутятся, и выглядят солидно. Но какая от них практическая польза — не очень понятно. В прошлом году Boston Dynamics разработали робота-грузчика. Он выглядит как коробка, к которой сверху прикреплена рука. Этот робот ездит по складу и переставляет ящики. Конечно, после танцующих продвинутых роботов такое решение выглядит забавным, но оно логичное и удобное. Если нам нужно, чтобы система просто двигала коробки с места на место, то можно обойтись без танцев и красоты. 

Есть медицинские роботы, но их пока только испытывают. Они нужны для мелких задач в микрохирургии, при которых нужна особенная точность.

— Почему в таких областях, как медицина, роботов пока не используют?

— Пока что сложно определить, кто отвечает за их ошибки. Ну вот допустим: робот сломается во время операции и что-то пойдет не так. Кто тогда виноват: компания, которая создала робота, или хирург, который им управлял? 

Это как с автомобилем — до какого-то момента в аварии виноват водитель, но в какой-то —  уже производитель. Водитель должен проверять масло или тормоза. Если у машины отказали тормоза, потому что человек не проверял их, то водитель виноват. Если он все проверил, а тормоза все равно отказали, то это вина производителя.

Пока у нас не появятся законы, регулирующие работу роботов, никто не станет повсеместно использовать искусственный интеллект. Но даже если такие законы появятся, нужна будет какая-то компания, которая согласится страховать этих роботов. А той уже нужно понимать, из чего складывается цена на страховку, какова будет процедура взыскания. Чтобы найти ответы на все эти вопросы, нужно много времени.

— В какой сфере роботы и искусственный интеллект были бы полезнее всего?

— Как раз в медицине, но там единичные случаи использования ИИ. Это связано с тем, что медицина — одна из самых сильно регулируемых законодательством областей. Если ученые захотят развивать предиктивную диагностику, им понадобится большой массив данных, а их очень тяжело собрать. Речь ведь не просто о персональных данных, а об очень личных. Ни один пациент не захочет, чтобы о его диагнозе кто-то случайно узнал.

— Поговорим о роботах в поп-культуре. Есть очень популярный сюжет, как ИИ обращается против его создателя. Но насколько такой сценарий реален?

— Истории о том, как боты выходили из под контроля создателей, уже бывали. В 2016 году Microsoft в одной из соцсетей запустил бота, который обучался на общении с другими пользователями. В конце из него получился прожженный расист и тролль. Была еще история о том, как в соцсети запустили ботов, которые должны были как можно больше общаться с людьми. Говорить им что-то, чтобы непременно получать ответ. В какой-то момент два бота нашли друг друга и начали настолько активно друг с другом общаться, что их стало сложно понимать.  

Мне сложно дать однозначный ответ, насколько реально восстание машин. Искусственный интеллект — это инструмент, и использовать его можно по-разному. Можно готовить с его помощью мясо, а можно — красть шоколадки из магазина. Но даже если робот начнет делать что-то плохое, это еще не говорит о том, что у него есть сознание.

Тем не менее, существует вероятность, что искусственный интеллект случайно обернется против людей, и с этим надо бороться. То есть, если мы боимся каких-то его решений, надо сделать так, чтобы он их по большей части не принимал. 

Вот тут есть одна загвоздка: за нас часто принимает решение искусственный интеллект, который не до конца понимаем. Мы только по косвенным признакам видим, как искусственный интеллект принимает решения, но давно потеряли контроль над этим процессом. Ведь ИИ получает и обрабатывает огромное количество информации. Если разработчик допустил небольшую ошибку в процессе, машина может начать делать то, что ей нужно. Так что нужно внимательнее относиться к ИИ и продумывать инструменты безопасности. Ну или нужно делать, как Тони Старк во втором фильме про «Мстителей»: если по ошибке получился Альтрон, то нужен и Вижн.

— Мы уже упомянули текстовые нейросети — давайте поговорим о них и о голосовых помощниках. Что они сейчас из себя представляют?

— Они достаточно продвинутые. Если обучать такие нейросети на большом объеме данных и использовать мощные серверы, то у ИИ будет хорошая и гладкая речь. Но для их работы тоже нужны серьезные мощности, и сейчас тратится много усилий на то, чтобы эти сети облегчить.

— Как вы думаете, однажды мы сможем дружить с голосовыми помощниками? Как в фильме «Она», где это спасает героя от одиночества.

— Есть боты, которые оказывают психологическую помощь, если не с кем поговорить. Так что кто-то дружит с ботами уже прямо сейчас. Думаю, таких случаев станет больше: эта индустрия развивается. Но последствия дружбы с искусственным интеллектом мне пока непонятны. Если таких умных ботов станет много, можно завести кучу виртуальных друзей и забыть про настоящих, прекратить человеческое общение.

Объясню на примере. Вот есть у вас друзья, вы их любите и с удовольствием проводите с ними время. Но наверняка нужно подстраиваться под каждого из них: одного не вытащишь из дома, а другой постоянно хочет тусоваться. А теперь представьте десять идеальных друзей-ботов, с которыми у вас полное взаимопонимание. Они не зеркалят ваше поведение, наоборот — делятся своими идеями, предлагают места, куда можно сходить. Заскучаете вы с этими идеальными ботами или начнете общаться только с ними — загадка.

— И последний вопрос на сегодня. Какие области, связанные с искусственным интеллектом, интересны лично вам?

—  Я бы хотел, чтобы искусственный интеллект легче адаптировался под реальные обстоятельства. По сравнению с ним люди учатся очень быстро: они опираются на накопленный опыт и объектное понимание взаимосвязей. Вот как это работает. Когда человек видит микрофон, то понимает, что это — твердый объект. Если удариться, будет больно. У компьютера все сложнее. Ему нужно сначала стукнуться о микрофон, чтобы понять, что тот — твердый и лучше так не делать. Если компьютер после этого увидит стол, то все повторится сначала. Он не поймет, что стол — тоже твердый, и непременно об него стукнется. Вот мне как раз хочется, чтобы компьютер такие вещи понимал.

Еще будет здорово, если искусственный интеллект чаще начнут использовать в промышленности. Там много нерешенных задач, потому что для них нужны другие алгоритмы. 

Изначально колыбелью искусственного интеллекта были IT-компании. Они сильно продвинулись в работе с ним, но в наиболее полезных для их бизнеса областях: рекомендательных системах, диалогах с пользователями, текстах. Но нельзя внедрить такие же методы в производственные решения, иначе ничего не работает. Промышленные компании развивают собственные методы с самого начала, но у них пока недостаточно большие команды разработчиков. Думаю, это вопрос мотивации, образования и подбора кадров. Мало кто думает: «Я хочу заниматься искусственным интеллектом, пойду-ка в промышленность». Обычно все идут в Apple, Google, «Яндекс» или нечто похожее. Надо менять это мнение, потому что в промышленности не менее интересные задачи.