Мозг и искусственный интеллект. Интервью с Иваном Ямщиковым. Часть 2. Творчество

Конструкторы для обучения детей робототехнике

Share Button

«Занимательная робототехника» побеседовала с Иваном Ямщиковым, ученым и специалистом в области искусственного интеллекта, чтобы узнать состояние дел и перспективы направления.

Два года назад Иван Ямщиков вместе с Алексеем Тихоновым выпустил альбом «Нейронная оборона», состоящий из песен и стихотворений, написанных роботом. В второй части интервью мы обсуждаем, как искусственный интеллект постигает творчество и почему важно понять работу мозга для развития искусственного интеллекта.

Мозг и искусственный интеллект. Интервью с Иваном Ямщиковым. Часть 2. Творчество

Всего выйдет три части.

В третьей будем говорить о том, что происходит в ИИ прямо сейчас и где этому учиться.

Справка: Иван Ямщиков – научный сотрудник Института Макса Планка в Лейпциге, евангелист компании ABBYY, сооснователь проекта Creaited Labs, в прошлом аналитик в Яндексе. Закончил магистратуру физфака СПбГУ и получил второго магистра в Швеции, защитил PhD по прикладной математике в Германии. .

Что такое творчество?

— Динара Гагарина: Ты сказал, мы не знаем, что такое разум. А знаем ли мы, что такое творчество?

— Иван Ямщиков: Я сказал, что мы не можем определить разум в понятных математических терминах. Но мы можем дать определение и для разума, и для творчества в контексте определенной задачи. Как только мы говорим о приложениях в узкой области, сразу и то, и другое становится легче опередить. Поэтому искусственный интеллект в узком смысле (то есть алгоритмы, обучающиеся на данных и решающие узкие прикладные задачи) цветет пышным цветом, пахнет и развивается. Когда мы говорим про задачу балансировки шарика при помощи робота, задачу передвижения по пересеченной местности или задачу распознавания лиц, – это все работает прекрасно.

В этом смысле мы определяем, что такое разум и что такое творчество, в задачах генерации музыки или стихов, к примеру.

Мы не можем определить разум в понятных математических терминах

Твитнуть цитату

— И как вы определяете творчество в музыке?

— У нас есть некоторая метрика близости к исходным данным, есть большой набор музыкальных произведений, есть критерии того, как генерируется «музыка».

Первый критерии – соответствие тем или иным нормам благозвучия, близость к тому, что раньше люди писали. Второй — то, что она не должна повторять ранее написанное. И дальше ты с этими двумя критериями играешь. Если один выкручиваешь на 100% – на выходе получается то, что несомненно люди раньше не писали, но тебе как человеческому слушателю это кажется черт-те чем. Другой критерий выкручиваешь – тебе кажется классным, но это оказывается Бетховен. А вот посередине то, что нам интересно.

— Нейронная оборона — это творчество?

— Для нас — несомненно, для кого-то — нет. Мы это сделали для того, чтобы показать людям, что уже сейчас умеют нейросетки. Это было 2 года назад, на тот момент огромному количеству людей было не очевидно, что нейросетки такое умеют.

— Некоторым не очевидно и сейчас.

— Если вам до сих пор не очевидно, послушайте «Нейронную оборону». С тех пор, кстати, многое изменилось в лучшую сторону, нейросетки могут еще больше.

— Нейросети могут придумать стиль? Или могут только копировать?

— Это все очень абстрактные вещи.

— Но эта абстракция переходит в конкретные метрики?

— Конкретные метрики – понятно. Есть Егор Летов, есть сгенерированные стихи, есть те метрики, в которые алгоритм целится. Это все печально с точки зрения творческого человека, но с точки зрения математики — так.

Что такое новый стиль? Для постмодернистов — смешение других стилей. 0,7 Летова + 0,2 Бродского + 0,1 Рильке – уже новый стиль. В этом смысле новый стиль — вообще не проблема.

Если постмодернизм не прав, и новым может считаться только то, что ранее не существовало, то творчеством не занимается никто уже последние лет 50, включая людей. Потому что сейчас мы живем в мире, где постмодернизм является основной философской концепцией и сильно влияет на то, как мы творчество воспринимаем.

Если постмодернизм не прав, и новым может считаться только то, что ранее не существовало, то творчеством не занимается никто уже последние лет 50, включая людей

Твитнуть цитату

При этом я считаю, что самый простой подход: если человеку нравится – ну и хвала богам.

— То есть такую метрику берем?

— Это не метрика. У людей есть много социальных взаимодействий, которые не до конца поддаются формальным описаниям. Но если люди берут и поют «Нейронную оборону» под гитару, значит это круто. Если человеку настолько запало в душу, что он напрягся, подобрал аккорды, сел перед камерой и спел, значит для него – конкретного человека – это было творчество.

— Мы можем констатировать, что на сегодня искусственный интеллект может творить?

— Нет. Искусственный интеллект может помогать нам заниматься творчеством. И уже делает это.

Что станет с творческими профессиями?

— Дальше что будет с творчеством с точки зрения искусственного интеллекта?

— Мне кажется, что будет несколько вещей.

Сейчас есть много псевдотворческих специальностей. Люди, которые ими занимаются, хотели бы писать рассказы, но вместо этого пишут новостные заметки или кликабельные тексты про котиков. Первое, что произойдет, – люди разделятся на две группы – тех, кто действительно хочет писать новостные статьи, и тех, кто поймет, что не хочет этим заниматься. Качество новостных статей при этом резко повысится, потому часть работ (например, фактчекинг) будет выполнять искусственный интеллект. Или вот мы с тобой сейчас разговариваем, тебе потом придется сделать много неинтересных вещей, которые совсем не доставляют тебе удовольствия, типа расшифровки интервью. Это все должен делать искусственной интеллект, он же должен собирать фактологию. Дальше ты будешь писать статью, не затрачивая время на всю эту чепуху, а работая с идеей, которую хочешь донести.

Ни один ребенок пятилетний не говорит, что хочет вырасти и продавать жетоны в метро или быть таксистом. При этом, когда мы рассказываем про беспилотные автомобили, некоторые водители боятся, что искусственный интеллект лишит их работы. Удивительная вещь – огромное количество людей хотят меньшего. Если какую-то работу может делать робот — прекрасно. Скорее всего, эта работа не доставляет удовольствие человеку. Но если есть таксист, которому нравится его работа, то он ее не потеряет. Он станет супертаксистом, который стоит больших денег, он делает тебе экскурсию по городу, рассказывает крутые истории. И люди будут платить за то, чтобы поехать с ним, а не с алгоритмом. Если ты прямо хорош в том, что делаешь, то тебя не заменят роботом, потому что люди всегда будут готовы платить больше за премиальное взаимодействие с человеком.

Огромное количество людей хотят меньшего. Если какую-то работу может делать робот — прекрасно. Скорее всего, это работа не доставляет удовольствие человеку

Твитнуть цитату

То есть первое, что произойдет – стратификация. Все то, что мы называем ремеслом, будет автоматизировано, будет повышаться качество продукта.

Вторая очевидная история – да, мы не знаем, создадим ли робота, способного к абстрактному мышлению и самостоятельной постановке задач. Но если это произойдет, то эта технология кардинально всё поменяет. Вероятность того, что это случится в ближайшие 10-20 лет, я оцениваю как не очень высокую.

Третья история куда более важная. По мере того, как мы будем осваивать когнитивные навыки, когда мы станем лучше понимать, как что-то работает – журналистика или вождение автомобиля, когда мы сможем хорошо сформулировать узкую задачу, тогда можно отдать её искусственному интеллекту. Достаточно хорошо изученные задачи будут автоматизироваться. А дальше – я тут оптимист и верю в людей – человеческий мозг не любит скучать, мы начнем придумывать себе новые задачи. И всё будет развиваться по экспоненте. Это оптимистичный и маловероятный сценарий.

Самое печальное – если у нас окажется фиксированный набор задач, которые мы можем делать. Но я не верю в такой сценарий.

Мозг и искусственный интеллект. Интервью с Иваном Ямщиковым. Часть 2. Творчество

— Когда-то искусственный интеллект перешел от широкого варианта – типа создания универсального разума и Терминатора – к узкому варианту? Означает ли то, что ты говоришь, что он еще сужается, и нет никакой надежды на расширение?

— Искусственный интеллект в узком смысле просто работает. Если достаточно данных, если формализованы метрики, то можно сделать алгоритм, чтобы решать задачку.

В задаче с написанием стихов и генерацией музыки сложность в том, что нет понятного критерия качества, нет метрики, которую хочется оптимизировать.

Длинные корреляции в тексте и циклы в мозге

— Когда вы генерировали стихи похожие на Летова, использовали какую-то метрику?

— Есть довольно стандартный метод в обработке естественного языка, когда берешь исходный текст и новый текст и сравниваешь, насколько новый похож на оригинал. Метрика, показывающая близость, называется в теории информации кросс-энтропией, в лингвистике – perplexity. Это метрика близости одной строчки текста к другой.

Другие метрики — качества или, допустим, метрика смысла. Мы с тобой понимаем, что такое смысл (ну или думаем, что понимаем). Мы можем извлекать полезную информацию даже из того, что по нашим критериям не из нашего языка:

Варкалось. Хливкие шорьки
Пырялись по наве,
И хрюкотали зелюки,
Как мюмзики в мове.

Мы воспринимаем смысл, хотя нет такого слова «варкалось» и вообще здесь нет ни единого русского слова. Это классический пример, и еще Кэрролл заметил это свойство естественного языка. Мы вылепляем смысл и по синтаксическим свойствам тоже, как мы это делаем – не очень понятно.

Если взять и читать тексты, написанные нейросетью, то это другая ситуация. Ты берешь каждое отдельное предложение и понимаешь, что человек такое сказать может, что такое может существовать в языке. Но если читаешь четыре предложения подряд, то понимаешь, что такое в языке существовать не может.

Это связано с тем, что в естественном языке есть длинные корреляции между словами. То есть слово может отстоять от другого на расстоянии 10 слов и все равно как-то с ним коррелировать. Оказывается, такого плана корреляции существует не только в естественном языке, например, в музыке или геноме. Искусственные нейронные сети эти корреляции ловить не могут, у них короткая память, они довольно быстро забывают то, что было ранее.

Мы не знаем, создадим ли робота, способного к абстрактному мышлению и самостоятельной постановке задач

Твитнуть цитату

Если ты поговоришь с Siri или Алисой и скажешь ей: «Привет! Какая сегодня погода в Лейпциге?» Она тебе скажет: «27 градусов», а ты скажешь: «Классно, а в Москве?» Она может потеряться в этот момент. Человек не потеряется. Сейчас это какими-то заплатками закрывают, но если взаимодействие чуть-чуть выйдет за пределы какого-то стандартного диалога, то алгоритм не ответит.

Еще пример: ты спрашиваешь у голосового интерфейса: «В каком году было построено здание института Макса Планка?» Она что-то отвечает, а ты спрашиваешь: «Это было до смерти Гете или после?» Для тебя очевидно, к чему относится слово «это», а для искусственных алгоритмов – сложно.

— Как эту задачу решать?

— Это задача сложная, в ней есть несколько частей. Большая задача, как связать местоимения с тем или иным объектом. Вторая связана с длинными корреляциями и связанными друг с другом словами, находящимися на большом расстоянии друг от друга. Чтобы их ловить из текста, нужно придумать какие-то системы, которые обладают большей динамической памятью. Мы не понимаем, как этот делать.

У нас в институте есть группа, в которой я работаю, мой шеф Юрген Йост и другие коллеги. Мы пытаемся понять, как эти процессы в мозге проходят. Если обратиться к теории графов, то окажется, что чем больше в сети циклов, тем больший объем информации в ней можно хранить. У нас есть чисто теоретический результат, что в сетевых структурах наличие циклов может увеличивать объем памяти. В мозге есть циклы. Как обучать такого рода циклы в искусственных нейронных сетях, мы не знаем. Как такого рода структуры обучаются в нашей голове, мы тоже не знаем. Есть разные способы подойти к этим вопросам – кто-то экспериментирует с искусственными структурами, кто-то адаптирует искусственные структуры, пытаясь обойтись без циклов, кто-то пытается разобраться, как мозг работает.

Продолжение следует. Фото из личного архива автора.

Share Button

Нет комментариев.

Оставить комментарий

© 2014-2018 Занимательная робототехника, Гагарина Д.А., Гагарин А.С., Гагарин А.А. All rights reserved / Все права защищены. Копирование и воспроизведение в любой форме запрещено. Политика кофиденциальности. Соглашение об обработке персональных данных.
Наверх