Решил опубликовать интервью известной американской газеты с одной женщиной - профессором о роботизации и вот итог беседы. Перевод сделан собственноручно. Текст на русском языке оригинальный, все права принадлежат сайту pcnewspc.ru

Человек и искусственный интеллект будут неразделимы - Часть 1

На что были бы пригодны такие системы ИИ помимо оказания помощи в принятии решений?

Можно представить себе версию подобной системы, работающую с научными трудами. На сегодняшний день опубликовано огромнейшее количество научных работ, и теперь они все доступны онлайн. Вообразите систему ИИ, которая помогает учёному резюмировать всю найденную информацию и выявлять аспекты, относящиеся к области его научных интересов.

Системы искусственного интеллекта по-прежнему будут являться продуктом информации, имеющейся онлайн. Много людей работают с информацией – текстовой, визуальной, в виде графиков и таблиц – оценивая интернет-данные и выводя задачи на их основании. Например, существует область компьютерного обучения, называемая «активным обучением» из которой мы делаем вывод о том, достаточно ли информации, относящейся к определённому процессу или следует её дополнить.

Я предвижу появление систем ИИ, способных выявить недостающие аспекты, чтобы объединить всю имеющуюся онлайн информацию воедино и запросить дополнительную, когда это необходимо. Представьте себе, как система ИИ обращается к исследователям: «Если вы расскажете мне чуть больше о том, как эти клетки будут взаимодействовать с этим химическим веществом, я смогу создать гораздо более точную модель происходящего».

Частью этой картины является ваша идея о «симбиотической автономии», воплощенная в Коботах, верно? Прямо сейчас в кампусе Университета Карнеги эти роботы свободно перемещаются по территории благодаря камерам глубины, Wi-Fi и технологии LIDAR. У них нет рук, поэтому они испытывают трудности при выполнении многих простых навигационных задач, однако они с лёгкостью могут обратиться за помощью.

Да, для нас стало своего рода открытием обнаружить, что эти автономные роботы будут ограничены в действиях. Они смогут открывать не все двери мира, они будут понимать не весь разговорный язык. Возможно, со временем они улучшатся, но я верю, что и у людей есть подобные ограничения – я, например, говорю с акцентом, играю в сквош не так хорошо, как некоторые – и у этих роботов тоже будут недостатки.

Для нас стало очевидно, что одной из характерных черт этих роботов, этих систем ИИ станет выявление того, чего они не знают, не могут сделать, не понимают, и обращение за помощью к человеку. Не могли бы вы нажать кнопку вызова лифта? Не могли бы вы открыть дверь? Не могли бы вы положить эту вещь в мою корзину? Вот, что мы называем симбиотической автономией. Робот автоматически просит о помощи, если он чего-то не умеет, не знает или не понимает. Это совершенно новый способ мышления, присущий ИИ-системам вокруг нас – стремление попросить помощи в выполнении какого-то действия.

По мере прогресса таких систем, их деятельность будет постоянно усложняться. Системы уже взаимодействуют беспроводным способом, опираясь на данные в облаке, либо при поддержке удалённых команд. Можно представить системы ИИ в постоянном взаимодействии с их окружением: другой информацией в сети, другими системами ИИ, людьми, находящимися поблизости и на расстоянии. Проблема перед нами состоит уже не в разработке автономной системы ИИ, а в способности этой системы осознавать незнание чего-либо или недостаток информации, или неуверенность в том, что она думает в правильном направлении. Она не будет способна моментально решить любую проблему, но она сможет полагаться на все окружающие её источники информации. Вот как я себе это представляю.

Как, по-вашему, этот симбиоз изменит уже используемые нами системы ИИ?

Давайте вернёмся к ситуации, связанной с обращением к системам ИИ за помощью в принятии решений о школе и страховке. Мне видится, что в какой-то момент этим системам ИИ понадобится информация, которую человек не предоставил. Система ИИ поймёт, что знание этой дополнительной информации сможет помочь ей в принятии лучшего решения.

Что действительно интересно, так это то, когда системы ИИ самостоятельно понимают, что что-то упускают. Они понимают, что, если бы они обладали большим количеством данных или могли совершать определенные действия – например, если бы они могли зарезервировать комнату в отеле, у которого нет функции онлайн-бронирования, они могли бы подобрать вам отель поближе к месту проведения конференции. Я считаю, что важно именно это умение, потому что я не буду знать всех деталей, которых системе не хватает для принятия решения.

В настоящий момент мы вводим адрес места назначения в Uber, Google Maps или Waze, и этого достаточно, чтобы система спланировала маршрут. Однако Waze мог бы обратиться к вам с вопросом: «Вы спешите? Стоит ли мне выбрать кратчайший маршрут? Не желаете ли отклониться от маршрута и полюбоваться пейзажами?». А что если персональный помощник будет знать, что я люблю орхидеи или определённый вид искусства? Если я слегка изменю маршрут, я смогу посетить отличный музей. Система не располагает этой информацией, прокладывая маршрут. Если бы ей было это известно, то она провела бы маршрут через этот музей.

Многие существующие системы ИИ специализируются на конкретных задачах, таких как распознавание объектов или оптимизация маршрутов – и это приводит к их ограниченности. Как по-вашему, что мешает нам создать более универсальный программный интеллект?

Проблема создания искусственного интеллекта общего назначения очень серьезна. Я полагаю, что у нас есть необходимые навыки – глубокое обучение, обучение с подкреплением – имеющие нотки универсального ИИ. Также мы проводим исследования, стараясь понять концепцию индуктивного переноса. Как нам заставить алгоритмы, способные выполнять одну конкретную задачу, учиться чему-то еще? Нам еще многое предстоит узнать об ИИ. Мы не знаем, как выполнять многие действия. Развитие ИИ в отношении алгоритмов и навыков, методов обобщения и объяснения, все еще в зачаточном состоянии и нам пока остается только разводить руками.

Я полагаю, что ИИ общего назначения может появиться как симбиоз узкоспециализированных ИИ-систем, превращая их в подобие Общества Разума, описанного Марвином Минским. И может, у нас будут алгоритмы специального назначения, способные решать сложнейшие задачи, как предсказывали Герб Саймон и Аллен Ньюэлл в самом начале исследований ИИ.

В общем, изучение ИИ общего назначения не только очень затруднительно, но и очень занимательно, поскольку мы теперь обладаем таким количеством данных. Сейчас в мире так много людей, пользующихся цифровыми устройствами и генерирующих данные. Использование компьютеров и мобильных телефонов, Alexa и Uber, всех этих систем, делает нас все ближе и ближе к решению этих проблем. Нам предстоит еще много работы. Мы все еще не знаем, каким будет ИИ общего назначения, но мы на правильном пути.

Не беспокоит ли вас эта неопределённость? Кое-кто опасается, что как только искусственный интеллект превзойдёт человеческий, человечество будет обречено.

Я абсолютный оптимист. Я считаю, что проводимое нами исследование автономных систем – автономных автомобилей, роботов – служит для человечества призывом к ответственности. В некотором смысле, дело не в технологии. Технология будет создана. Она была создана нами – людьми. Она не упала на нас с неба, не была передана нам пришельцами. Это наше собственное открытие. Человеческий разум породил такую технологию, и направить её использование в положительное русло также в силах человека.

Я абсолютно убеждена, что это произойдёт. Я настроена оптимистично, потому что действительно уверена, что человечество осознаёт необходимость обращаться с этой технологией осторожно. И я тоже это понимаю. Наилучшим решением для нас будет вклад в образование. Оставим роботов в покое. Роботы продолжат совершенствоваться, а нам нужно сосредоточиться на образовании, стремлении узнать друг друга и  заботиться друг о друге. Переживать о развитии общества, Земли, природы, научного прогресса. Нужно решить все эти проблемы. Найти лекарство о рака. Покончить с нищетой. Существует огромное количество вещей, в которых нам может помочь развитие технологий.

В каком-то роде, человекоподобие ИИ может помочь нам сблизиться. Так что я настроена оптимистично.