Решил опубликовать интервью известной американской газеты с одной женщиной - профессором о роботизации и вот итог беседы. Перевод сделан собственноручно. Текст на русском языке оригинальный, все права принадлежат сайту pcnewspc.ru

Человек и искусственный интеллект будут неразделимы - Часть 2

К 2021 году привычное нам программное обеспечение станет значительно более развитым и мощным и будет выполнять за человека всё большее количество задач. Как же мы будем поспевать за ним?

В то время как некоторые люди пророчат массовую безработицу или тотальную войну между человечеством и искусственным интеллектом, другие видят будущее в более ярких красках. Профессор Мануэла Велосо, глава отдела компьютерного обучения в Carnegie Mellon University, рассчитывает на будущее, в котором человек и разумные системы неразделимы, связаны между собой в непрерывном обмене информацией и задачами, она называет «симбиотической автономией». По прогнозу Велосо, в будущем человеческие действия и автоматизированная помощь будут едва различимы, однако ни человек, ни программное обеспечение не будут продуктивны поодиночке.

Профессор Велосо же тестирует эту идею на базе университетского студгородка, конструируя мобильных роботов в форме сегвеев (их называют «коботами»). Роботы сопровождают гостей от здания к зданию и способны при необходимости обратиться за помощью к человеку.

Одна из главных тенденций, наблюдаемых нами в последние пять лет, – автоматизация. В то же время мы видим и более развитые интеллектуальные системы, встроенные в уже имеющиеся гаджеты, такие, как телефоны и компьютеры. Каким вы видите этот процесс ещё через пять лет?

Я считаю, что в будущем мы увидим сосуществование человека и систем искусственного интеллекта, которые, как я надеюсь, будут служить человечеству. Эти системы ИИ будут включать в себя комплексы программных средств, управляющие цифровым миром, а также те, которые передвигаются в физическом пространстве, такие как дроны, роботы, автономный транспорт, и те, что взаимодействуют с физическим пространством, наподобие Интернета вещей.

В реальном мире количество интеллектуальных систем также возрастёт – они будут не только присутствовать в мобильном телефоне или компьютере; но и окружать нас физически, считывая и обрабатывая информацию о реальном мире и помогая нам в принятии решений, требующих глубоких знаний о его (реального мира) особенностях. С течением времени системы ИИ станут оказывать влияние на более широкий спектр проблем в обществе: например, управляя движением транспорта в больших городах, составляя сложные климатические прогнозы, помогая людям в принятии важных для них решений.

Сейчас может показаться, что некоторые из этих систем не предвещают ничего хорошего. Когда алгоритм или робот принимает решение, мы не всегда знаем причину данного выбора, из-за чего нам сложно довериться ему. Как специалисты могут решить этот вопрос?

Это одна из тем, над которой я работаю. Я хотела бы, чтобы эти машины были способны изъясняться – нести ответственность за принятые решения, быть понятными. Большое количество исследований, которые мы проводим, позволяет человеку задавать системе вопросы. Когда Кобот, мой робот, приезжает ко мне в офис с небольшим опозданием, я могу спросить: «Почему ты опоздал?» или «По какому маршруту ты следовал?».

Итак, мы работаем над способностью этих систем изъясняться – и они учатся, совершенствуются – чтобы те могли предоставлять объяснения с различным уровнем детализации. Мы хотим взаимодействовать с этими роботами таким образом, чтобы мы, люди, со временем смогли больше доверять системам ИИ. Человек хотел бы иметь возможность спросить: «Почему ты так говоришь?» или «Почему ты рекомендуешь это?».

Значительная часть исследования, которым я сейчас занимаюсь, состоит в том, чтобы роботы смогли отвечать на такие вопросы. Я верю, что это приведёт к лучшему пониманию искусственного интеллекта и большему доверию к нему. Впоследствии, благодаря этим взаимодействиям человек сможет корректировать системы ИИ. Мы также работаем над решением вопроса о внесении изменений в систему и возможности заставить систему обучаться согласно инструкциям. Я считаю это важной частью возможности сосуществования с системами ИИ.

Почему, по-вашему, сейчас эти системы развиваются так быстро? Что нас сдерживало в последние 50 лет проведения данных исследований?

Нужно понимать, что для определения, что такое телефон или что такое чашка, или того здоров ли человек, искусственному интеллекту необходимо знание. Многим исследованиям в данной области на заре времён не хватало этого знания. Приходилось обращаться к специалистам или копаться в книгах и вручную вводить всю информацию в компьютер.

За последние несколько лет волшебным образом всё большие объёмы информации переводятся в цифровой формат. Похоже, что мир плавно перемещается в интернет-пространство. Итак, работа систем ИИ в наше время определяется доступностью данных и способностью их обработки и осмысления. Мы всё ещё пытаемся усовершенствовать этот процесс. С другой стороны, мы очень оптимистичны, так как знаем, что эти данные имеются.

Теперь возникает вопрос, чему мы научимся? Как будем это использовать? Как реализуем это? Как изучить режимы распределения данных по областям – их статистику? Как собрать всё воедино? Вот как мы получаем алгоритмы глубокого обучения и обучения с подкреплением и системы, осуществляющие автоматический перевод, и роботов, играющих в футбол. Всё это осуществимо сегодня благодаря гораздо более эффективной обработке данных, ведь нам уже не приходится проделывать огромную работу по получению знания и его форматированию. Оно уже имеется.

Одними из наиболее значимых разработок последних лет стали персональные помощники, такие как Siri и Alexa, обе работающие за счёт машинного обучения. Мне любопытно, какие изменения в этой сфере вы предвидите в ближайшие годы.

Я большая поклонница персонального помощника Alexa. У меня есть такой дома, и спектр тем, на которые я могу с ним поговорить, стал шире. Поначалу это были вопросы вроде «Какая сейчас погода?», а теперь я могу спросить: «Что запланировано в моём ежедневнике?». Alexa обучается, но я также изучаю её возможности. Я в восторге от того, насколько лучше она становится со временем.

Расскажу вам интересную вещь: когда я покидаю дом, я говорю Алексе: «Алекса, стоп». Я хочу, чтобы она перестала проигрывать музыку, потому что я ухожу. Но если я скажу: «Алекса, я ухожу», она не поймёт, что фраза «я ухожу» означает, что ей следует прекратить действия. Мне приходится отчётливо произносить «стоп». Я бы хотела, чтобы персональные помощники лучше понимали инструкции вроде: «Алекса, когда я ухожу, тебе нужно выключить музыку». Инструктивные команды такого рода станут главной темой исследования.

Как вы считаете, придём ли мы к возможности задавать персональным помощникам вопросы наподобие: «О, загорелась лампа проверки двигателя, мне стоит отвезти ее в мастерскую?» или «Гугл, мне тут предложили работу, следует ли мне согласиться?»

Полагаю, это возможно. Подобные вопросы возникают в процессе принятия решения, как в случае, когда вам нужно выбрать программу страхования, но вы запутались во множестве предлагаемых вариантов. Отправляясь спать, вы можете сказать персональному помощнику: «Алекса, рассмотри эти программы страхования или все автомобили, которые я мог бы купить, или варианты школ для ребёнка», и за одну ночь он составит для вас отчёт.

Масса полезной информации уже доступна в режиме онлайн. Вы можете найти все описания школ и их обзоры, сделанные другими людьми. Существуют блоги о школах и другие источники информации. Мы можем получить систему ИИ, которая собирала бы все характеристики этих школ, их местоположение, мнение о них прочих обозревателей и т.д. Мы могли бы загружать список требований к учебному заведению, а системы ИИ занимались бы сопоставлением этой информации. Они способны выискивать особенности, обучаться, исходя из предыдущего опыта, обрабатывать информацию, оперировать всем, что доступно, и, под вашим управлением, с учетом заданных вопросов, предоставлять информацию именно в той форме, которую вам будет легче усвоить – ведь от огромного количества информации в интернете голова может пойти кругом.

И наконец, вы наверняка пожелали бы иметь ассистента, который будет обосновывать свои советы. Вы бы спрашивали: «Почему ты рекомендуешь купить именно этот автомобиль? Мне не нравится эта марка». Я считаю очень важным шагом создание систем ИИ, помогающих человеку в принятии решений, объединяющих и усваивающих всю информацию, учитывающих вашу возможную реакцию.