Во многих сферах нашей повседневной жизни искусственный интеллект проявляется: от распознавания лиц до фотографий на смартфоне и выбора маршрута.

Однако вмешательство искусственного интеллекта (ИИ) становится повсеместным и приводит к созданию нового «цифрового разрыва» между людьми: одни понимают механизм алгоритмов и решают, какую информацию предоставить себе и другим. это те, кто не понимает и не заботится о том, что их личные данные собираются и для чего они используются.

Крупные технологические компании, такие как Google и Facebook, используют искусственный интеллект, чтобы получить «подсказку» для своих пользователей. Это то, что им нужно монетизировать: подробные данные о посетителях позволяют им предлагать рекламодателям максимально точный таргетинг объявлений.

В то же время все больше и больше людей склонны доверять социальным сетям.

И если в прошлом эксперты по технологиям беспокоились о «цифровом разрыве» между теми, кто имеет доступ к компьютерам и Интернету, и теми, у кого его нет, мы можем говорить о новом типе разделения.

Черный ящик

Алгоритмы искусственного интеллекта принимают данные для пользователей и обрабатывают их с помощью математических моделей для создания прогнозов. Эти прогнозы варьируются от того, какую песню мы бы предпочли, чтобы иметь право на кредит. Шаблоны постоянно развиваются, настраиваются и совершенствуются.

Большинство людей не знают точно, что происходит в такой математической модели — даже многие техники неясны. Для обычных людей это просто «черный ящик».

В то же время цифровые устройства широко распространяются. Люди хотят пользоваться преимуществами, которые дают им цифровые технологии, но они не понимают и не хотят понимать, какие алгоритмы стоят за этими системами, что социальные сети «знают» о своей личной жизни и как они анализируют каждый сделанный ими щелчок.

«Техников», знакомых с работой алгоритмов искусственного интеллекта, немного. Большинство пользователей имеют гораздо меньше информации по этому вопросу. Они не знают точно, как работает «искусственный интеллект», давая им рекламу, предложения, темы. И на основании этих предложений они все еще принимают решения.

Знание, понимание и доверие

Существуют исследования, которые показывают, что даже если точно знать, как работают алгоритмы, это не повышает уверенность в их «выводах» и «предсказаниях». Например, в недавнем эксперименте группы студентов было предложено услышать подробные объяснения того, как система искусственного интеллекта оценивает их результаты на экзамене. В конечном счете, студенты, которые услышали самые прозрачные и подробные объяснения, верят в наименьшую часть системы. Поэтому знание алгоритмов не является гарантией того, что мы можем доверять системе.

Контрольный вопрос

Это приводит к тому, что алгоритмы оказывают большое влияние на нашу жизнь, но мало кто интересуется, какие данные обрабатывает искусственный интеллект и как; большинство предпочитают не осознавать эти проблемы.

Мало кто на самом деле контролирует, какие алгоритмы используют их личные данные. Многие платформы в Интернете имеют опции для настройки личных данных, как их накапливать, как обрабатывать, но лишь немногие прибегают к реальному вмешательству в эти настройки. Пользователи часто не знают. Например, в опросе 74% пользователей Facebook говорят, что не знают, как платформа «понимает» их личные предпочтения.

74%, это три четверти людей! Это огромная масса пользователей, которые не знают, как их отслеживают и анализируют. Эти люди принимают решения о покупке на основе предложений, которые им принесут алгоритмы искусственного интеллекта. Эти люди решают, какие тематические группы будут посещать — исходя из того, что им предложат алгоритмы искусственного интеллекта. Эти люди принимают даже серьезные решения, например, как воспитывать своих детей или как обращаться со своими родственниками — опять же на основе предложений, которые им принесут алгоритмы искусственного интеллекта. Предложения сделаны из алгоритмов, для которых неясно, как они собирают данные о людях и как они их жуют.

Новая элита

Другими словами, «компьютерная грамотность» сегодня означает гораздо больше, чем знание базовых компьютерных компонентов и базовых программ, таких как обработка текстов. Сегодня компьютерная грамотность означает понимание и осознание последствий постоянного пребывания в сети, а также тот факт, что любые забавные и приятные вещи — от социальных сетей до спортивных приложений и электронного банкинга — требуют сбора личных данных, и это позже повлияет на ваши решения.