Опасность автозаполнения: не изменяют ли технологии автоисправления наш мозг??

Не изменяют ли технологии автозаполнения и автоисправления то, как работает наш мозг? Об этом пишет Би-би-си.

Когда почтовое приложение в смартфоне постепенно начинает заменять нас в таком личном процессе, как написание письма коллеге, другу или любимому человеку, поневоле задумаешься.

Начните писать ответ на письмо в гугловской Gmail, и вам может показаться, что программа читает ваши мысли. Напишите первые три буквы слова — «спа…», и тут же всплывут три варианта подсказки.

Еще один удар по клавишам — и ваше предложение закончено. Почти без вашего участия.

В старые времена вам приходилось тратить свое бесценное время на то, чтобы самому писать всю эту длиннющую, утомительнейшую фразу — «спасибо большое за приглашение, до встречи».

Но теперь такие почтовые клиенты, как Gmail, способны завершать предложения за вас. В этом помогает искусственный интеллект — алгоритм принято называть обработкой естественного языка. В этом случае учится думать (и писать) так, как свойственно обычному человеку.

Это, конечно, сокращает количество времени, уходящее на написание имейлов, но у многих людей такая способность программы автозаполнения (которую в компании Google называют Smart Compose, «интеллектуальное составление текста») учиться, сканируя наши письма, и искать наиболее подходящие фразы вызывает неприятное чувство чего-то зловещего, пугающего.

Когда машины начинают заменять нас в таком достаточно личном, даже интимном процессе, как написание письма коллеге, другу или любимому человеку, поневоле задумаешься: а не лишает ли это нас кое-чего более важного?

Не утрачиваем ли мы таким образом индивидуальность и радость простого человеческого общения?

Хуже того: а не изменяют ли эти технологии — автозаполнения и автоисправления — то, как работает наш мозг?

Gmail компании Google стала одной из первых крупных систем электронной почты, использующих искусственный интеллект, предугадывающий, какие слова собирается написать пользователь, отвечая на письмо
Gmail компании Google стала одной из первых крупных систем электронной почты, использующих искусственный интеллект, предугадывающий, какие слова собирается написать пользователь, отвечая на письмо

 

«Прогнозирование — это основа нашего восприятия мира и наших отношений с миром», — говорит Мария Геффен, изучающая в Пенсильванском университете (США) нейронные цепочки слухового восприятия и обучения.

«Наш мозг постоянно делает предположения. Например, когда кто-то говорит на фоне громкого шума, мы предполагаем, что он мог сказать в той фразе, которую мы не расслышали полностью. Это справедливо и для более сложных когнитивных задач — например, для написания предложения».

Написание текста (как от руки, так и с помощью компьютера) включает в себя сложную координацию когнитивных процессов, процессов распознавания, среди которых — использование долгосрочной памяти, семантической системы, рабочей памяти и планирования.

Но если мы передаем часть работы по написанию наших предложений машине, это может иметь ряд серьезных последствий для того, как работает наш мозг, считает Геффен.

«Мы проводим эксперименты, во время которых отслеживаем активность нейронов, которые обычно передают в мозг звуки, и видим, что в разные дни тот же самый набор нейронов прибегает к различным моделям активности», — говорит она.

«И будет весьма любопытно узнать, что случается, когда предположения делаются не самим человеком, не его мозгом, а алгоритмом компьютера. И как такой изо дня в день повторяющийся опыт влияет на наши отношения с окружающим миром».

Каждый день в мире 3,8 млрд пользователей отправляют, по некоторым оценкам, 281 млрд имейлов. Это означает, что каждый из нас получает в среднем примерно 74 электронных письма в день

Когда интернета не существовало, мы в лучшем случае получали 2-3 письма в день, и большая часть из них была счетами за коммунальные услуги.

Так что нам, возможно, и не помешает помощь в облегчении бремени ответов на всю эту массу писем.

Технология, которая анализирует наши письменные привычки, наш лексикон, и предлагает наиболее, по ее мнению, подходящие варианты, действительно может свести необходимость в написании десятков букв всего лишь к одному удару по клавиатуре.

Гугловская Smart Compose — лишь один из вариантов подобных технологий. Алгоритмы автоматического ввода слов, использующие знание о том, что мы уже писали в прошлом, работают в большинстве смартфонов.

Начали появляться и алгоритмы, которые завершают наши предложения в текстовых процессорах для настольных компьютеров.

Некоторые опасаются, как бы системы искусственного интеллекта не обеднили словарь детей, привыкших к тому, что компьютер подставляет за них нужные слова
Некоторые опасаются, как бы системы искусственного интеллекта не обеднили словарь детей, привыкших к тому, что компьютер подставляет за них нужные слова

 

А до этих алгоритмов существовали другие — судя по всему, нам давно уже хочется избавиться от необходимости самим дописывать предложения.

Еще до своего Smart Compose почтовая система Gmail ввела в обиход Smart Reply («умный ответ»), предлагавший пользователю три варианта коротких ответов, на один из которых достаточно было кликнуть мышью.

Интернет-поисковики сейчас широко используют как функцию автозаполнения, так и автоматическое предложение варианта запроса. Автозаполнение работает и в браузерах, и в наших смартфонах.

И в этом много удобного — можно меньше задумываться над элементарными вещами, экономится время, которое мы тратим на заполнение всевозможных онлайн-форм. Автозаполнение, согласно одному исследованию, даже помогает найти более дешевые авиабилеты.

Но и куда более простые функции — например, автоисправление, впервые появившееся в Microsoft Word в 1990-х, и возникшая чуть позже помощь в написании смс-сообщений в мобильных телефонах — вызывали тревогу относительно того, как они повлияют на навыки письма у детей.

И хотя судить об этом слишком рано и нужны серьезные исследования, уже есть некоторые признаки: такие технологии действительно могут изменить то, как мы пользуемся языком.

В одном исследовании, проводившемся на протяжении года, обнаружилось, что те ученики средней школы, которые пользовались автоматическим вводом текста на своих мобильных телефонах, делали больше орфографических ошибок, чем те, кто такой функцией не пользовался.

С другой стороны, студенты университетов, которые использовали технологию интеллектуального ввода текста, делали меньше ошибок.

Есть даже ряд доказательств того, что технологии автоматического ввода текста положительно влияют на навыки тех, кто ими пользуется, утверждает Клэр Вуд, психолог из Университета Ноттингем Трент (Великобритания).

«Известно, что взрослым опыт постоянного столкновения с неправильным написанием часто мешает вспомнить, как же на самом деле правильно пишется то или иное слово», — рассказывает она.

«Так что функция автоматического ввода поможет минимизировать как случаи неправильного написания, так и негативное воздействие этих случаев на взрослых пользователей. В целом она улучшит и качество интернет-общения».

Умные системы написания имейлов, предлагающие варианты ответа и заканчивающие за нас предложения, могут улучшить качество общения онлайн
Умные системы написания имейлов, предлагающие варианты ответа и заканчивающие за нас предложения, могут улучшить качество общения онлайн

 

Однако, как предупреждает Вуд, системы автоматического ввода, работающие на основе искусственного интеллекта, полагаются на то, что и как мы писали в прошлом. Так что они вполне могут предлагать текст с ошибками — особенно если вы раз за разом повторяли в своих письмах одну и ту же орфографическую ошибку.

Кроме того, эта функция может влиять не только на то, какими словами мы пишем, но и на смысл написанного, добавляя определенную предвзятость, как обнаружили ученые-компьютерщики из Гарвардского университета и Дрейперовской лаборатории в Кембридже (штат Массачусетс).

Поскольку алгоритмы искусственного интеллекта обобщают довольно большие массивы данных, они часто отбирают и затем предлагают слова либо со слишком позитивным, либо со слишком негативным звучанием.

Эта функция может влиять не только на то, какими словами мы пишем, но и на смысл написанного

А теперь представьте, что вы пишете рецензию на фильм, который вам не понравился, а функция автозаполнения все время предлагает вам исключительно положительные эпитеты…

«Системы автозаполнения начинают предлагать нам гораздо более длинные, более связные, более развернутые варианты продолжения текста, чем раньше», — подчеркивает Кен Арнольд, исследователь из Гарвардской школы технологии и прикладных наук.

«Дух захватывает, когда думаешь, как эффективно нам будут помогать такие системы в будущем: писать письма станет гораздо легче. Но в этих разработках нужна полная прозрачность и ответственность, чтобы защитить нас от предлагаемых искусственным интеллектом вариантов, которые заведомо предвзяты или манипулятивны».

Функция автозаполнения может предлагать варианты, которые ей кажутся наиболее подходящими, но на самом деле не соответствуют контексту письма
Функция автозаполнения может предлагать варианты, которые ей кажутся наиболее подходящими, но на самом деле не соответствуют контексту письма

 

Сейчас начинают пользоваться мобильными телефонами уже лет с восьми. Они посылают СМС-сообщения, а затем и имейлы, или переписываются в мессенджерах.

Возникает вопрос: какое воздействие на становление сознания и развитие интеллекта подрастающего поколения окажет постоянно предлагаемая им помощь в подборе слов?

«По мере того, как все больше детей получает в свои руки мобильный телефон, все более вероятно, что автоматический ввод влияет на формирование их словарного запаса», — говорит Чайнви Драйер, практикующий из Канзаса.

Интересно и то, что состоятельные обитатели Кремниевой долины (где разрабатывается большая часть мобильных технологий, которыми мы пользуемся) не хотят, чтобы их дети с раннего возраста сидели перед экранами компьютеров.

В одной из школ в Маунтин-Вью (Калифорния), где год обучения стоит 38 тыс. долларов и где учатся отпрыски больших начальников из Кремниевой долины, в самых младших классах компьютеры не используются.

В школе указывают на исследования, из которых можно сделать вывод: использование компьютеров и обмен текстовыми сообщениями (с функцией автоматического ввода, естественно) плохо влияют на навыки письма у школьников.

И многие учителя из других школ с этим согласны. «Часто школьники, которые полагаются на автоматический ввод, так ему доверяют, что даже не обращают внимания, то ли слово поставлено, имеет ли оно смысл в этом контексте», — говорит Кейт Хайткамп, учительница из штата Огайо.

«И если ученик не обладает хотя бы базовыми навыками правописания, то функция автоисправления вряд ли сильно поможет, поскольку может предложить неправильное слово».

Чрезмерная зависимость от этого технологического костыля может иметь далеко идущие последствия для нынешних детей. Ведь лексикон ребенка, даже в раннем возрасте, может служить показателем того, насколько он будет успешен в жизни.

Вудс, однако, говорит, что нет указаний на то, что технология автоматического ввода как-то влияет на грамотность детей.

«В конечном счете главное преимущество, которое дает эта технология, — это увеличение скорости, с которой мы пишем наши сообщения онлайн», — подчеркивает она.

«Для тех детей, у которых навыки чтения развиты сильнее, чем навыки правописания, она облегчает общение в интернете и таким образом приучает к обмену текстовыми сообщениями с более раннего возраста, а также полезна детям, испытывающим трудности по части грамотности».

Многие из нас ежедневно получают больше имейлов, чем мы в состоянии ответить. Так что частичная автоматизация процесса может быть полезна
Многие из нас ежедневно получают больше имейлов, чем мы в состоянии ответить. Так что частичная автоматизация процесса может быть полезна

 

Но могут быть и другие последствия, влияющие на то, как мы общаемся друг с другом.

Компания Google недавно сообщила, что встроила в свою технологию Smart Compose фильтры, которые не дают использовать гендерные местоимения, то есть местоимения, содержащие информацию о роде.

Один из исследователей компании обнаружил, что стоит ему написать предложение со словом «инвестор», как искусственный интеллект заключает, что инвестор — мужского рода. Точно так же врач — это «он», «его», а медсестра — «она», «ее».

Чтобы избежать такого, Google решил полностью убрать гендерные местоимения из лексикона своего алгоритма.

Так или иначе, применение технологий, которые могут писать за нас, будет расширяться. На основе имеющейся информации компьютеры уже самостоятельно и целиком пишут спортивные новости. А некоторые используют технологию автозаполнения для создания новых форм художественной литературы.

Существует ли риск того, что в результате родной язык, которым мы ежедневно пользуемся, что-то из-за этого потеряет?

«Изымая момент прогнозирования, предположения из нашей языковой системы, более продвинутый алгоритм интеллектуального ввода текста заполнит ее более скудными и убогими вариантами», — говорит Геффен.

«В конечном счете, — предупреждает она, — мы рискуем тем, что написанное нами будет звучать не очень по-человечески».

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Поделиться