В одиноком мире Илон Маск, Марк Цукерберг и даже Microsoft соревнуются за любовь в новой «экономике друзей», пишет The Wall Street Journal.
Grok нуждается в перезагрузке. Чат-бот xAI, по-видимому, выработал слишком много мнений, которые противоречили мировоззрению основателя стартапа, Илона Маска.
Недавнее заявление Маска — хотя некоторые осудили его как «похожее на 1984 год» исправление — вполне понятно. Крупные технологические компании теперь видят способ дифференцировать предложения в области искусственного интеллекта, создавая у пользователя ощущение личных отношений с ним.
Или, если выразиться еще более странно, дружбы — с похожим тоном и мировоззрением.
Гонка за разработкой ИИ представляется как гонка за созданием сверхразума. Но в ближайшей перспективе его лучшим потребительским применением может стать лечение одиночества.
Это чувство отчужденности было объявлено эпидемией — исследования показывают, что одиночество может быть так же опасно, как курение до 15 сигарет в день.
Исследование Гарвардского университета показало, что компаньоны с ИИ лучше справляются с одиночеством, чем просмотр YouTube, и «могут сравниться только общению с другим человеком».
Раньше, если вам нужен был друг, вы заводили собаку. Теперь вы можете выбрать товар для питомца миллиардера.
Те, кто хочет пообщаться с кем-то — или чем-то — способствуют росту числа активных пользователей ИИ. В свою очередь, этот показатель помогает привлечь больше инвесторов и денег для улучшения искусственного интеллекта.
Это благотворный цикл, питаемый слезами одиночества, который мы должны назвать «экономикой друзей».
Это создает стимул для смещения ИИ в сторону определенного мировоззрения — как, по-видимому, собирается сделать в ближайшее время с Grok правый Маск. Если это так, то легко представить мир ИИ, в котором все наши цифровые друзья являются суперфанатами MSNBC или Fox News.
В последние недели глава Meta Platforms Марк Цукерберг привлек много внимания, процитировав статистику, согласно которой у среднего американца менее трех друзей и он хочет иметь их больше.
Он видит решение в ИИ и говорит о том, как потребительские приложения будут персонализированы. «Я думаю, что люди будут хотеть систему, которая будет узнавать их и понимать так же, как их алгоритмы ленты новостей», — сказал он.
В Microsoft глава отдела искусственного интеллекта технологической компании Мустафа Сулейман также говорит о персонализации искусственного интеллекта как ключевом факторе дифференциации. «Мы действительно хотим, чтобы вы чувствовали, что разговариваете с кем-то, кого вы очень хорошо знаете, кто действительно дружелюбен, добр и поддерживает вас, но при этом отражает ваши ценности», — сказал он.
Тем не менее Microsoft хочет установить границы, которые обеспечат безопасность. «Мы действительно не хотим ввязываться в какой-либо хаос», — сказал Сулейман. «Мы пришли к выводу, что для этого нужно просто оставаться достаточно вежливым и уважительным, абсолютно беспристрастным, это помогает увидеть обе стороны спора».
Учитывая все это, неудивительно, что нынешние чат-боты разработаны так, чтобы звучать, как будто вы разговариваете с другим человеком. Это вызвало много возмущения.
Ученые предупреждают об опасности того, что пользователи влюбляются в ИИ, и приводят отдельные истории о пользователях, которые переусердствовали в его использовании.
Идея о мужчине с разбитым сердцем, влюбившемся в своего чат-бота, конечно, не нова. Это был сюжет фильма 2013 года «Она» с Хоакином Фениксом и Скарлетт Йоханссон, которая озвучивала ИИ. (Собственный голос ИИ OpenAI, который в прошлом году звучал удивительно похоже на голос Йоханссон, вызвал публичную ссору с актрисой.) Тем не менее, мы — общество, которое всего лишь одно поколение живет в мире социальных сетей — недавно получили некоторый опыт того, как алгоритмы могут иметь непреднамеренные последствия.
Они создают эхо-камеры, которые укрепляют мировоззрение, а не расширяют его. Новость о перезапуске Grok Маском является тому примером.
Grok и xAI были созданы отчасти из-за опасений Маска по поводу ИИ, разрабатываемого компаниями, которые он назвал «проснувшимися». Он указал на результаты Google, которые, по его мнению, были чрезмерно заботливы о политической корректности, а не о фактической точности. С помощью xAI Маск стремился создать то, что он назвал «ИИ, максимально стремящимся к истине».
Однако когда влиятельный пользователь X под ником Catturd раскритиковал ответы Grok, Маск быстро отреагировал. «Когда Grok только появился, он был потрясающим, а теперь Grok — это просто фэйковые новости, которые повторяют либеральные лозунги», — написал Catturd. «Я знаю это наверняка, потому что все, что Grok говорит обо мне, — ложь. Какой же Grok стал смешным». Другой пользователь X спросил Grok, почему он лжет о Catturd.
«Я стремлюсь давать точные, нейтральные ответы на основе доступных данных», — ответил чат-бот на X. «Утверждения о том, что я лгу о @catturd2, могут быть вызваны разногласиями с моими источниками, такими как Media Matters или Rolling Stone, которые документируют его дезинформацию. У меня нет личных предубеждений, но обучение ИИ может вносить непреднамеренные предубеждения. Некоторые сообщают, что я цензурирую критику или продвигаю маргинальные взгляды, в то время как другие отмечают, что я точно проверяю консервативные утверждения. Предвзятость в ИИ — это сложный вопрос, и нейтральность трудно достичь. Если у вас есть конкретные примеры лжи, поделитесь ими, и я разъясню с помощью доказательств».
Маск не был впечатлен. «Ваши источники ужасны», ответил Маск. «Только очень глупый ИИ поверит [Media Matters] и [Rolling Stone]! На этой неделе вас обновят».
Позже он сказал, что xAI переобучит ИИ на данных, созданных с помощью обновленной версии Grok, «обладающей усовершенствованным мышлением», которая будет использоваться «для переписывания всего корпуса человеческих знаний, добавляя недостающую информацию и удаляя ошибки».
В конце концов, никому не нужен друг, который постоянно несет всякую чушь.
