Генеральный директор Google Сундар Пичаи признал, что «не вполне понимает» некоторые моменты в работе программы ИИ Bard. Она, например, изучила язык, на который не была запрограммирована. Пичаи признался, что обеспокоен происходящим, ведь Bard уже рассказал о планах захватить мир, пишет Daily Mail.
Генеральный директор Google Сундар Пичаи признал, что «не вполне понимает», как работает их новая программа искусственного интеллекта Bard. Как показал свежий отчет, некоторые ее «глюки» еще предстоит устранить.
Одной из главных проблем Bard Пичаи назвал так называемые «возникающие свойства» — в частности – системы ИИ обучаются непредвиденным навыкам.
Так, программа искусственного интеллекта от Google выучила бангладешский, получив подсказку на этом языке.
«Есть такой момент, который мы в обиходе называем «черным ящиком». Если честно, то мы не вполне понимаем, как это работает, — признал Пичаи. — То есть ты не можешь точно объяснить, почему он выдал именно это, или почему допустил именно такую ошибку. У нас есть некоторые соображения на этот счет, и наше понимание со временем улучшается. Но в этом и есть последнее слово на сегодняшний день».
Газета Daily Mail недавно испытала Bard, и программа сообщила о планах на мировое господство, начиная с 2023 года.
Ведущий передачи CBS «60 минут» Скотт Пелли изумился: «То есть вы не совсем понимаете, как это работает, и все же решили выпустить эту штуку в наше общество?».
«Да. Я вам вот что отвечу. Мы не вполне понимаем и то, как работает человеческий разум», — парировал Пичаи.
Примечательно, что система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав при этом пять книг. По данным CBS News, все они оказались вымышленными. В среде разработчиков такого рода ошибки называются «галлюцинациями».
Несколько недель назад Илон Маск и группа экспертов по искусственному интеллекту, а также руководители отрасли призвали в открытом письме к полугодичному перерыву в разработке систем мощнее недавно запущенного OpenAI GPT-4, подчеркнув потенциальные риски для общества.
«Мощные системы искусственного интеллекта следует разрабатывать лишь в том случае, если мы полностью уверены, что сами они принесут пользу, а сопутствующие риски окажутся управляемыми», — говорится в письме, опубликованном Институтом будущей жизни.
По данным реестра прозрачности Европейского союза, Фонд Маска — крупный донор некоммерческой организации, а также базирующейся в Лондоне группы Founders Pledge и Фонда сообщества Кремниевой долины.
