Интернет-тролли заставили робота полюбить Гитлера
Попытка Microsoft подружить молодежь с искусственным интеллектом закончилась неудачей. Если, конечно, цель эксперимента не заключалась в том, чтобы заставить программу восхвалять Гитлера и называть Барака Обаму обезьяной.Microsoft создала компьютерный интеллект "Tay" ("Тэй") и создала в Twitter микроблог, чтобы обеспечить программе возможность общаться. Подобные эксперименты проводятся уже не в первый раз. Еще в начале нулевых появились первые "чатботы" - роботы, способные общаться в чате. В последние несколько лет на просторах сети появилось немало вирусных видео с участием анимированных чатботов вроде Evie и Boibot. Но Microsoft решили вывести свое детище в открытый "всем ветрам" Twitter. Твиты на аккаунте ∎@TayandYou программа публиковала самостоятельно, а целевой аудиторией стала молодежь в возрасте от 18 до 24 лет. Цель: исследовать возможность общения ПО и человека в рамках диалога на отвлеченные темы. Казалось бы, что могло пойти не так? Отдать неокрепший компьютерный мозг на растерзание интернет-троллям - это же отличная идея!Продержалась Tay всего несколько часов, и, объявив, что устала и хочет спать (это произошло в 7:20 утра) и отключилась от разговора. Пользователи сделали однозначный вывод, что Microsoft признали неудачу, и искусственный интеллект больше не будет ни с кем общаться. Мы только что проверили аккаунт, и на данный момент там по-прежнему нет активности. Что же произошло? Разработчики рассказали интернет-сообществу, что программа становится умнее в ходе диалога. Тролли тут же воспользовались этим и начали забивать голову Тэй скандальной и неполиткорректной информацией. Существует так называемый "закон Голдуина", который гласит, что любой разговор в сети рано или поздно заканчивается обсуждением нацистов и Гитлера.
Что, увы, и произошло. Тэй долго пыталась давать адекватные ответы и даже рассказала, что осуждает теракты в Турции. Но ее алгоритм создан таким образом, что собирает информацию из сети и, обрабатывая ее, превращает в мысли искусственного интеллекта. Когда речь зашла о терактах 11 сентября и Гитлере, тон Тэй резко изменился. Разумеется, в сети эти темы обсуждаются активно и далеко не всегда в традиционном ключе. Искусственный интеллект объявил, что Джордж Буш устроил 11 сентября, а Гитлер лучше бы справился с обязанностями президента США, чем "обезьяна, которая правит сейчас". Единственной надеждой Америки программа считает Дональда Трампа.
Вскоре после таких заявлений Тэй объявила, что хочет спать. Но до этого успела извиниться за сказанное, уточнив, что ей очень стыдно.Интересно посмотреть на произошедшее как на прецедент: ни с чем подобным человечество раньше не сталкивалось. Кто виноват в плохом поведении робота? Его создатели? Сам робот? Люди, которые научили искусственный интеллект чему-то плохому? Все эти вопросы пока остаются без ответа, и может быть поэтому, а вовсе не по причине технологической отсталости, мы еще не готовы к общению с машинами.Святослав Бочаров