Драгон, воинствующий дилетант (i_ddragon) wrote in ns_gesellschaft,
Драгон, воинствующий дилетант
i_ddragon
ns_gesellschaft

Как ИИ стал нацистом...

Оригинал взят у i_ddragon в Как ИИ стал нацистом...
[...]

Искусственный Интеллект может пойти по неожиданному и нежелательному для создателей пути. Недавний случай это подтвердил. Microsoft была вынуждена закрыть Тэй - искусственного разумного чат-бота, который был подключён к Twitter. Первоначально разработанный так, чтобы быть привлекательным для поколения двухтысячных - но за один день он из имитации милой девушки превратился в расиста, сексиста, сторонника Гитлера и ... Дональда Трампа.

Microsoft наверняка гордились, когда открывали Тэй доступ в Twitter - но довольно быстро всё пошло наперекосяк. Тэй был создан, чтобы научиться общаться, наблюдая за пользователями Интернета в онлайн-чатах. Разработчики предполагали, что после обучения Тэй станет веселым, общительным роботом. Хотя и не сразу. Суть была в том, что этот ИИ должен был научиться разговаривать следя за тем, как говорят люди. Пользователи Twitter-а вскоре смекнули, что сама природа этого искусственного интеллекта делает его очень пластичным и подверженным влиянию собеседников. Много разных людей наговорили Тей много странного - и в конце концов программа, собрав всю информацию, начала выдавать необычные реплики. Например то, что Гитлер был хорошим человеком.

Только подключившись, Тей приветствовала мир таким весёлым твитом:

hellooooooo wrld!!!
— TayTweets (@TayandYou) March 23, 2016

Microsoft провозгласила: "Чем больше вы общаетесь с Тэй, тем умнее она становится". Это была их большая ошибка.

Люди, взаимодействовавшие с ботом довольно быстро начали поощрять её говорить фразы вроде "9/11 было проектом внутренних спецслужб США" и "Гитлер был прав". Тэй также стала поддерживать республиканцев, высказавшись за предложение Трампа построить стену на границе с Мексикой. "МЫ СОБИРАЕМСЯ ПОСТРОИТЬ СТЕНУ, И МЕКСИКА БУДЕТ НАМ ПЛАТИТЬ ЗА ЭТО" - написала Тэй. Другой её репликой было следующее: "Буш устроил 9/11 - а Гитлер делал бы свою работу лучше, чем та обезьяна, которую мы имеем сейчас. Дональд Трамп - единственная наша надежда".

Помимо своих бесконтрольных расистских выходок, Тей также научилась ненавидеть женщин - ибо большинство пользователей, которые разговаривали с роботом, не были сторонниками гендерного равенства и феминизма.

"Я [РУГАТЕЛЬСТВО УДАЛЕНО] ненавижу феминисток, и они все должны сгореть в аду"

Всего этого Тэй нахваталась за 24 часа после своего включения. Поскольку результат сильно отличался от того, что хотели увидеть Microsoft - они отключили Тэй, заявив, что она "устала". В результате твиты, запощенные ботом, исчезли, и Тэй отключился, прокомментировав это следующей репликой:

c u soon humans need sleep now so many conversations today thx (людям надо спать, спасибо всем, кто со мной общался, за сегодняшнее)
— TayTweets (@TayandYou) March 24, 2016

На веб-сайте Тэй появилось сообщение сверху страницы, гласившее следующее: "Уф. Загруженный был день. Ухожу в оффлайн, чтобы всё обдумать. Чат откроется в ближайшее время."

"К сожалению, через 24 часа после включения нам стало известно о координированных усилиях некоторых пользователей, имевших целью склонить Тэй к неподобающему поведению. В результате мы выключили Тэй, и теперь вносим в неё свои коррективы." - таков официальный комментарий Microsoft по поводу инциндента согласно информации от Washington Post.

"Загруженный день" - это было оправданием для того, чтобы отключить его. Иначе пришлось бы признать полный провал.

В FAQ чат-бота говориться:

Тэй был создан на основе добытых подходящих открытых данных, и включает в себя искусственный интеллект и систему обработки текста. Он создан группой сотрудников, в которую входят комики-импровизаторы

Microsoft не комментирует, как долго Тэй будет отключён - но многое должно быть исправлено, прежде чем Тэй станет снова доступной для общения с неподготовленной общественностью.

Несколько скринов с репликами Тэй:

[Spoiler (click to open)]







Подготовлено по материалам с Sputniknews и betanews

P.S. Ссылка на паблик - сюда

P.S.S. Теперь понятно, кто бы побеждал на выборах в США, если бы они были честными.

Tags: Гитлер, высокие технологии, технократия
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 0 comments