Исследователи MIT создали ИИ-психопата, обучив нейросеть с помощью Reddit. Читайте на Cossa.ru

08 июня 2018, 15:25

Исследователи MIT создали ИИ-психопата, обучив нейросеть с помощью Reddit

Учёные хотели показать опасность использования неправильных наборов данных при обучении ИИ.

Исследователи Массачусетского технологического института рассказали о своём нового проекте — искусственном интеллекте по имени Норман, названного в честь героя фильма «Психо» Альфреда Хичкока. По словам учёных, это первый в мире ИИ-психопат.

ИИ-Норман

Норман — нейросеть, которая умеет создавать текстовые описания изображений. Исследователи MIT обучали ИИ на основе подписей к самому жуткому контенту на Reddit на тему смерти и насилия. После этого Норман прошёл тест Роршаха, который применяется для обнаружения нарушений в психике. Затем учёные сравнили ответы Нормана с ответами стандартной нейросети.

Выяснилось, что там, где обычная ИИ-система видела сидящих на ветке птиц, Норман разглядел человека, которого бьёт током.

Первый в мире ИИ-психопат Норман

Ещё на одном изображении, к примеру, Норман видит человека, «которого убивают из пулемёта средь бела дня». В это время стандартная нейросеть описывает кляксу как чёрно-белую бейсбольную перчатку.

Исследователи MIT создали ИИ-психопата, обучив нейросеть с помощью Reddit

Цель эксперимента ученых MIT — демонстрация того, как исходные данные и предвзятость в их отборе влияют на работу нейросети. Команда исследователей уже запускала похожие проекты: ИИ генерировал страшные изображения, судил моральность принятых решений и даже проявлял сочувствие.

В MIT предложили пользователям помочь Норману исправиться и пройти для этого тест Роршаха.

Ранее мы писали об инженерах MIT, которые открыли роботизированный ресторан быстрого питания.

Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru

Онлайн-конференция: тренды, кейсы и технологии в медийной рекламе

11 декабря в 11:00 Авито приглашает на трансляцию маркетологов, рекламодателей и агентства.

Узнайте, как медийная реклама помогает брендам в продвижении и влияет на бизнес-показатели.

Зарегистрироваться →

Реклама. ООО "КЕХ ЕКОММЕРЦ". ОГРН 5077746422859

Телеграм Коссы — здесь самый быстрый диджитал и самые честные обсуждения: @cossaru

📬 Письма Коссы — рассылка о маркетинге и бизнесе в интернете. Раз в неделю, без инфошума: cossa.pulse.is

✉️✨
Письма Коссы — лаконичная рассылка для тех, кто ценит своё время: cossa.pulse.is

Вход на cossa.ru

Уже есть аккаунт?
Выбирай любой вариант входа:
Facebook Vkontakte

Используйте свой аккаунт в социальной сети Facebook или Вконтакте, чтобы пользоваться сайтом

Не забудьте написать email на странице своего профиля для управления рассылкой