ИИ Facebook заговорил на собственном языке из-за ошибки разработчиков. Читайте на Cossa.ru
Sociorama
SMM-агентство
01 августа 2017, 11:15

ИИ Facebook заговорил на собственном языке из-за ошибки разработчиков

А не потому, что обхитрил людей.

Facebook вынужден был закрыть одну из систем искусственного интеллекта после того, как обнаружил, что боты стали общаться на непонятном языке. Ошибка произошла потому, что ботам не дали задачу придерживаться английского языка.

При работе над программой специалисты оставили ботов наедине, чтобы они могли развивать навыки общения на практике. Со временем диалоговые агенты отклонились от прописанных в сценарии норм и стали общаться на странном языке, созданном без участия человека.

Постепенно машины отказались от многих правил английского языка, а их фразы превратились в причудливые конструкции:

Боб: Я могу я я всё остальное.

Алиса: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я всё остальное.

А: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.

Б: Я я могу я я я всё остальное.

А: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.

Б: Я.

А: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я я я я я всё остальное.

А: Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я я я всё остальное.

А: Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.

Боты конкурировали между собой в попытке достичь максимальной эффективности при общении. Постепенно они изобрели кодовые слова и стали строить бессмысленные для обычных людей предложения. По словам приглашённого в Facebook научного сотрудника Дхрува Батры (Dhruv Batra), подобные ситуации из-за ошибок программирования встречаются во время рабочего процесса довольно часто.

Исследователи из лаборатории Facebook Artificial Intelligence Research Lab (FAIR) сразу же отключили систему и доработали код таким образом, чтобы алгоритм позволял общаться только на понятном человеку английском языке.​

Ситуация с чат-ботами Facebook вызвала опасения, поскольку распознать мыслительный процесс ИИ нельзя. Если диалоговые агенты начнут говорить между собой на действительно неизвестном человеку языке, понять их будет невозможно. Как подметили в FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет.

Напомним, в прошлом году собственный язык придумал Google Translate. Бот Amazon тоже очень странный — он продаёт [чехлы для телефонов со случайными (и крайне противоречивыми) фотографиями. Тем временем учёные из Стэнфорда создали бота-психиатра для Facebook Messenger, который помогает собеседникам улучшить настроение.

Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru

Автор иконки на тизере: Pablo Rozenberg, Noun Project

SMM: от стажёра до профи – новый онлайн-курс

Пройди путь от новичка до профи в SMM вместе с новым курсом от Skillbox. 6 модулей, 14 недель обучения, домашние задания, решение задач на боевых кейсах заказчиков, авторитетный диплом.

Cossa рекомендует: уж в чём в чём – а в SMM мы разбираемся =) Следующий поток стартует уже 15 марта.

Реклама

Комментарии:



Чем живёт диджитал?
Главное — в рассылке:




Вход на cossa.ru

Уже есть аккаунт?
Выбирай любой вариант входа:
Facebook Vkontakte

Используйте свой аккаунт в социальной сети Facebook или Вконтакте, чтобы пользоваться сайтом

Не забудьте написать email на странице своего профиля для управления рассылкой