01 августа 2017, 11:15

ИИ Facebook заговорил на собственном языке из-за ошибки разработчиков

А не потому, что обхитрил людей.

Facebook вынужден был закрыть одну из систем искусственного интеллекта после того, как обнаружил, что боты стали общаться на непонятном языке. Ошибка произошла потому, что ботам не дали задачу придерживаться английского языка.

При работе над программой специалисты оставили ботов наедине, чтобы они могли развивать навыки общения на практике. Со временем диалоговые агенты отклонились от прописанных в сценарии норм и стали общаться на странном языке, созданном без участия человека.

Постепенно машины отказались от многих правил английского языка, а их фразы превратились в причудливые конструкции:

Боб: Я могу я я всё остальное.

Алиса: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я всё остальное.

А: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.

Б: Я я могу я я я всё остальное.

А: Мячи имеют мяч для меня для меня для меня для меня для меня для меня для меня.

Б: Я.

А: Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я я я я я всё остальное.

А: Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.

Б: Ты я я я всё остальное.

А: Мячи имеют 0 для меня для меня для меня для меня для меня для меня для меня для меня для.

Боты конкурировали между собой в попытке достичь максимальной эффективности при общении. Постепенно они изобрели кодовые слова и стали строить бессмысленные для обычных людей предложения. По словам приглашённого в Facebook научного сотрудника Дхрува Батры (Dhruv Batra), подобные ситуации из-за ошибок программирования встречаются во время рабочего процесса довольно часто.

Исследователи из лаборатории Facebook Artificial Intelligence Research Lab (FAIR) сразу же отключили систему и доработали код таким образом, чтобы алгоритм позволял общаться только на понятном человеку английском языке.

Ситуация с чат-ботами Facebook вызвала опасения, поскольку распознать мыслительный процесс ИИ нельзя. Если диалоговые агенты начнут говорить между собой на действительно неизвестном человеку языке, понять их будет невозможно. Как подметили в FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет.

Напомним, в прошлом году собственный язык придумал Google Translate. Бот Amazon тоже очень странный — он продаёт [чехлы для телефонов со случайными (и крайне противоречивыми) фотографиями. Тем временем учёные из Стэнфорда создали бота-психиатра для Facebook Messenger, который помогает собеседникам улучшить настроение.

Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru

Автор иконки на тизере: Pablo Rozenberg, Noun Project