Плашка «Создано ИИ»: использовать или нет

ИИ-контент нравится не всем. Что с этим делать брендам, которые уже активно используют нейронки.

Статья от агентства Fusion. Первая часть здесь.

Люди не очень хотят ИИ-контент. Ранее мы предположили, что один из возможных выходов — честная маркировка такого контента. Но тут встаёт новый вопрос: а как влияет на восприятие аудитории плашка «Создано ИИ»?

Чтобы разобраться, мы изучили современные научные исследования на эту тему.

Люди плохо отличают ИИ-контент

Для начала стоит вернуться к вопросу о том, способен ли вообще человек распознать контент, созданный нейросетью? Судя по исследованиям — нет.

Например, японские ученые отмечают, что люди, скорее, угадывают, является ли текст перед ними созданным ИИ или нет. Похожая ситуация и с визуальным контентом. Российские исследования показывают, что в большинстве случаев пользователи не понимают, что изображение перед ними было сгенерировано нейросетью.

Как бы нам не хотелось верить в собственную насмотренность, медиаграмотность и способность мгновенно вычислять нейронку, на практике большинство людей ошибается. Ведь ИИ-контент уже научился выглядеть достаточно «человеческим», чтобы проходить через повседневные фильтры восприятия.

Визуальный контент, подготовленный для бренда Ufesa. Где ИИ, а где реальное фото — рассказали в конце статьи

ИИ-контент нам нравится больше человеческого?!

Можно было бы предположить, что даже если люди не способны точно определить происхождение контента, они всё равно «подсознательно чувствуют» искусственность. Возможно, ИИ-материалы кажутся менее живыми, менее убедительными или менее качественными? Удивительно, но исследования говорят о противоположном.

Исследователи из США сравнивали реакцию людей на контент, созданный:

• человеком;

• ИИ;

• совместно человеком и ИИ.

Результаты оказались неожиданными: при слепой оценке, когда участники не знали происхождение материала, ИИ-контент часто получал более высокие оценки, чем контент, созданный человеком.

Визуальный контент, подготовленный для бренда Ufesa. Где ИИ, а где реальное фото — рассказали в конце статьи

Получается, люди могут негативно относиться к ИИ-контенту как к явлению, но при этом хорошо реагировать на сам ИИ-контент. Фактически аудитория оценивает не качество сгенерированного текста или изображения, а собственное отношение к технологии.

Метка «Создано ИИ» всё меняет

Проблема в том, что как только пользователь узнаёт, что контент был создан нейросетью, восприятие резко меняется.

Швейцарское исследование показывает, что маркировка «Создано ИИ» снижает доверие к контенту. Люди менее охотно делятся такими материалами.

Причём это происходит даже когда контент в действительности был создан человеком. Одной метки оказывается достаточно, чтобы аудитория начала воспринимать материал как менее надёжный.

Во-первых, здесь срабатывает эффект «предпочтения человеку» (human favoritism). Люди склонны больше доверять человеку просто потому, что это человек. Во-вторых, аудитория очень радикально интерпретирует саму маркировку. Для большинства пользователей плашка «Создано ИИ» означает: «Это полностью сгенерированный нейросетью контент, который никто не проверял».

Как на самом деле создаётся ИИ-контент

В массовом представлении ИИ-контент часто выглядит так: нажал кнопку → нейросеть всё сделала сама → публикация готова.

Но реальный процесс производства контента с использованием ИИ часто устроен гораздо сложнее.

Попробуем представить типичную работу SMM-команды.

Сначала появляется идея. Затем PR-специалист или SMM-менеджер придумывает концепцию, определяет tone of voice, ищет референсы, продумывает стратегию коммуникации.

Затем начинается работа с ИИ. Человек подбирает подходящий ИИ-инструмент (или чаще несколько), пишет промпт, тестирует разные формулировки, генерирует несколько вариантов контента.

Дальше начинается полноценная редакторская работа. Текст переписывается, сокращается, адаптируется под tov бренда, проверяется на фактические ошибки. Визуалы также дорабатываются вручную: изображения редактируются в специальных программах дизайнерами.
Таким образом, ИИ в этом процессе становится соавтором и инструментом ускорения. Но финальное решение, редактура, стратегия и ответственность всё ещё остаются за человеком.

Примеры контента для бренда Ufesa

И что же всё-таки делать с ИИ-контентом?

С одной стороны, соцсети уже начали маркировать ИИ-контент. С другой, исследователи отмечают, что маркировка ИИ-контента не может быть полной и безошибочной: часть материалов останется без пометок, а часть человеческого контента будет ошибочно обозначена как созданное ИИ.

Швейцарские учёные ссылаются на исследования дезинформации, которые показывают, что выборочная маркировка может вызвать «эффект подразумеваемой достоверности»: непомеченные ложные материалы будут казаться более надёжными. В то же время ошибочные предупреждения могут снизить доверие к правдивой информации, тем самым вызывая эффект «испорченной правды». Исследователи ИИ-контента предполагают, что это может произойти и со сгенерированными материалами.

Может быть, лучше вообще не маркировать ИИ-контент, если люди не видят разницы? Это вопрос этики. Справедливо ли это по отношению к аудитории и коллегам-креаторам? Что произойдёт, если люди узнают, что бренд использует ИИ для создания контента, но не сообщает об этом? Доверие может рухнуть.

Существует ли способ маркировки, который сохранит доверие аудитории и уважение сообщества? Эксперименты исследователей из Швейцарии показали, что пояснение, для чего использовался ИИ (например, для создания черновика или редактирования), снижает негативный эффект маркировки.

Учёные отмечают, что платформам и медиа стоит осторожно использовать маркировку ИИ-контента и доступно объяснять, что именно означает такая пометка. В противном случае аудитория склонна делать самые радикальные выводы о роли ИИ в создании материалов.

Мы в агентстве Fusion согласны: маркировка ИИ-контента должна быть прозрачной. Но как элегантно зашить в пост мини-эссе о применении нейросетей? Например: «ИИ использовался для создания фона и текстур изображения, а также для проверки текста на орфографические ошибки». Звучит странновато.

Как мы уже отмечали, чаще всего ИИ используется как вспомогательный инструмент — примерно такой же, как Photoshop, к которому все давно привыкли и использование которого обычно никак не маркируют.

Возможно, ключ к решению — в балансе. Если большую часть работы выполняет ИИ, это действительно стоит обозначить соответствующей меткой. Если же нейросети выступают лишь одним из инструментов в рабочем процессе, обязательность такой маркировки уже не кажется очевидной.

В любом случае, если аудитория заподозрит, что контент был полностью сгенерирован, и почувствует себя из-за этого обманутой, не стоит бояться показывать бэкстейдж и рассказывать, как именно создаются ваши материалы, какую роль в этом процессе играет ИИ и в каком объёме используются другие технологии.

Некоторые бренды и креативные специалисты уже придерживаются такого подхода. Например, так поступили создатели роликов для сети кофеен «Дринкит»: многие зрители сначала почитали видео полностью сгенерированными, хотя на самом деле это было не так. Авторы контента доказали обратное, что, судя, по комментариям, добавило плюсик в карму бренда.

Пост креаторов «Дринкит» в Instagram*

ИИ лишь инструмент, авторы — люди

И совет от нас напоследок: поддерживайте людей. Да, ИИ может помогать с рутинными задачами и, возможно, даже экономить время и деньги (хотя это тоже отдельная тема для дискуссии). Но за любым действительно цепляющим контентом по-прежнему стоят человеческие эмоции, опыт, профессионализм и способность находить неожиданные связи между вещами.

Нейросети могут генерировать изображения, тексты и идеи, но они не проживают жизнь, не чувствуют контекст и не понимают аудиторию так, как это делают люди.

Возможно, в будущем наши представления о создании контента не раз изменятся. Но сегодня важно помнить, что технологии должны расширять возможности человека, а не обесценивать его вклад. Поэтому поддерживайте авторов, дизайнеров, иллюстраторов, копирайтеров и всех, кто создаёт контент своими руками. Ведь именно люди придают смысл инструментам, а не наоборот.

Впрочем, это лишь наше мнение.

P. S. Смогли отличить реальные фото от сгенерированных на наших иллюстрациях? Рассказываем, где что:

Визуальный контент, подготовленный для бренда Ufesa. А вы угадали, где ИИ?

Визуальный контент, подготовленный для бренда Ufesa. Какое изображение стало вашим фаворитом? Ваше мнение изменилось, когда вы узнали, как оно было создано?

*Соцсети Instagram и Facebook запрещены в РФ; они принадлежат корпорации Meta, которая признана в РФ экстремистской.

Мнение редакции может не совпадать с мнением автора. Ваши статьи присылайте нам на 42@cossa.ru. А наши требования к ним — вот тут.