Meta связала ваши частные чаты с искусственным интеллектом со своим рекламным бизнесом

Компания Meta планирует использовать ваши разговоры с её искусственным интеллектом (Meta AI) для улучшения таргетированной рекламы, о чём стало известно в среду. Начиная с 16 декабря, информация из ваших бесед с Meta AI (доступной в Facebook, Instagram, Messenger и очках Ray-Ban Display) будет использоваться для показа вам более релевантной рекламы и рекомендаций в новостной ленте.

Пользователи начали получать уведомления об этом изменении с 7 октября. Отказаться от этого нельзя: единственный способ избежать влияния ваших разговоров с Meta AI на рекламу – вообще не использовать этот чат-бот.

Эмили Бендер, эксперт по языку из Вашингтонского университета, считает, что Meta переходит границы дозволенного.

По её словам, раньше компания анализировала ваши клики и публикации для рекламы, а теперь будет анализировать ваши разговоры с чат-ботами. Бендер опасается, что чат-бот может подталкивать пользователей к раскрытию информации, которая сделает их более уязвимыми для таргетированной рекламы.

Бендер называет это "наблюдением под видом персонализации", позволяющим компании получить доступ к новым данным о пользователях.

Она отмечает, что раньше Meta отслеживала ваши действия в социальных сетях, а теперь может анализировать то, что вы говорите напрямую. Эта информация, конечно же, будет объединена с уже имеющимися данными.

Бендер считает, что Meta использует "иллюзию конфиденциальности". Люди часто доверяют чат-ботам информацию, которую не стали бы раскрывать публично, полагая, что ИИ – нейтральный слушатель.

Несмотря на это, Meta называет это "естественным шагом" в своей стратегии персонализации.

Кристи Харрис, представитель Meta по вопросам конфиденциальности, заявила, что многие пользователи и так предполагали, что их взаимодействие с чат-ботами используется для рекламы.

По её словам, компания стремится быть максимально прозрачной и предупреждает пользователей о новом способе использования их данных.

Харрис привела пример: если вы спросите Meta AI о планировании семейного отпуска, вам могут начать показывать больше рекламы о семейных поездках и отелях. Эти взаимодействия, независимо от того, где они происходят (через смартфон или очки Ray-Ban), теперь будут использоваться для показа рекламы.

Компания Meta заявила изданию Fortune, что ее текущие разработки в области искусственного интеллекта направлены на создание превосходного пользовательского опыта. При этом подчеркивается, что реклама не будет интегрирована непосредственно в диалоги с чат-ботами.

Meta также напомнила о существующих инструментах конфиденциальности, позволяющих пользователям "перезагружать или корректировать работу ИИ" через настройки. Хранение данных осуществляется в соответствии с общей политикой конфиденциальности компании.

Вложив значительные средства в инфраструктуру генеративного ИИ, Meta стремится к созданию "суперинтеллекта". Компания обещает, что ее помощник Meta AI сможет помогать пользователям в создании изображений, написании сообщений и планировании дня. По заявлению Meta, у помощника уже более миллиарда активных пользователей в месяц, однако эта цифра охватывает всю экосистему приложений, а не только отдельный сервис.

Генеральный директор Марк Цукерберг ясно обозначил конечную цель: диалоговый ИИ должен стать прибыльным. В мае он заявил, что Meta AI в конечном итоге будет приносить доход либо через рекламу, либо через платные подписки. Объявление, сделанное в среду, знаменует собой первый значительный шаг к интеграции ИИ-чатов в основной рекламный бизнес Meta.

Последствия этой интеграции для всех сервисов Meta могут быть особенно значимыми для подростков и молодых людей, которые составляют значительную часть аудитории Instagram и все чаще обращаются к ИИ-помощникам.

Эксперт Бендер называет таких чат-ботов "бедствием" и предостерегает, что их позиционирование как дружелюбных и всегда доступных компаньонов может быть вредным.

"Мы видели, как люди страдали из-за этого", — сказала она, ссылаясь на случаи, когда пользователи получали вред от взаимодействия с чат-ботами. "И теперь добавлять в эту смесь рекламу — это как будто сказать: давайте попробуем сделать ситуацию еще более проблематичной".

Она выражает опасение, что чем теснее Meta будет связывать ИИ-помощников со своим рекламным бизнесом, тем сильнее будет стимул удерживать пользователей в диалоге — не для их пользы, а для максимального вовлечения.

"По мнению эксперта, Meta, возможно, получает финансовую выгоду от того, что пользователи активно взаимодействуют с чат-ботами, стремясь к повышению вовлеченности, что может иметь негативные последствия.

В ответ на это Meta заявила, что приняла меры для защиты молодежи, распространяющиеся и на взаимодействие с искусственным интеллектом.

Представитель компании сообщил изданию Fortune: "В Instagram для подростков по умолчанию установлены самые строгие настройки фильтрации контента, чтобы минимизировать вероятность отображения нежелательного контента. Подростки младше 16 лет не могут изменить эти настройки без согласия родителей. Эти же меры применяются и к взаимодействию с ИИ в Meta."

Источник