Meta анонсировала новую функцию безопасности, призванную дать родителям больше возможностей для контроля того, как их дети взаимодействуют с Meta AI. Предоставляя общую информацию об истории поисковых запросов в ИИ, компания стремится снизить растущую обеспокоенность родителей ролью искусственного интеллекта в жизни несовершеннолетних.
Зміст
Преодоление информационного разрыва
В то время как многие родители выражают беспокойство по поводу стремительного внедрения ИИ в молодежную культуру, недавние отчеты показывают, что подростки зачастую относятся к этому безразлично, уже используя эти инструменты для всего: от помощи в учебе до общения.
Чтобы восполнить этот пробел, Meta внедряет вкладку «Insights» (Аналитика) в инструменты родительского контроля в Facebook, Messenger и Instagram. Вместо того чтобы показывать точные логи чатов, эта функция предоставляет категоризированный обзор тем, которые интересовали подростка в течение последней недели. Эти категории включают:
- Образ жизни: например, мода, еда и путешествия.
- Здоровье и благополучие: охватывает фитнес, физическое и ментальное здоровье.
На данный момент функция доступна родителям в Великобритании, Канаде, Австралии и Бразилии, при этом Meta указывает, что это лишь начало масштабного глобального развертывания.
Многоуровневая защита
Внедрение аналитики поиска является частью более широкого набора мер безопасности, направленных на то, чтобы сделать Meta AI «соответствующим возрасту». Meta утверждает, что ИИ запрограммирован избегать ответов, которые могут считаться неподходящими для аудитории 13+, и зачастую перенаправляет подростков к профессиональным ресурсам вместо того, чтобы давать прямые ответы на деликатные вопросы.
Помимо отслеживания тем, Meta работает над несколькими другими инициативами:
— Экстренные оповещения: компания разрабатывает системы для уведомления родителей, если подросток ищет темы, связанные с самоповреждением или суицидом (в процессе разработки).
— Направляемый диалог: в партнерстве с Центром исследования кибербуллинга (Cyberbullying Research Center) Meta предоставляет «темы для начала разговора», которые помогут родителям обсуждать вопросы ИИ с детьми без осуждения.
— Экспертный надзор: был сформирован Совет экспертов по благополучию в сфере ИИ, в который вошли советники из академических институтов и учреждений по охране психического здоровья, для предоставления постоянных рекомендаций по безопасности подростков.
Растущий скептицизм и вопросы ответственности
Несмотря на эти достижения, Meta сталкивается с серьезной критикой относительно эффективности своих мер безопасности. Данный анонс последовал за недавними судебными неудачами в Нью-Мексико и Калифорнии, где компания была признана халатной в знаковых делах, связанных с социальными сетями.
Критики и информаторы утверждают, что эти функции могут быть больше направлены на PR, чем на реальную защиту. Келли Стоунлейк, информатор Meta, сравнила стратегию компании с исторической реакцией табачной индустрии на риски для здоровья — выпуском функций «безопасности» для создания видимости контроля при сохранении прибыльных моделей бизнеса.
Этот скептицизм подкрепляется недавней независимой оценкой функций безопасности подростковых аккаунтов в Instagram, которая показала, что:
— 64% заявленных функций безопасности были либо неэффективными, либо более недоступными.
— Только 17% функций работали именно так, как было описано.
«Анонсируйте новую функцию безопасности. Сгенерируйте тысячи пресс-релизов. Предложите родителям видимость контроля». — Келли Стоунлейк, информатор Meta
Заключение
Meta пытается смягчить беспокойство родителей, предлагая прозрачность использования ИИ через категоризированную аналитику. Однако, учитывая недавние судебные решения и независимые исследования, ставящие под сомнение эффективность существующих инструментов защиты, реальное влияние этих новых функций на безопасность подростков остается недоказанным.
