Meta ha anunciado una nueva característica de seguridad diseñada para brindar a los padres más visibilidad sobre cómo sus hijos adolescentes interactúan con Meta AI. Al proporcionar información de alto nivel sobre el historial de búsqueda de IA, la empresa pretende abordar la creciente ansiedad de los padres con respecto al papel de la inteligencia artificial en las vidas de los menores.
Зміст
Cerrando la brecha de información
Si bien muchos padres expresan preocupación por la rápida integración de la IA en la cultura juvenil, informes recientes sugieren que los adolescentes suelen ser indiferentes y ya utilizan estas herramientas para todo, desde asistencia académica hasta compañía social.
Para cerrar esta brecha, Meta está implementando una pestaña “Insights” dentro de sus herramientas de supervisión parental en Facebook, Messenger e Instagram. En lugar de mostrar registros de chat exactos, la función proporciona una descripción general categorizada de los temas que su adolescente ha explorado durante la semana pasada. Estas categorías incluyen:
- Estilo de vida: Como moda, comida y viajes.
- Salud y Bienestar: Cubre fitness, salud física y salud mental.
La función está actualmente disponible para padres en Reino Unido, Canadá, Australia y Brasil, y Meta indica que este es solo el comienzo de una implementación global más amplia.
Protecciones de seguridad en capas
La introducción de información de búsqueda es parte de un conjunto más amplio de medidas de seguridad destinadas a hacer que Meta AI sea “apropiada para la edad”. Meta afirma que la IA está programada para evitar respuestas que se considerarían inapropiadas para una audiencia mayor de 13 años, y a menudo redirige a los adolescentes a recursos profesionales en lugar de brindar respuestas directas a consultas delicadas.
Más allá del seguimiento de temas, Meta está trabajando en varias otras iniciativas:
– Alertas de emergencia: La empresa está desarrollando sistemas para notificar a los padres si un adolescente busca temas relacionados con la autolesión o el suicidio (actualmente en desarrollo).
– Diálogo guiado: En asociación con el Centro de investigación sobre acoso cibernético, Meta ofrece “iniciadores de conversación” para ayudar a los padres a abordar el tema de la IA con sus hijos sin juzgarlos.
– Supervisión de expertos: Se ha formado un Consejo de expertos en bienestar de IA, formado por asesores de instituciones académicas y de salud mental, para brindar orientación continua sobre la seguridad de los adolescentes.
Creciente escepticismo y preocupación por la rendición de cuentas
A pesar de estos avances, Meta enfrenta importantes críticas con respecto a la eficacia de sus medidas de seguridad. Este anuncio se produce tras recientes reveses legales en Nuevo México y California, donde la empresa fue declarada negligente en casos históricos de redes sociales.
Los críticos y denunciantes argumentan que estas características pueden tener más que ver con las relaciones públicas que con una protección genuina. Kelly Stonelake, una denunciante de Meta, ha comparado la estrategia de la compañía con la respuesta histórica de la industria tabacalera a los riesgos para la salud: lanzar características de “seguridad” para brindar la apariencia de control manteniendo al mismo tiempo modelos de ganancias.
Este escepticismo se ve reforzado por una reciente evaluación independiente de las funciones de seguridad de las cuentas para adolescentes de Instagram, que encontró que:
– 64 % de las funciones de seguridad enumeradas eran ineficaces o ya no estaban disponibles.
– Sólo el 17% de las funciones funcionaron exactamente como se describen.
“Anunciar una nueva característica de seguridad. Generar miles de artículos de prensa. Ofrecer a los padres la apariencia de control”. — Kelly Stonelake, denunciante de Meta
Conclusión
Meta intenta mitigar la preocupación de los padres ofreciendo transparencia sobre el uso de la IA a través de información categorizada. Sin embargo, con fallos legales recientes y estudios independientes que cuestionan la efectividad de las herramientas de seguridad existentes, el verdadero impacto de estas nuevas características en la seguridad de los adolescentes aún no se ha demostrado.
