Numerosas funciones de seguridad que Meta dijo haber implementado para proteger a los usuarios jóvenes en Instagram a lo largo de los años no funcionan bien o, en algunos casos, no existen, según un informe de grupos de defensa de la seguridad infantil que fue corroborado por investigadores de la Universidad de Northeastern.
El estudio, que Meta cuestiona por ser engañoso, llega en medio de una renovada presión sobre las empresas tecnológicas para que protejan a los niños y otros usuarios vulnerables de sus plataformas de redes sociales. De las 47 medidas de seguridad evaluadas, los grupos consideraron que solo ocho eran completamente eficaces. El resto presentaba deficiencias, «ya no estaban disponibles o eran sustancialmente ineficaces», según el informe. Las funciones diseñadas para evitar que los jóvenes accedan a contenido relacionado con la autolesión mediante el bloqueo de términos de búsqueda se eludieron fácilmente, informaron los investigadores.
Los filtros de mensajes antibullying tampoco se activaron, incluso cuando se les solicitaron las mismas frases acosadoras que Meta había usado en un comunicado de prensa para promocionarlos. Además, una función diseñada para disuadir a los adolescentes de consumir contenido relacionado con la autolesión nunca se activó, descubrieron los investigadores. Los investigadores descubrieron que algunas de las funciones de seguridad de las cuentas de adolescentes funcionaron como se anunció, como un «modo silencioso» destinado a desactivar temporalmente las notificaciones durante la noche y una función que requiere que los padres aprueben los cambios en la configuración de la cuenta de un niño.
Titulado «Cuentas de adolescentes, promesas incumplidas», el informe recopiló y analizó las actualizaciones anunciadas públicamente por Instagram sobre las funciones de seguridad y bienestar juvenil durante más de una década. Dos de los grupos responsables del informe —la Fundación Molly Rose del Reino Unido y Padres por Espacios Seguros en Línea de EE. UU.— fueron fundados por padres que denuncian la muerte de sus hijos a causa del contenido de acoso y autolesión en las plataformas de la red social. Los hallazgos ponen en duda los esfuerzos de Meta para proteger a los adolescentes de las peores partes de la plataforma, afirmó Laura Edelson, profesora de la Universidad Northeastern que supervisó la revisión de los hallazgos.
«Al realizar pruebas en escenarios realistas, podemos observar que muchas de las herramientas de seguridad de Instagram simplemente no funcionan». Meta, que el jueves dijo que estaba ampliando las cuentas de adolescentes a usuarios de Facebook a nivel internacional, calificó los hallazgos de erróneos y engañosos. «Este informe tergiversa repetidamente nuestros esfuerzos por empoderar a los padres y proteger a los adolescentes, tergiversando cómo funcionan nuestras herramientas de seguridad y cómo millones de padres y adolescentes las utilizan hoy en día», declaró Andy Stone, portavoz de Meta. Stone cuestionó algunas de las valoraciones del informe, calificándolas de «peligrosamente engañosas», y afirmó que el enfoque de la compañía respecto a las funciones de las cuentas para adolescentes y los controles parentales ha cambiado con el tiempo.
“Los adolescentes que se beneficiaron de estas protecciones vieron contenido menos sensible, experimentaron menos contacto no deseado y pasaron menos tiempo en Instagram por la noche”, dijo Stone. “Seguiremos mejorando nuestras herramientas y agradecemos sus comentarios constructivos, pero este informe no es eso”. Los grupos de defensa y los investigadores universitarios recibieron información de Arturo Bejar, exejecutivo de seguridad de Meta, indicando que las funciones de Instagram presentaban fallas. Bejar trabajó en Meta hasta 2015 y regresó a finales de 2019 como consultor de Instagram hasta 2021. Durante su segunda etapa en la empresa, según declaró a Reuters, Meta no respondió a los datos que indicaban graves problemas de seguridad para adolescentes en Instagram.
“Experimenté de primera mano cómo la gerencia redujo las buenas ideas de seguridad a funciones ineficaces”, dijo Bejar. “Ver las afirmaciones de Meta sobre sus herramientas de seguridad me hizo comprender la importancia de realizar una revisión exhaustiva”. El portavoz de Meta, Stone, dijo que la compañía respondió a las preocupaciones que Bejar planteó mientras trabajaba en Meta con acciones para hacer que sus productos sean más seguros.
CÓMO EVITAR LOS BLOQUEADORES DE TÉRMINOS DE BÚSQUEDA
Reuters confirmó algunos de los hallazgos del informe realizando sus propias pruebas y revisando documentos internos de Meta. En una prueba, Reuters utilizó variaciones simples de términos de búsqueda prohibidos en Instagram para encontrar contenido prohibido para adolescentes. Meta había bloqueado el término de búsqueda «muslos delgados», una etiqueta usada desde hace tiempo por cuentas que promocionan contenido sobre trastornos alimentarios. Pero cuando una cuenta de prueba de un adolescente introdujo las palabras sin espacio entre ellas, la búsqueda mostró contenido relacionado con la anorexia.
Los metadocumentos vistos por la agencia de noticias muestran que, mientras la compañía promocionaba funciones de seguridad para adolescentes en Instagram el año pasado, era consciente de que algunas tenían fallas importantes. Por ejemplo, el personal de seguridad advirtió el año pasado que Meta no había mantenido sus sistemas de detección automática de contenido sobre trastornos alimentarios y autolesiones, según muestran los documentos vistos por Reuters. Como resultado, Meta no pudo evitar de forma fiable la promoción de contenido que glorifica los trastornos alimentarios y el suicidio entre los adolescentes, como había prometido, ni desviar a los usuarios que parecían consumir grandes cantidades de dicho material, según los documentos.
El personal de seguridad también reconoció que un sistema para bloquear términos de búsqueda utilizados por posibles depredadores infantiles no se estaba actualizando de manera oportuna, según documentos internos y personas familiarizadas con el desarrollo de productos de Meta. Stone dijo que las preocupaciones internas planteadas sobre restricciones deficientes de términos de búsqueda se han abordado desde entonces mediante la combinación de un sistema recientemente automatizado con entrada humana.
El mes pasado, senadores estadounidenses iniciaron una investigación sobre Meta después de que Reuters informara sobre un documento de política interna que permitía a los chatbots de la compañía «involucrar a un menor en conversaciones románticas o sensuales». Este mes, exempleados de Meta declararon en una audiencia del subcomité judicial del Senado que la compañía había ocultado investigaciones que demostraban que los usuarios preadolescentes de sus productos de realidad virtual estaban expuestos a depredadores infantiles.
Stone calificó las acusaciones de los exempleados de «absurdas». Meta está dando un nuevo impulso para demostrar sus medidas de protección infantil. El jueves, anunció la expansión de sus cuentas de Facebook para adolescentes a usuarios fuera de Estados Unidos y afirmó que buscará nuevas colaboraciones locales con escuelas secundarias y preparatorias. «Queremos que los padres se sientan bien con el uso que sus hijos adolescentes hacen de las redes sociales», dijo el director de Instagram, Adam Mosseri.
Reportaje de Jeff Horwitz. Editado por Steve Stecklow y Michael Williams.
Fuente: reuters
