Los niños, niñas y jóvenes que visualizan contenidos relacionados con la salud mental en la página ‘Para ti’ de TikTok reciben recomendaciones de contenidos potencialmente dañinos.
Entre dichos contenidos, aparecen vídeos que idealizan y fomentan la depresión, las autolesiones y el suicidio.
Es uno de los resultados a los que se llegó gracias a una investigación técnica desarrollada por Amnistía Internacional.
Dicho trabajo fue realizado en colaboración con Algorithm Transparency Institute (ATI), National Conference on Citizenship y AI Forensics.
Este organismo internacional efectuó dos informes que ponen de relieve los riesgos a los que se exponen los menores al utilizar la plataforma de vídeos.
UN DISEÑO MANIPULADOR
A su vez, destacaron como el funcionamiento de sus algoritmos de recomendación y las prácticas invasivas de recolección de datos incentivan esta problemática.
A grandes rasgos, los resultados de estas investigaciones “exponen las prácticas de diseño adictivo y manipulador de TikTok”, señaló la investigadora de Amnistía Internacional, Lisa Dittmetr.
En esa línea, aseguró que el “propósito es retener a los usuarios para que interactúen con la aplicación el mayor tiempo posible”.
Sobre el primero de los informes, que lleva por título ‘Empujados a la oscuridad: El feed ‘Para ti’ de TikTok fomenta la autolesión y la ideación suicida’, se detallan los riesgos a los que se exponen los usuarios.
Estos peligros se dan por el objetivo de TikTok de captar su atención, lo que lleva a que se intensifiquen problemas de salud mental como la depresión, la ansiedad o las autolesiones.
Para llegar a esta conclusión, Amnistía Internacional llevó a cabo una investigación técnica con más de 30 cuentas automatizadas creadas para representar a jóvenes de 13 años de Estados Unidos y Kenia.
VIDEOS NOCIVOS PARA LA SALUD MENTAL
Tras llevar a cabo sus pesquisas, se reveló que, después de utilizar la plataforma durante un período de cinco o seis horas, uno de cada dos vídeos estaba relacionado con la salud mental y era potencialmente nocivo.
Asimismo, el estudio demostró que esta cifra multiplicaba aproximadamente por diez el volumen presentado a cuentas sin interés aparente por temas que guardaran relación con la salud mental.
No obstante, los investigadores centraron el foco en la forma en que ‘Para ti’ recomendaba contenido a aquellos usuarios que sí tenían interés por ello.
Pasados entre tres y 20 minutos viendo vídeos sobre la salud mental, más de la mitad de los contenidos de este ‘feed’ estaban relacionados con este tema.
En esta línea, muchos de ellos “idealizaban, normalizaban o animaban al suicidio”.
CAMBIAR EL MODELO DE NEGOCIO
En este sentido, para Amnistía Internacional, “TikTok puede exponer a los niños, niñas y jóvenes a graves riesgos para la salud si persiste en su actual modelo de negocio”, en palabras de Dittmer.
Esto sucede porque “su actual modelo de negocio, más orientado a mantener los ojos fijos en la plataforma que a respetar el derecho a la salud de los usuarios”, ha concluido.
RECOLECCIÓN INVASIVA DE DATOS
En el segundo informe, titulado ‘Siento que no se me protege: Emboscada en la red de vigilancia de TikTok’, se muestra cómo la plataforma recopila datos de usuarios y el modo en que capta a los nuevos usuarios.
Según Amnistía Interancional, el modelo de negocio de Tik Tok es “abusivo y privilegia la interacción” para retener a las personas usuarias en la plataforma, con el fin de recolectar cada vez más datos sobre ellas”.
Esta información, la marca la utiliza para crear perfiles de usuario y “generar inferencias entre ellas”, lo que le permite segmentarlas en grupos y dirigir contenidos y publicidad “altamente personalizados”.
Además, este análisis critica que, aunque TikTok tomó medidas para proteger a los menores que lo usan, parte de esos niños, niñas y jóvenes de algunas partes del mundo se exponen a prácticas de recolección invasivas.
Esto sucede en aquellos países donde estos usuarios tienen menos protección para sus datos en virtud de la legislación y normativa local.
Y esto significa que “los niños y las niñas que viven en países donde la normativa es laxa, son objeto de los peores abusos contra el derecho a la privacidad”.
Dichas palabras fueron expresadas por la directora adjunta del programa Amnesty Tech, Lauren Armistead.
CONCLUSIONES
Entre las conclusiones que destaca Amnistía Internacional tras los estudios, se plantea la necesidad de que la plataforma deje de “hiperpersonalizar por defecto” el feed ‘Para ti’ y que sean los usuarios quienes elijan.
Este organismo cree que la mejor forma de proteger a los menores del abuso de sus datos personales ‘online’ es que los gobiernos prohíban por ley toda publicidad segmentada en base a la recopilación de datos.
No obstante, en respuesta a esta problemática, la aplicación propiedad de ByteDance remitió a Amnistía Internacional a sus Normas de las Comunidad, en las que se decide qué tipo de contenidos están prohibidos.
En estas, sí se aclara que no está permitido “mostrar, promover o proporcionar instrucciones de suicidio y autolesiones o cualquier desafío, reto o juego relacionado”.
Además, se indica que tampoco está permitido mostrar o promover bromas sobre este tema.
Por otro lado, las conclusiones recogen que la plataforma está trabajando en un proceso de investigación que incluirá una evaluación periódica del impacto que tiene este contenido.
Sin embargo, señalan, incumple con su responsabilidad empresarial de respetar los derechos humanos solo por no contar actualmente con este tipo de diligencias.
Fuente: EP.
