TikTok: La controvertida prueba A/B que se vincula a una tragedia
Una práctica habitual en el desarrollo de productos digitales, el testing A/B, se ha visto envuelta en una grave controversia tras un trágico suceso relacionado con la plataforma de vídeos cortos TikTok. La compañía llevó a cabo una experimentación a principios de 2022, modificando su algoritmo con el objetivo declarado de mitigar la exposición de los usuarios a contenidos perjudiciales. Sin embargo, esta iniciativa resultó en la omisión de salvaguardas de seguridad para un porcentaje significativo de usuarios, lo que, según informes, tuvo consecuencias devastadoras para al menos uno de ellos.
El funcionamiento del A/B testing en TikTok
El A/B testing consiste en dividir a la base de usuarios en dos grupos: un grupo de control que mantiene la versión existente del producto y un grupo experimental que recibe una nueva versión. El propósito es comparar el rendimiento y el impacto de ambos enfoques. En el caso de TikTok, la versión mejorada del algoritmo fue desplegada para la mayoría de sus usuarios globales. Su finalidad era identificar y reducir la recurrencia de contenido dañino mediante la diversificación del feed y la detección de patrones repetitivos. Aproximadamente el 10% de los usuarios estadounidenses, unos 15 millones de personas, permanecieron en el grupo de control, sin la activación de las nuevas medidas.
El trágico caso de Chase Nasca
Chase Nasca, un adolescente de 16 años, se encontraba en el grupo de control. Como resultado, su cuenta no se benefició de las mejoras algorítmicas destinadas a filtrar contenido perjudicial. Según un documento confidencial que ha surgido en el contexto de una demanda judicial, Nasca fue expuesto masivamente a vídeos sobre suicidio, autolesiones y depresión. En las dos semanas previas a su fallecimiento, TikTok le habría recomendado 7.563 vídeos, de los cuales al menos el 73% abordaba temas de sufrimiento emocional, soledad o depresión. Adicionalmente, casi el 10% de estos contenidos infringía las normativas de la plataforma sobre autolesiones y suicidio. Las horas previas a su muerte, Nasca marcó como favoritos varios vídeos relacionados con el suicidio.
Implicaciones del diseño algorítmico
El documento filtrado, que ofrece un análisis detallado de la cuenta de Nasca y el contenido que se le mostró, incluye la afirmación de que las estrategias de TikTok para prevenir las 'burbujas de filtros' no tuvieron efecto en este usuario