La Comisión Europea endurece el tono con TikTok. Bruselas amenaza a la red social china con una multa multimillonaria por el diseño adictivo de su algoritmo de recomendación. Después de una investigación, el Ejecutivo comunitario ha dictaminado que muestra a los usuarios un flujo continuo de vídeos personalizados, incluso cuando estos están relacionados con problemas de salud mental e imagen corporal, que pueden causar serios perjuicios para usuarios. Especialmente “en adultos vulnerables y menores de edad”, advierten los técnicos en un comunicado.
La Comisión Europea quiere que cambie su diseño para evitar un flujo continuo de videos relacionados con problemas de salud mental o imagen corporal
La Comisión Europea endurece el tono con TikTok. Bruselas amenaza a la red social china con una multa multimillonaria por el diseño adictivo de su algoritmo de recomendación. Después de una investigación, el Ejecutivo comunitario ha dictaminado que muestra a los usuarios un flujo continuo de vídeos personalizados, incluso cuando estos están relacionados con problemas de salud mental e imagen corporal, que pueden causar serios perjuicios para usuarios. Especialmente “en adultos vulnerables y menores de edad”, advierten los técnicos en un comunicado.
En concreto, la investigación comunitaria ha determinado con carácter preliminar que TikTok incumple la Ley de Servicios Digitales (DSA) europea debido al denominado “efecto madriguera de conejo” (rabbit hole effect) de su sistema de recomendación. Es decir, que cuanto más interactúa un usuario con un determinado tipo de contenido, como pasando más tiempo de visualización o dando “me gusta”, más recomienda contenidos similares el algoritmo del feed “para ti” de TikTok. Esta forma de navegar en la aplicación puede resultar perjudicial cuando esa exposición incesante y repetida incluye, por ejemplo, contenido sobre tristeza, aislamiento o imagen corporal.
La exposición constante a este tipo de contenidos puede provocar tristeza, ansiedad o insatisfacción corporal
Aunque sea contenido negativo, el sistema interpreta estas interacciones como señales positivas de interés del usuario y recomienda contenidos similares. Y, de esta forma, “la exposición repetida a este tipo de contenidos puede tener graves efectos negativos en el bienestar de los usuarios, entre los que se incluyen un aumento de los sentimientos de tristeza o ansiedad, insatisfacción corporal, menor autoestima o el empeoramiento de trastornos alimentarios y afecciones mentales preexistentes”, avisa el comunicado del Ejecutivo comunitario.
Además, el informe técnico concluye que las medidas de mitigación implantadas hasta la fecha por TikTok resultan completamente ineficaces para evitar estos efectos nocivos. Las herramientas puestas a disposición de los usuarios, como un botón de “no me interesa”, no logran modificar el “para ti” de manera efectiva, ya que el algoritmo de la aplicación pone por delante de forma sistemática el tiempo de visualización de las elecciones explícitas de las personas.
Por todo ello, Bruselas pide a TikTok que cambie su diseño de forma estructural. Entre otras cosas, quiere que desactive el tiempo de visualización como indicador principal de su sistema de recomendación y que dé un mayor peso de las preferencias explícitas del usuario, pero también quiere que mejore los controles de usabilidad y lleve a cabo pruebas periódicas de auditoría sobre el algoritmo. Ahora la red social dispone de un plazo para ejercer su derecho de defensa y presentar sus alegaciones, pero, de no responder adecuadamente, la Comisión podría imponer una multa de hasta el 6% del volumen de negocios anual global de la compañía.
“Cada vez que un usuario se desplaza o da me gusta a un vídeo en TikTok, el algoritmo le sirve más de lo mismo, llevándolo por madrigueras de conejo de las que no puede escapar fácilmente. La Ley de Servicios Digitales responsabiliza a las plataformas de atajar los efectos negativos vinculados a sus sistemas de recomendación”, ha avisado Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, Seguridad y Democracia de la Comisión Europea.
A través de un portavoz, TikTok ha respondido que las declaraciones de la Comisión son “inexactas” y ” distorsionan la arquitectura” de la plataforma y su “compromiso con la seguridad de los usuarios”. “Tenemos una sólida trayectoria en la protección de nuestra comunidad, al tiempo que brindamos a los usuarios un control directo e intuitivo sobre su experiencia de contenido”, indica en un comunicado remitido a este diario.
Tecnología
