Deepfakes en TikTok: desinformación y política

Enfoque

Los deepfakes o “mentiras profundas” (en castellano) son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial. Parecen auténticos y reales, por la calidad de las máscaras que generan y cómo éstas son insertadas en otro archivo original, con otros protagonistas distintos. Aunque los deepfakes existen desde finales de 1990, cobraron interés internacional en 2017, cuando un usuario de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas y puso a disposición de los usuarios el software que permite hacer cualquier montaje. Desde entonces, las investigaciones académicas se han centrado especialmente en sus peligros, pues atenta contra la imagen cualquiera, construyendo un imaginario falsificado y perverso, muy difícil de detectar; aunque no ha sido suficiente para frenar el fenómeno.

La firma de inteligencia artificial DeepTrace encontró, en el año 2019, 15.000 vídeos de deepfake en internet. El 96% de esos vídeos era de carácter pornográfico. En enero de 2020, Meta (Facebook e Instagram) prohibió los deepfakes, excepto para publicaciones humorísticas o paródicas. En marzo de 2023, TikTok anunció una medida muy similar, prohibiendo los vídeos creados por “medios sintéticos y manipulados”. Las medidas son numerosas para detectar y denunciar los deepfakes: los expertos apuestan por formar a la ciudadanía en alfabetización digital, los medios reproducen y critican los vídeos falsos en campañas electorales, y empresas, universidades y gobiernos prohíben el uso de deepfakes y otras inteligencias artificiales. Mientras que la primera preocupación era la pornografía, en los últimos meses, la desinformación política se ha convertido en otra consecuencia problemática y potencialmente peligrosa de las “mentiras profundas”.

Los deepfakes inducen a error, transmiten mensajes nunca pronunciados, y facilitan la desinformación. En tiempos de desazón política y desconfianza en los dirigentes, estos vídeos encuentran un público política o ideológicamente polarizado y ávido de compartir y reenviar archivos audiovisuales. Este trabajo se centra en estudiar los deepfakes en TikTok desde una perspectiva original e inédita: detectando, analizando y comentando aquellas cuentas divulgativas en la red social china, que educan a los usuarios en los elementos, características y fallos que desvelan la naturaleza mentirosa de esas piezas audiovisuales. Para conseguirlo se emplea una metodología mixta, que aúna una parte cuantitativa (sobre el alcance de las cuentas, actividad, usuarios, reacciones y me gustas) y una parte cualitativa (sobre la enumeración y reflexión de las pistas y detalles que los expertos comparten para educar digitalmente a los usuarios). Se concluye que la detección de deepfakes es posible, entrenando la vista y el oído, y repartiendo la responsabilidad de combatirlos junto con los algoritmos de las redes.