El realismo de los filtros y la tecnología detrás de estos, ha levantado cuestionamientos sobre los límites de la distorsión facial y sobre la implementación de la inteligencia artificial en las redes sociales.
Aunque la Inteligencia Artificial no es una tecnología precisamente nueva, no ha sido hasta los últimos meses cuando la hemos visto aplicada en las redes sociales. Un ejemplo es el filtro Bold Glamour de TikTok, que se ha utilizado en 46,8 millones de vídeos. Esto es solo un ejemplo de la nueva generación de filtros que utilizan IA para integrarse de forma realista en el rostro. Otros serían el Teenage Look, que crea un efecto rejuvenecedor, y el filtro Lite Foundation, que elimina los lunares y manchas.
A diferencia de los filtros de realidad aumentada conocidos tradicionalmente que superponen un efecto determinado en una cara, la tecnología que se está utilizando en estos filtros más nuevos – Generative Adversarial Networks (GAN) – es una tecnología de aprendizaje que regenera cada píxel de una cara basada en un conjunto de imágenes. (La empresa matriz de TikTok, ByteDance, no ha revelado la tecnología exacta detrás de estos nuevos filtros, pero muchos creadores de filtros han especulado sobre esto).
Desde que Snapchat introdujo por primera vez los filtros de realidad aumentada en 2015, los hemos visto evolucionar desde la incorporación de elementos para que te hicieran parecen un ‘perro’ o ‘gato’ hasta algo más macabro. Muchos establecen un nuevo estándar inalcanzable de belleza y perpetúan el colorismo y los ideales eurocéntricos. El resultado ha sido un aumento sin precedentes en la cirugía plástica y los retoques estéticos, y una posterior crisis mundial de la salud mental.
El psicólogo Rory Gascoigne explica que utilizar filtros puede provocar el desarrollo de un modelo predictivo en el que tu cerebro piensa que te ves así. Cuando ves tu cara real, tu cerebro experimentará un error de predicción que puede conducir a problemas de salud mental, como la dismorfia corporal o la depresión. «Tu cerebro está constantemente involucrado en el proceso de crear bucles de retroalimentación con el entorno en el que construyes un modelo de realidad», explica.
El especialista asegura que «es preocupante el uso continuo de estos filtros entre los más jóvenes en un momento de su vida en el que están todavía construyendo su autoidentidad. Si están corrompidos al pensar que deberían parecer un filtro, eso los está preparando para un momento difícil en la vida». Esta disonancia cognitiva entre lo que creemos que deberíamos ser y lo que realmente parecemos, deja atrapadas a las personas en un bucle de desesperanza y sentimiento de fracaso.
La creadora de TikTok, Laura Gouillon, ha realizado más de 100 efectos en TikTok con más de 11.40 millones de visitas en todo el mundo. Gouillon no cree que la tecnología en sí sea necesariamente peligrosa. «Creo que el desafío para las plataformas de redes sociales existentes y futuras será proporcionar contexto sobre la presencia de manipulación de fotos y videos», dice, «en un esfuerzo por reducir el posible impacto negativo en la mente de los usuarios».
A finales de marzo, los líderes de la IA expresaron graves preocupaciones sobre el ritmo y la autonomía que está desarrollando esta herramienta. En una carta abierta con más de 1.100 firmantes, incluido Elon Musk, el cofundador de Apple, Steve Wozniak, y el cofundador de Skype, Jaan Tallinn, pidieron una moratoria sobre la última actualización de la IA. Advirtieron que «los sistemas de IA pueden plantear profundos riesgos para la sociedad y la humanidad». ¿Cómo terminará esto?
Bold Glamour: el filtro de TikTok que causa dismorfia corporal.
Sigue toda la información de HIGHXTAR desde Facebook, Twitter o Instagram