princesa diana tropezando por un parque de parkour. El equipo de EE. UU. se lleva el oro en los Juegos Olímpicos de Bong. hombre tanque breakdance en la plaza de Tiananmen. Kurt Cobain jugando pogs. Tupac Shakur Buscando poutine en Costco. El generador de vídeo de inteligencia artificial Sora 2 de Open AI debutó este mes y los alucinantes de Internet se abalanzaron sobre él. ¿Divertido e inofensivo? O un símbolo de cómo somos besando la realidad adiósentrando en una época en la que Nadie podrá volver a confiar en el vídeo.?
Es el último ejemplo de cómo la IA está transformando el mundo. Pero el problema va más allá de la simple creación de pudriciones cerebrales que absorben energía; se está convirtiendo en una gran amenaza para la democracia misma. Hoy en día, miles de millones de personas experimentan Internet no a través de portales de información y noticias de alta calidad, sino a través de clickbait, información errónea y tonterías generadas algorítmicamente.
Este fenómeno forma el “economía en decadencia«: una Internet de segundo nivel donde aquellos que no pagan por el contenido se ven inundados con basura de baja calidad y publicidad optimizada. Plataformas como TikTok, Facebook y YouTube están llenas de contenido máximo a un costo mínimo producido mediante raspado algorítmico y remezcla de fragmentos de material escrito por humanos en una mezcla sintética. Los bots están creando y difundiendo innumerables blogs de clickbait de autores falsos, guías prácticas, memes políticos y Vídeos para hacerse rico rápidamente.
Hoy, casi el 75% del nuevo contenido web es generado al menos parcialmente por la IA, pero este diluvio no se distribuye uniformemente en toda la sociedad. Las personas que pagan por servicios de datos y noticias de alta calidad disfrutan de un periodismo creíble e informes verificados. Pero miles de millones de usuarios no pueden permitirse el lujo de acceder a contenidos de pago o simplemente prefieren confiar en plataformas gratuitas. En el mundo en desarrollo, esta división es pronunciada: mientras miles de millones se conectan por primera vez a través de teléfonos baratos y redes irregulares, la inundación de basura a menudo se convierte en sinónimo de la propia Internet.
Esto es importante para la democracia de dos maneras clave. En primer lugar, la democracia depende de una ciudadanía informada que comparta una base de hechos y de una población capaz de entender las cuestiones que les afectan. La economía en decadencia engaña a los votantes, erosiona la confianza en las instituciones y alimenta la polarización al amplificar el contenido sensacionalista. Más allá del tan discutido problema de campañas de desinformación extranjerasesta insidiosa epidemia de basura llega a mucha más gente cada día.
En segundo lugar, las personas pueden volverse susceptibles al extremismo simplemente por una exposición prolongada a los desechos. Cuando los usuarios navegan por diferentes fuentes algorítmicas, perdemos consenso sobre verdades básicas, ya que cada lado vive literalmente en su propio universo informativo. Es un problema creciente en Estados Unidos, donde las noticias generadas por IA se están volviendo tan prolíficas (y tan realistas) que los consumidores creen que esto Noticias de “baba rosada” es más fuentes de noticias objetivas que reales.
Los demagogos lo saben y están explotando a los desposeídos de todo el mundo que carecen de información. Por ejemplo, la desinformación generada por la IA ya es una amenaza generalizada para integridad electoral en toda África y Asia, con deepfakes en Sudáfrica, IndiaKenia y Namibia afectan a decenas de millones de votantes primerizos a través de teléfonos y aplicaciones baratos.
¿Por qué la basura se apoderó de nuestro mundo digital y qué podemos hacer al respecto? Para encontrar respuestas, encuestamos a 421 programadores y desarrolladores en Silicon Valley quienes diseñan los algoritmos y plataformas que median en nuestra dieta informativa. Encontramos una comunidad de expertos en tecnología preocupados que se ven limitados a realizar cambios positivos por las fuerzas del mercado y los líderes corporativos.
Los desarrolladores nos dijeron que la ideología de sus jefes influye fuertemente en lo que construyen. Más del 80% dijo que las creencias personales de su director ejecutivo o fundador influyen en el diseño del producto.
Y no son sólo los directores ejecutivos quienes hacen del éxito empresarial una prioridad máxima, incluso por delante de la ética y la responsabilidad social. Más de la mitad de los desarrolladores que encuestamos lamentaron el impacto social negativo de sus productos y, sin embargo, el 74% seguiría creando herramientas que restringieran las libertades, como las plataformas de vigilancia, incluso si les preocupara. La resistencia es difícil en la cultura corporativa de la tecnología.
Esto revela una sinergia preocupante: los incentivos comerciales se alinean con una cultura de cumplimiento, lo que resulta en algoritmos que favorecen divisivo o contenido de bajo valor porque genera participación. La economía del slop existe porque producir contenidos de baja calidad es barato y rentable. Las soluciones al problema del slop deben realinear los incentivos empresariales.
Las empresas podrían filtrar la basura rebajando la clasificación de las granjas de clickbait, etiquetando claramente el contenido generado por IA y eliminando información demostrablemente falsa. Los motores de búsqueda y las redes sociales no deberían tratar como iguales un artículo de investigación escrito por humanos y un artículo de pseudonoticia escrito por un robot. Ya hay llamadas en el A NOSOTROS y Europa hacer cumplir estándares de calidad para los algoritmos que deciden lo que vemos.
Las soluciones imaginativas son posibles. Una idea es crear redes sociales públicas sin fines de lucro. Así como sintonizas la radio pública, puedes acceder a una fuente de noticias social pública sin IA que compite con el desplazamiento de TikTok pero que ofrece noticias reales y fragmentos educativos en lugar de conspiraciones. Y dado que El 22% de la Generación Z odia la IAla idea multimillonaria del sector privado podría ser simplemente un competidor de YouTube que promete una prohibición total de la IA, para siempre.
También podemos retirar fondos a los productores de basura exprimiendo la canalización de dinero publicitario que recompensa las granjas de contenido y los sitios de spam. Si las redes publicitarias se niegan a financiar sitios web sin estándares editoriales, la avalancha de contenido basura se desaceleraría. Ha funcionado para la desinformación del extremismo: cuando las plataformas y los procesadores de pagos cortan el dinero, el volumen de contenido tóxico cae.
Nuestra investigación ofrece un rayo de esperanza. La mayoría de los desarrolladores dicen que quieren crear productos que fortalezcan la democracia en lugar de subvertirla. Revertir la economía en decadencia requiere que los creadores de tecnología, los consumidores y los reguladores construyan juntos una esfera pública digital más saludable. La democracia duradera, desde las comunidades locales hasta el escenario global, depende de cerrar la brecha entre quienes entienden los hechos y quienes se alimentan de tonterías. Acabemos con la decadencia digital antes de que devore la democracia tal como la conocemos.
Jason Miklian es profesor investigador en la Universidad de Oslo en Noruega. Kristian Hoelscher es profesor de investigación en el Instituto de Investigación para la Paz de Oslo, Noruega.