MISCELÁNEA
LA CÁRCEL DEL ALGORITMO PREDICTIVO: LOS ALGORITMOS PREDICTIVOS COMO DESAFÍO AL FUNDAMENTO ONTOLÓGICO DE LA DEMOCRACIA
THE PRISON OF THE PREDICTIVE ALGORITHM: PREDICTIVE ALGORITHMS AS A CHALLENGE TO THE ONTOLOGICAL FOUNDATION OF DEMOCRACY
José Francisco Gómez Rincón1
Fechas de recepción y aceptación: 3 de mayo y 18 de junio de 2024
DOI: https://doi.org/10.46583/scio_2024.26.1161
Resumen: Las tecnologías vinculadas a la inteligencia artificial (IA), en especial aquellas fundadas en algoritmos predictivos, abren un nuevo escenario de posibilidades para mejorar el funcionamiento de unos sistemas democráticos en hondo descredito por parte de los ciudadanos. Sin embargo, estas tecnologías plantean interrogantes de cara a su implementación política, dado que existen fundadas sospechas sobre su funcionamiento, trasparencia y posibilidades reales de aplicación al debate político. En este artículo nos proponemos analizar si el funcionamiento de los algoritmos predictivos podría comprometer “el fundamento ontológico” de los sistemas democráticos ofreciendo un análisis sobre el funcionamiento de estos mismos sistemas y su relación con los fundamentos ontológicos de las democracias. Un análisis que nos lleva a concluir que hablar sobre una mejora de la democracia usando para ello algoritmos predictivos se vuelva una contradicción in terminis.
Palabras clave: democracia, algoritmo predictivo, debate democrático, polarización.
Abstract: Technologies linked to artificial intelligence (AI), especially those based on predictive algorithms, open a new scenario of possibilities to improve the functioning of democratic systems that are deeply discredited by citizens. However, these technologies raise questions regarding their political implementation, given that there are well-founded suspicions about their operation, transparency and real possibilities of application to political debate. In this article we propose to analyze whether the operation of predictive algorithms could compromise “the ontological foundation” of democratic systems, offering an analysis of the operation of these same systems and their relationship with the ontological foundations of democracies. An analysis that leads us to conclude that talking about improving democracy using predictive algorithms becomes a contradiction in termini.
Keywords: democracy, predictive algorithm, democratic debate, polarization.
1. INTRODUCCIÓN
La fuerte irrupción de las tecnologías vinculadas a la inteligencia artificial (IA) y los algoritmos, en especial los conocidos como algoritmos predictivos, ha abierto todo un nuevo escenario de posibilidades para, según algunos teóricos y especialistas, mejorar los procedimientos democráticos mediante la incorporación de estas tecnologías a los procesos políticos, dando pie, así, a la defensa de una democracia algorítmico-predictiva como solución a los supuestos problemas de gobernabilidad, eficiencia y legitimidad que sufren los sistemas democráticos en nuestros tiempos (Calvo Cabezas, 2020).
Según los defensores de estas nuevas propuestas, la incorporación de los algoritmos predictivos, y de la IA que los hace posibles, permitiría mejorar los procedimientos democráticos al ser capaces de ofrecer una descripción fidedigna de las preferencias de la ciudadanía, permitiéndose con ello una mejor orientación de las decisiones políticas para la mejora de las condiciones de vida de la ciudadanía (Feenstra, 2012: 75-91). Estas técnicas permitirían salvar la distancia existente entre la clase política y la ciudadanía, al ser capaces de mejorar la comunicación entre representados y representantes lográndose, según sus defensores, acabar con una de las principales causas del descontento popular con la democracia actualmente existente: la sensación de falta de representación de la ciudadanía por parte de la clase política (Pedraza Ochoa y Martínez Acevedo, 2022). Se haría, así, realidad el ideal de la democracia directa donde el ciudadano particular es quien decide sobre los asuntos políticos que afectan a la sociedad en la que vive sin la necesidad de una instancia representativa (Feenstra, 2012: 75-91). Esta democracia complementada con el uso de algoritmos predictivos promete encarnar el sueño de la democracia radical usando las posibilidades que la tecnología oferta para salvar los problemas y dificultades que hasta ahora la han hecho imposible (Innerarity, 2023).
Con la propuesta de uso de los sistemas de algoritmos predictivos para la mejora de los sistemas democráticos se pretende, por parte de los defensores de estas soluciones, combinar los mecanismos de participación ciudadana, propios de los sistemas democráticos directos, con las ventajas de una democracia representativa. Se propone la creación de avatares digitales, por medio de sistemas de I.A, y que basarían su funcionamiento en el uso de algoritmos predictivos, convirtiéndose estos en una segunda voz del ciudadano que, con el uso de estas tecnologías, puede verse representado en una “asamblea virtual” sin la necesidad de participar directamente en ella. El avatar, encarnación virtual del propio ciudadano, hablaría por él, basando sus decisiones en las inclinaciones del sujeto real por medio de estos algoritmos predictivos que usarían los datos extraídos del historial de búsqueda online del ciudadano para crear un perfil personalizado del mismo, con el cual “programar” políticamente al avatar para poder representar, de forma fidedigna, a esa misma persona (Calvo Cabezas, 2020).
A pesar de estas pretensiones de los partidarios del uso de los algoritmos predictivos para la mejora de los sistemas democráticos, la aplicación de estas tecnologías al proceso de toma de decisiones políticas ofrece una serie de desafíos que tienen que ver con el propio funcionamiento de estas mismas tecnologías y que comprometen la supervivencia de los propios sistemas democráticos (Aguirre Salas, 2021). Unos desafíos y problemas que afectan al núcleo mismo de las democracias y que pone en peligro los presupuestos básicos que hacen posible la supervivencia de la misma. Con estos mimbres, hablar de “democracia algorítmico-predictiva” se vuelve un contra sentido para los críticos de estas soluciones, pues algoritmo predictivo y democracia se convierten en antónimos al atacar, el propio funcionamiento de estas tecnologías, el basamento mismo sobre el que se funda todo sistema democrático y que hace posible su existencia y correcto funcionamiento (Wagner, 2023). Depositar en la tecnología una confianza excesiva para revertir la crisis de legitimidad que sume a nuestra democracia, desde estas perspectivas, se demuestra como algo apresurado y ciertamente tecno-utópico, debiendo, en consecuencia, apostar por otros derroteros, aunque sin dejar de lado las posibilidades que la tecnología ofrece (Innerarity, 2023).
Aunque las tecnologías vinculadas a la inteligencia artificial (IA), en especial aquellas fundadas en algoritmos predictivos, abren un nuevo escenario de posibilidades para mejorar el funcionamiento de unos sistemas democráticos en hondo descredito por parte de los ciudadanos. Estas tecnologías, no obstante, plantean interrogantes de cara a su implementación política, dado que existen fundadas sospechas sobre su funcionamiento, trasparencia y posibilidades reales de aplicación al debate político. En este artículo nos proponemos analizar si el funcionamiento de los algoritmos predictivos podría comprometer “el fundamento ontológico” de los sistemas democráticos ofreciendo un análisis sobre el funcionamiento de estos mismos sistemas y su relación con los fundamentos ontológicos de las democracias. Un análisis que nos lleva a concluir que hablar sobre una mejora de la democracia usando para ello algoritmos predictivos se vuelva una contradicción in terminis.
Para demostrar este punto debemos, sin embargo, comprender cuál es ese fundamento ontológico que hace posible la propia existencia de la democracia, comprender qué es un algoritmo predictivo y cómo funciona y, por último, examinar cuales son las implicaciones democráticas de la aplicación de esta misma tecnología al campo democrático. Así pues, estructuraremos el presente artículo para dar respuesta a estos interrogantes, comenzando por comprender de qué hablamos cuando hablamos de “fundamento ontológico de la democracia” y cuáles son las “condiciones ontológicas” que hacen posible la existencia de este mismo sistema de gobierno de las sociedades humanas.
2. LAS CONDICIONES ONTOLÓGICAS DE LA DEMOCRACIA
La ontología es aquella disciplina filosófica que se encarga de estudiar el ser y la existencia de ese mismo ser. Con esto en mente, hablar de “condiciones ontológicas de la democracia” significa comprender cuales son las circunstancias que hacen posible que en una sociedad histórica dada se produzca el fenómeno por el cual las mismas gentes que conforman esa sociedad, el pueblo, son las mismas que definen las normas y leyes que regulan la convivencia de los diferentes sujetos que la componen. Hablar de las condiciones ontológicas de la democracia es, por tanto, hablar de cómo es posible la democracia, de los presupuestos y fundamentos sociales que la hacen posible. En otras palabras, las condiciones ontológicas de la democracia hacen referencia a la comprensión profunda de los fundamentos últimos que hacen posible el ser y la existencia del gobierno del pueblo, por el pueblo y para el pueblo, con independencia de las formas concretas que se adopten para hacer realidad esta forma ideal de gobierno.
Si entendemos que la democracia es aquel sistema de gobierno mediante el cual, el pueblo, se gobierna a sí mismo resulta evidente que el condicionante básico para la existencia de ese sistema de gobierno es la propia existencia del ente llamado “pueblo” (Sartori, 2014: 27-41). Por pueblo debemos entender una agregación de diferentes sujetos particulares en un mismo sitio y lugar, con intereses coincidentes y el deseo de vivir juntos para alcanzar esos mismos intereses compartidos que se proyectan temporalmente al infinito, como puede ser el caso de lograr una mayor autonomía de la que podrían alcanzar en solitario o un más alto nivel de vida (Sartori, 2014: 27-30). La existencia del pueblo, es, por tanto, el fundamento ontológico de la democracia, y la existencia de ese pueblo, a su vez, depende de que exista un interés intersubjetivo por tener una vida en común en orden a alcanzar una meta superior y que, por ello, necesita de la colaboración entre diversos sujetos (Jáuregui, 1994: 36-46). El pueblo, soporte ontológico básico de la democracia, requiere, por tanto, de la existencia de un interés común en una meta que permita a los sujetos agruparse para conseguir ese mismo fin. Un fin que, no obstante, nunca se va a conseguir del todo, sino que se caracteriza por su proyección a futuro: el aumento progresivo de la esperanza de vida o la consecución de un, cada vez mayor, nivel de autonomía individual (Ferrara, 2014: 67-80).
El pueblo democrático se caracteriza, en base a esto, por ser una agregación de individuos unidos en base a la búsqueda de un interés común, como el aumento de su nivel de vida, proyectado a futuro (Sartori, 2014: 27-41). Ese mismo pueblo democrático trata de alcanzar ese objetivo común mediante medios que permiten conciliar los diferentes puntos de vista sobre cómo llegar a ese objetivo común mediante un procedimiento singular de gobierno: el democrático. Que un pueblo se gobierne a sí mismo implica que son los miembros de ese pueblo los que hacen las normas y leyes comunes que van a regir la convivencia con el ánimo de lograr conseguir ese objetivo común (Sartori, 2014: 35-38). En este orden de cosas, el pueblo democrático, se organiza de tal modo que todos los implicados en una decisión tienen derecho a hacer oír su voz e, idealmente, esta es tenida en cuenta a la hora de tomar una decisión legislativa concreta (Dahl, 1992: 131-145). En el ejemplo del pueblo que busca un incremento de su nivel de vida, una gestión democrática de los asuntos públicos sería aquella que, mediante el intercambio de posturas enfrentadas entre los sujetos, ya sean individuales o colectivos, A, B y C trata de establecer una postura común, un punto de acuerdo que contente a todos los implicados, aunque los intereses particulares de ninguno de ellos se vean satisfechos al cien por cien (Pérez Zafrilla, 2017: 149-193).
Para que la democracia funcione, por tanto, se debe dar que ese pueblo que busca un interés común a los diferentes sujetos que lo componen, sea capaz de alcanzar acuerdos entre los diferentes puntos de vista sobre el camino a seguir para lograr la meta común. La convivencia de diferentes opiniones, el intercambio de ideas y el debate es, por tanto, un ingrediente fundamental de toda democracia (Sartori, 2014: 30-32). Sin la existencia de debate entre puntos opuestos, entre diferentes soluciones para un mismo problema, no se puede hablar de democracia. Ahora bien, el debate democrático debe estar caracterizado por la existencia de un mutuo reconocimiento de todas las partes implicadas en él. No puede haber un auténtico debate democrático si una de las partes, A, no reconoce a otra: C. El respeto por la opinión del otro, de su propia existencia, y el reconocimiento de su derecho a participar del proceso, en tanto que forma parte del pueblo que compone la democracia, es una parte fundamental para el correcto funcionamiento de las democracias (Dahl, 1992: 146-160). Si ese reconocimiento no se da, si se excluye de participación a una parte del pueblo, entonces, no se cumple el ideal democrático según el cual es el propio pueblo el que se ordena a sí mismo, pues se produce en este caso una exclusión que vicia el sistema y lo convierte en algo diferente (Dahl, 1992: 163-183). La exclusión de los afroamericanos y de las mujeres del proceso electoral americano durante gran parte de la historia de aquel país hace realmente complicado calificar a los EE.UU de democracia mientras estas leyes de exclusión estuvieron vigentes. Del mismo modo, los sistemas de sufragio censitario, propios del siglo XIX, que excluían del proceso electoral a los trabajadores por no alcanzar un mínimo de ingresos, constituyen, también, un serio desafío a la hora de calificar de democráticos aquellos sistemas (Graeber, 2021: 69-113).
De este modo, la lucha por el reconocimiento emprendida por ciertos sectores de las poblaciones como son las mujeres, los inmigrantes o las personas que tradicionalmente se han visto excluidas del proceso democrático, se convierte en una lucha por la consecución de derecho a participar y a hacer oír su voz en el debate público, robusteciendo la propia democracia (Dahl, 1992: 146-160), pues es el debate público, el intercambio de opiniones entre posturas enfrentadas, lo que permite que los sistemas democráticos superen las desventajas epistémicas que la aquejan frente a otros sistemas de gobierno, como uno de carácter tecnocrático (Pérez Zafrilla, 2017: 34-45). Es el debate abierto y plural aquello que permite que las leyes emanadas de una cámara democrática puedan ser calificadas no sólo de justa, sino también de racionales y adecuadas, frente a las emanadas de un decreto real o una decisión tecnocrática. Las posibilidades de que, tras haber escuchado a todas las partes implicadas y en base a ellas tomar una decisión de punto medio entre intereses contrapuestos, esa decisión legislativa sea más adecuada se ven incrementadas notablemente frente a una decisión tomada por un único grupo de expertos que sólo tengan en cuenta un ángulo o dos del problema (Pérez Zafrilla, 2017: 114-116). El debate democrático, por tanto, permite salvar las limitaciones epistémicas del ser humano y, por ello, es fundamental que ese debate se dé en contextos de reconocimiento mutuo y de respeto por las opiniones de los demás participantes del mismo en aras de la justicia y de la eficacia.
Por otro lado, si del debate legislativo se excluye a una parte del pueblo esa parte excluida, al verse perjudicada de las leyes que se apruebe, pues su voz no ha sido tenida en cuenta, puede plantearse si, de verdad, le conviene seguir formando parte de esa sociedad que les excluye y no les deja hacer oír su voz (Sartori, 2014: 30-32). De este modo la exclusión de una parte del pueblo del debate legislativo no sólo compromete los fundamentos de justicia y las posibilidades de acierto de la decisión tomada, sino que, también, pone en peligro la propia supervivencia del pueblo mismo como una unidad agregativa (Dahl, 1992: 146-160). La exclusión de una parte, si es continuada, no sólo es injusta y miope desde el punto de vista moral y epistémico, además puede dar píe a pulsiones separatistas de la parte excluida, alimentando el deseo de independencia de esa misma parte excluida del debate (Dahl, 1992: 163-183). Con esto, la renuncia al principio del reconocimiento pone el peligro el sustrato ontológico último de toda democracia: la existencia de un pueblo formado por personas que se agrupan con el objetivo de conseguir una meta concreta. La falta de reconocimiento de una de las partes, pone en peligro la propia supervivencia de las democracias (Jáuregui, 1994: 245-250).
Finalmente, para hablar de democracia, es necesario que la decisión tomada mediante el debate público sea respetada por todas aquellas personas que, aun habiendo hecho escuchar su voz y haber formado parte del proceso, no han quedado completamente satisfechas del resultado final. Si bien la decisión democrática no va a contentar a todos los implicados de una forma completa, el proceso de negociación, de debate y puesta en común de puntos de vista contrapuestos, dará pie a la consecución de un punto medio, en la mayoría de las veces alcanzado mediante el proceso de votación por mayorías (Pérez Zafrilla, 2017: 85-113). Las partes disconformes deben aceptar el resultado y comprometerse a cumplir la ley emanada del proceso, lo cual no implica que la propia ley o decisión no pueda ser revisada o reformada en caso de cambio de las mayorías sociales o la aparición de mejores argumentos (Sartori, 2014: 183-207). Aunque las partes enfrentadas no vean cumplidas todas sus expectativas y deban aceptar ese resultado, por ser fruto del acuerdo, esas mismas partes pueden, desde el respeto a la ley, trabajar por cambiarla de un modo pacífico, volviéndola a someter a debate y tratando de cambiar las mayorías sociales por medio de la argumentación (Sartori, 2014: 183-186).
Se dibuja así que el correcto funcionamiento de cualquier sistema democrático, dado el fuerte peso que el debate abierto y plural tiene en ella, depende de la existencia de una sólida y bien construida opinión pública, voz de la sociedad civil (Sartori, 2014: 71-105). Una opinión publica en la que se discute abiertamente sobre los asuntos que afectan al común del pueblo, con intereses contrapuestos y opiniones dispersas, pero que pese a todo, acepta el resultado final del proceso, aunque no se cierra a la posibilidad de cambiarlo si las mayorías cambian debido a la continua revisión de los consensos establecidos (García Marzà y Calvo, 2022). La opinión pública formada, informada, plural y abierta, es un ingrediente fundamental para la democracia, pues es esa misma opinión pública la que se constituye en “voz” del pueblo y alienta el mismo debate democrático, tan necesario e importante para el buen funcionamiento de cualquier sistema democrático (Habermas, 1987: 351-360). Una opinión pública que, no obstante, no respetara las normas del juego democrático, negándose a reconocer los resultados del proceso, sería completamente contraproducente para el sostenimiento del sistema (García Marzà y Calvo, 2022). Así, si bien el debate es fundamental y la opinión publica lo debe fomentar, este siempre debe tener en cuenta el respeto a los consensos establecidos y, si es preciso cambiarlos, trabajar desde los mismos para tratar de convencer a la mayoría de la conveniencia de ese cambio por medio del proceso argumentativo (Dahl, 1992: 163-183).
Con todo esto en mente podemos comprender que cuando hablamos de condiciones ontológicas de la democracia nos referimos a la existencia de un pueblo, de un conjunto de individuos unidos en la búsqueda de un bien mayor y que, para obtenerlo, toma sus decisiones políticas y de organización social en base al principio, según el cual, son los propios afectados por la decisión los que deben de tomarla, mediante el intercambio de posturas en un debate abierto del cual ha de emanar una decisión conjunta, que si bien no responde al cien por cien a los intereses de las partes afectadas, se configura como un punto medio entre todas ellas. Así, para que haya democracia debe haber un pueblo, para que haya un pueblo democrático debe haber un debate democrático y para que haya un debate democrático debe existir un mutuo reconocimiento de todas las partes implicadas en su derecho a participar del mismo. Finalmente, las decisiones emanadas de ese debate, aunque no contenten al cien por cien a las partes, deben ser aceptadas por todas ellas y ser cumplidas hasta que, siguiendo las reglas del procedimiento democrático, estas puedan volver a cambiar, lo cual implica que la opinión pública tiene un papel fundamental en la configuración y funcionamiento del debate democrático, pues es desde esa opinión pública desde donde se alienta ese mismo debate y se establecen los acuerdos y los puntos de desacuerdo.
Formas de encarnar estos ideales en regímenes concretos ha habido muchas a lo largo de la historia, algunas más cercanas que otras al ideal, pero toda forma democrática conocida desde los tiempos de la antigua Atenas, donde era la propia ciudadanía la que directamente ejercía el poder legislativo, hasta las modernas democracias liberales, donde el poder legislativo es ejercido indirectamente por la ciudadanía a través de sus representantes, democráticamente elegidos mediante el sufragio universal, se han caracterizado por dar cumplimento a ese fundamento ontológico básico de las democracias (Pérez Zafrilla, 2017: 13-33): la existencia de un pueblo que toma sus decisiones políticas en base al debate abierto y plural de diferentes puntos de vista y cuyo resultado, si bien no es completamente satisfactorio para ninguna de las partes afectadas, es comúnmente aceptado por todos al entenderse que es justo y fruto de un procedimiento adecuado, donde todos y cada uno han tenido la oportunidad de participar de forma activa, ya sea en el ágora o en el parlamento (Sartori, 2014: 167-183).
Es este mismo fundamento ontológico de las democracias, este debate democrático alimentado por una opinión publica en busca perpetua de consensos sobre cómo organizar la vida en común en orden a conseguir unos objetivos sociales concretos el que hoy día, con la irrupción de los algoritmos predictivos y las pretensiones de su aplicación a la política, está en peligro. Para comprender esta amenaza para los fundamentos ontológicos de la democracia por parte de estos algoritmos predictivos debemos entender, primero, como funcionan estas nuevas tecnologías y por qué tienen tanto poder sobre nuestras vidas.
3. LA NATURALEZA DE LOS ALGORITMOS PREDICTIVOS
Los algoritmos predictivos son aquellos sistemas de funcionamiento informático que, basándose en el historial de búsqueda de un usuario en la red, son capaces de recomendar, de forma autónoma y automatizada, contenidos de similar naturaleza y entidad en cuanto a su contenido a ese mismo usuario (Nowotny, 2022: 35-65). Estos sistemas son cada vez más comunes en los modernos motores de búsqueda de Internet, en las redes sociales y en infinidad de aplicaciones. También las plataformas de distribución online de contenidos culturales, como Netflix o Spotify, usan de estos sistemas de funcionamiento informático para recomendar a sus usuarios y clientes películas o músicas que, en función de visionados y escuchas anteriores, podrían interesarle (Nowotny, 2022: 65-101).
Estos algoritmos predictivos son parte del moderno sistema que sustenta la red de redes conocida como Internet y se han convertido en un ingrediente fundamental para la búsqueda de contenidos (Aguirre Sala, 2021). Desde el lado positivo de estos funcionamientos informáticos, es cierto que facilitan de una forma extraordinaria la búsqueda de aquellos contenidos que al usuario le podrían interesar. Gracias a los algoritmos predictivos que usan compañías de compra online como Amazon, un lector asiduo puede encontrar con facilidad aquellas lecturas que, por su género, autor o estilo, más le satisfacen. Del mismo modo, las personas dedicadas a la investigación científica o aquellas que necesitan de la red para desarrollar sus trabajos, pueden hacer uso de estos algoritmos predictivos para facilitarles la búsqueda de aquello relacionado con su campo de trabajo, dejando fuera de la búsqueda contenidos no relacionados (Nowotny, 2022: 65-101). Los algoritmos predictivos, por tanto, ofrecen una ventaja importante: la automatización de las búsquedas online, lo que en una Internet saturada de información sobre temas infinitos, ahorra una considerable cantidad de tiempo y dinero a los usuarios que, gracias a estos sistemas, pueden encontrar aquello que buscan y que les interesa a una velocidad mucho mayor que la que alcanzarían debiendo revisar, una por una, las miles de millones de páginas y entradas que aparecerían sin el uso de estos filtros automatizados (Calvo Cabezas, 2020).
No obstante esta gran ventaja que los algoritmos predictivos ofrecen en cuanto a ahorro de tiempo y de dinero, facilitando enormemente la búsqueda, estos sistemas comportan una serie de desventajas importantes, debidas a su propio funcionamiento. En primer lugar, existen dudas razonables acerca de cómo se han programado estos algoritmos predictivos. Las compañías que ofertan los servicios en Internet son compañías privadas movidas, por su propia naturaleza, por el afán de lucro, interesadas, por ello, en que el internauta consuma unos productos determinados y no otros. Desde esta perspectiva, se podría sospechar de forma fundamentada que los algoritmos predictivos no siempre podrían estar programados para beneficiar al usuario, permitiéndole ahorrar tiempo en sus búsquedas, sino a determinadas empresas, responsables de la programación de dichos funcionamientos informáticos y que, podrán alterarlos de tal modo que siempre recomienden al usuario no aquello que a este le interesa, sino lo que la empresa responsable quiere vender, en función de sus propios intereses empresariales o de un tercero con quien tenga un acuerdo comercial (Innerarity, 2023). De este modo, la música o el cine que se nos recomienda desde la plataforma de Streaming no tiene por qué ser la que nosotros deseemos escuchar en función de nuestros gustos, sino la que desde las entidades programadoras del algoritmo predictivo crean que debemos escuchar en función de los intereses propios de esa misma empresa. Lo mismo sucede con el consumo de información política, dónde los algoritmos predictivos recomiendan unas fuentes u otras en función, no ya de los intereses e inclinaciones de los usuarios, sino de la corporación que programa el algoritmo predictivo (Aguirre Salas, 2021).
Desde el punto de vista de la programación del algoritmo predictivo en el contexto de una Internet tomada por empresas privadas en búsqueda constante de su propio interés y que, por ello, podrían usar los algoritmos predictivos como una avanzada estrategia de marketing para colocar sus productos en el mercado, cabe hacerse serias preguntas sobre si estos mismos funcionamientos no tienen una implicación negativa en cuanto a la autonomía de los sujetos, dado que estos mismos algoritmos predictivos podrán ser usados para alterar el comportamiento de las personas, determinando sus hábitos y gustos en función de los intereses de los propios programadores, también a nivel político (Feenstra, 2012: 116-129). La legitimidad de esta sospecha cobra especial énfasis cuando se tienen en cuenta los miles de millones usados en la implantación y perfeccionamiento de los sistemas de recopilación de datos de los usuarios de la red para alimentar estos sistemas predictivos. En el contexto actual es legítimo preguntarse sobre el uso que se va a dar a esos datos recopilados y si estos van a servir para mejorar la experiencia online o, por el contrario, para lograr un mayor control del comportamiento de los propios usuarios en el mundo en red (Suarez-Gonzalo, 2023).
Por otra parte, aun concediendo que no exista ninguna intención oculta en las recomendaciones realizadas por los algoritmos predictivos, cabe preguntarse sobre las consecuencias para el horizonte epistémico del usuario en red, sometido a las recomendaciones del propio algoritmo predictivo. Entendiendo por horizonte epistémico el conjunto de conocimientos de una persona sobre una cantidad indeterminada de materias y de temas, es preciso resaltar que la ampliación de este mismo horizonte epistémico requiere de la interacción con contendidos y conocimientos diferentes a los ya sabidos y conocidos por el sujeto en cuestión. En otras palabras, para ampliar el conjunto de saberes de una persona concreta, esta misma persona debe tener acceso a cosas diferentes, cosas que le hagan replantearse su propio conocimiento y expandan su mundo mental, abriéndole nuevos horizontes. En este sentido, alguien que, por ejemplo, desee profundizar en un mayor conocimiento sobre la música en general no puede cerrar sus oídos ante las diferentes propuestas musicales habidas en el mundo, todo lo contrario, debe interesarse en la búsqueda de nuevas propuestas, con independencia de sus propios y legítimos gustos musicales. Del mismo modo, un investigador debe contemplar todos los lados de un problema para realizar bien su trabajo, sin cerrarse a argumentos opuestos a los que él mismo podría defender.
Los algoritmos predictivos, en tanto en cuanto basan su funcionamiento en el historial online de búsquedas del usuario, suponen una importante cortapisa a esa necesaria apertura de nuevos horizontes necesaria para incrementar el bagaje de conocimientos del usuario (Valle Jiménez y Pinilla Escobar, 2023). Si basándose en su historial de búsqueda, el algoritmo predictivo siempre recomienda al usuario el mismo tipo de contenidos: las películas de un mismo género, las músicas de un mismo estilo o las páginas web de los periódicos o publicaciones de una misma tendencia ideológica, el horizonte epistémico del usuario se verá sumamente reducido, al incluir sólo aquello que ya conoce, empobreciendo su mundo, cerrándole a nuevas experiencias y conocimientos (Aguirre Sala, 2021). Es en este mismo sentido que desde diferentes sectores académicos se mira con sospecha a los algoritmos predictivos en tanto en cuanto estos contribuyen, mediante su propio funcionamiento, a crear lo que se ha dado en llamar “cámaras de eco”, que reproducen una y otra vez, los mismos argumentos y voces que el usuario ya conoce (Pérez Zafrilla, 2021). Si el algoritmo predictivo sólo recomienda un tipo de novelas al usuario, basadas en su historial de búsqueda, ese usuario cae en una cámara de eco, pues las voces que le llegan siempre son las mismas: las suyas propias. Del mismo modo ocurre con la información política. Un algoritmo predictivo siempre recomendará la información que esté en consonancia con la línea ideológica del usuario, cerrando el horizonte epistémico del mismo en el ámbito político, vetándole el acceso a aquellos contenidos que podrían hacerle cuestionar sus propias creencias políticas, reforzando sus propias inclinaciones y opiniones. (Valle Jiménez y Pinilla Escobar, 2023).
La consecuencia para los sujetos de caer en una de estas cámaras de eco es, esa cerrazón de su horizonte epistémico, lo que lleva al extremismo en las propias posiciones (Pérez Zafrilla, 2021). El usuario, sometido a la cámara de eco en el ámbito de la escucha musical, sólo escuchará un género y estilo particular, lo cual puede llevarle a menospreciar cualquier otra propuesta diferente, del mismo modo que ocurre con el lector de periódicos que sólo lee las páginas de aquellos que son afines a su tendencia política. El radicalismo y el extremismo dependen de que el sujeto viva en un contexto de cerrazón que le impida ampliar su visión sobre un tema concreto (Martín Guardado, 2023). Así, el extremista, se nos dibuja como un sujeto con un mundo muy pequeño, un horizonte epistémico muy limitado a aquello que a él, en tanto que individuo, más le satisface ya sea desde el punto de vista estético, comercial o político. En base a esto, si los algoritmos predictivos basan sus recomendaciones al sujeto en base a su historial de búsquedas anteriores, entendiendo que son esos contenidos y otros similares los que interesan al usuario, los algoritmos predictivos acaban contribuyendo a la radicalización del mismo, empequeñeciendo su mundo, limitando el contacto con otras realidades que podrían hacerle replantearse sus creencias y sus propios gustos (Valle Jiménez y Pinilla Escobar, 2023). De este modo, los algoritmos predictivos, por su propio funcionamiento, empequeñecen el mundo de los internautas y de los usuarios de las plataformas que los usan.
Con todo esto en mente, podemos afirmar que los algoritmos predictivos, que según sus defensores buscan agilizar las búsquedas de contenidos en ese infinito océano que es la red de redes, en la práctica aparejan problemas graves, como el hecho de que podrían condicionar el comportamiento de los sujetos en función de los intereses empresariales de aquellas compañías que los programan. Por otra parte, estos sistemas, al basar su funcionamiento en los gustos del usuario para hacer las recomendaciones, limitan el acceso a contenidos diferentes, empequeñeciendo lo que aquí hemos denominado como “horizonte epistémico” del sujeto que al limitar y empobrecer el mundo del usuario, en cuanto a sus conocimientos sobre un tema concreto, apareja la radicalización y el extremismo en sus propias posiciones, al no tener acceso a un contenido diferente que le haga replantearse sus propias conclusiones y opiniones.
¿Qué implicaciones tienen estos inconvenientes de los algoritmos predictivos para el fundamento ontológico sobre el que se sustenta la democracia? ¿Pueden efectivamente los algoritmos predictivos mejorar nuestros sistemas democráticos, tal y como defienden algunos autores o, por el contrario, suponen una amenaza para los mismos al atacar el fundamento último sobre el que se asientan, como contra argumentan los críticos? Para responder a estas preguntas debemos poner en conexión teórica las implicaciones que estos algoritmos predictivos tienen en cuanto a la supervivencia del debate democrático, base sobre la que, idealmente, se sustenta cualquier régimen democrático, tenido especialmente en cuenta estos inconvenientes que se han rastreado debido al funcionamiento de estos mismos sistemas informáticos.
4. LOS ALGORITMOS PREDICTIVOS ENTRAN AL DEBATE DEMOCRÁTICO
En los apartados anteriores se ha establecido que las condiciones ontológicas fundamentales para la democracia son: la existencia de un pueblo decidido a vivir conjuntamente para alcanzar fines que, por si mismos, los individuos no podrían conseguir y que ese mismo pueblo tome sus decisiones políticas de tal modo que todos los que forman parte del mismo tengan la oportunidad de hacer oír su voz sobre los asuntos que les afectan, lo que implica la necesidad de un mutuo reconocimiento por parte de todas las partes en cuanto a la legitimidad para participar del debate político y la necesidad de aceptar el resultado hasta que se puedan cambiar los consensos siguiendo el mismo proceso democrático de debate entre todas las partes. Esta importancia del debate democrático, finalmente, hacía cobrar una especial relevancia a la opinión pública, donde se producían esos debates sociales que habrían de inspirar a los legisladores para redactar las leyes, con lo que contar con una opinión publica sana y abierta al debate entre puntos de vista opuestos se volvía algo fundamental. Establecimos que sin que se den estas condiciones ideales ninguna democracia, ya sea directa o representativa puede, no sólo funcionar de un modo satisfactorio a nivel político, sino que existir en cuanto a realidad ontológica. Sin que se cumplan estos supuestos no puede haber ningún tipo de democracia, en otras palabras.
Por otro lado, se ha mostrado que el funcionamiento de los algoritmos predictivos se basa en el uso de las opiniones y apetencias pasadas del usuario para realizar recomendaciones de contenidos en línea similares a ese mismo usuario. Este modo de funcionar, si bien permite ganar tiempo y eficacia en la búsqueda de contenidos, no es menos cierto que apareja problemas en cuanto a la autonomía de los sujetos, que puede verse comprometida al no estar clara la relación existente entre los intereses empresariales de las corporaciones propietarias y responsables de programar estos algoritmos predictivos y, por otra parte, la tendencia a crear, estos mismos sistemas informáticos, cámaras de eco que, al reducir el horizonte epistémico del sujeto, acaban por radicalizarle en sus propias opiniones y gustos, incluyéndose las opiniones sobre los temas de alcance social, político y económico, encerrándole en un bucle que reproduce, constantemente, aquellas cosas que ya sabe y conoce. Un radicalismo que impide la apertura del sujeto a nuevas ideas que puedan conmover sus creencias establecidas, reduciendo, como ya se ha dicho, su propio horizonte epistémico.
En base a esta premisa, la suposición de que el uso de los algoritmos predictivos pueda servir para mejorar los actuales sistemas democráticos debe ser puesta en duda desde el punto de vista de los fundamentos ontológicos de las democracias que aquí hemos establecido. En primer lugar, atendiendo a la necesidad de un debate público entre posiciones enfrentadas sobre un tema, pero dónde todas las partes se reconocen como sujetos legítimos para participar en él, los algoritmos predictivos, al ser proclives a crear cámaras de eco que radicalizan a los sujetos que de ellas forman parte, erosionan ese puntal fundamental de las democracias (Valle Jiménez y Pinilla Escobar, 2023). Un sujeto radicalizado en una postura concreta sobre un tema político difícilmente reconocerá la legitimidad de la otra parte, considerándola siempre como ilegitima, incapaz o perversa para formar parte del propio debate en posiciones de igualdad para con él mismo y lo que su “bando” defiende (Emcke, 2020: 49-85). Podemos observar esta misma actitud de falta de reconocimiento de las partes en nuestras mismas democracias o en las del pasado, cuando se prohibía el derecho de participación política a ciertos segmentos de la población, aduciendo motivos como su falta de entendimiento a causa de su sexo o color de piel. A día de hoy, argumentos similares también se pueden escuchar cuando diferentes fuerzas tratan de excluir y deslegitimar a sus oponentes en base a interpretaciones torticeras de las constituciones o una supuesta lealtad al Estado (Mounk, 2018: 143-157). El resultado es siempre el mismo: la exclusión de una parte del pueblo del debate democrático causada por la radicalización de las posturas, radicalización que los algoritmos predictivos potencian dado su propio modo de funcionar (Pérez zafrilla, 2021).
Por otro lado, y desde el punto de vista de la aceptación del resultado fruto del proceso democrático, la aceptación de la ley resultante del debate hasta que la misma se pueda cambiar en función, nuevamente, de las reglas democráticas, la radicalización de las partes a las que aboca el funcionamiento de los algoritmos predictivos, no se auguran buenos resultados para la democracia (Suarez-Gonzalo, 2023). Del mismo modo que un sujeto radicalizado no concede legitimidad a su contraparte para participar del debate, difícilmente aceptaría el resultado del mismo si este es contrario a la postura por él defendida. La intransigencia del radical político le lleva a adjurar del respeto a todo aquel resultado legislativo que sea contrario a sus propios puntos de vista, llamando en ese caso a la desobediencia instantánea a la ley o al resultado electoral (Innerarity, 2023: 29-37). La incapacidad de aceptar la verdad del otro, la incapacidad para asumir los matices y los resultados fruto de una negociación, la incapacidad de ceder, llevan al radical a la negación y la desobediencia del resultado (Gómez Rincón, 2021), como ponen de manifiesto los intentos de toma de las sedes de la soberanía nacional en Estados Unidos o Brasil por parte de seguidores radicales de Donald Trump o Jair Bolsonaro, renuentes a aceptar sus derrotas en los correspondientes comicios e influenciados por fake news creadas mediante sistemas de inteligencia artificial que usan de los algoritmos predictivos para colocar un mensaje interesado en cuanto al fraude electoral en el proceso de sufragio o recuento de votos (Martín Guardado, 2023).
Así pues, podemos concluir que la tendencia de los algoritmos predictivos a construir cámaras de eco que aíslan al sujeto, cerrando su horizonte epistémico, radicalizándolo, es una amenaza a dos de los fundamentos ontológicos de la democracia: el mutuo reconocimiento de las partes en conflicto y que debaten por alcanzar un acuerdo y, la necesaria aceptación de los resultados una vez se han alcanzado los acuerdos, ya sea por medio de la negociación o del proceso de sufragio por mayorías cualificadas (Suarez-Gonzalo, 2023). La incapacidad del radical para aceptar estos dos soportes básicos de los sistemas democráticos es un peligro para la supervivencia de los mismos (Innerarity, 2023: 73-77). Al contribuir a la radicalización de los sujetos, los algoritmos predictivos suponen una amenaza para la continuidad de estos dos puntales, cerrando con ello la posibilidad de una democracia basada en estos mismos algoritmos predictivos (Martín Guardado, 2023). En otras palabras, la radicalización a la que contribuyen los algoritmos predictivos, por su propio funcionamiento, destruye dos de las condiciones ontológicas de la democracia: el reconocimiento de todas las partes enfrentadas en su derecho a participar y la aceptación de los resultados.
En otro orden de cosas, la influencia que los algoritmos predictivos tienen sobre la autonomía de los usuarios, al depender en su programación de los intereses privados de las empresas propietarias de estos mismos sistemas, suponen también, una seria amenaza para la propia existencia de la democracia, que no puede funcionar sin libertad (Suarez-Gonzalo, 2023). La existencia de un pueblo decidido a autogobernarse es una de las condiciones ontológicas de la democracia. Tradicionalmente esto se ha entendido como que el pueblo democrático debe estar libre de las interferencias de potencias extranjeras, siempre ligadas a la dominación militar, dado que si un pueblo esta militarmente sometido por otra potencia nunca podrá tomar sus propias decisiones: otros las tomaran por él. Del mismo modo, un dictador que somete a un pueblo tampoco deja espacio para que ese mismo pueblo tome sus propias decisiones de modo democrático, constituyéndose entonces un contexto de dominación interna (Dahl, 1992: 233-253). ¿Qué ocurre cuando el pueblo y su opinión publican están influenciados por intereses empresariales a través de sistemas de algoritmos predictivos? ¿Se puede en este caso hablar de democracia si entendemos que la existencia de un pueblo libre es fundamental para su existencia?
Si concedemos que los algoritmos predictivos ejercen influencia sobre los hábitos de sus usuarios, condicionando sus decisiones en función de intereses empresariales (Aguirre Sala, 2021), las posibilidades de lograr construir democracias algorítmicas en base a estos funcionamientos saltan por los aires. La existencia de una opinión pública libre, capaz de debatir sobre diferentes puntos de vista concernientes a un problema político es uno de los presupuestos ontológicos de las democracias, según se ha establecido. Si esa opinión pública, no obstante, no tiene libertad para debatir problemas porque se le han escamoteado las posibilidades a los sujetos que las forman de ejercer su propio juicio en base al contraste de opiniones enfrentadas, no se puede hablar de democracia, porque no habría debate en el seno de la opinión pública: sólo una única posibilidad de acción (García Marzá y Calvo, 2022). Si los algoritmos predictivos ejercen influencia en el sujeto para llevarle a un sitio concreto, a tomar una decisión que favorece a la empresa que ha programado el algoritmo en cuestión, ocultándosele cualquier otra posibilidad ajena a esos mismos intereses, entonces el sujeto no es libre: su decisión está condicionada. Si trasladamos esta lógica a todo el conjunto de una sociedad, la posibilidad de debatir desaparece, porque no habría puntos enfrentados entre los que decidir. En una sociedad como la descrita no se puede hablar de un pueblo libre, este se encontraría dominado (Suarez-Gonzalo, 2023).
La posibilidad de que los algoritmos predictivos condicionen la voluntad del sujeto -como ya ha ocurrido en no pocos acontecimientos políticos- impidiendo su libertad, imposibilita, por tanto, las posibilidades de una democracia robustecida por el uso de algoritmos predictivos, pues destruye otro de los fundamentos ontológicos de la democracia: la libertad del pueblo para autogobernarse mediante el debate público de los diferentes cursos de acción a tomar ante un problema político determinado (García Marzá y Calvo, 2022). En otras palabras, los algoritmos predictivos, al estar configurados por empresas privadas en búsqueda constante de su propio beneficio, anulan las posibilidades del debate democrático y secuestran la voluntad del pueblo, escamoteando la necesaria información para que se produzca el propio debate en el seno de la sociedad, no presentando todas las opciones posibles, sino que sólo aquellas que benefician a la empresa propietaria y programadora del algoritmo predictivo en cuestión (Wagner, 2023). Así, en base a esto, la democracia algorítmico-predictiva se convierte en un sinsentido terminológico.
Como casos en el mundo real de las consecuencias políticas del uso de sistemas de algoritmos predictivos para condicionar procesos políticos se pueden citar los ejemplos del referéndum sobre el Brexit o las campañas electorales del expresidente de los EE.UU Donald Trump, así como el ya citado intento de asalto al Capitolio que protagonizaron sus seguidores tras la derrota del magnate ante Joe Biden en 2021. En estos acontecimientos las redes sociales, los foros de internet y algunos pretendidos medios de comunicación, jugaron un papel fundamental, utilizando de forma interesada algoritmos predictivos para alterar el estado de ánimo de la opinión pública, generando noticias falsas que eran consumidas como verídicas por parte de los partidarios del presidente Trump o de aquellos ciudadanos británicos más receptivos a la ruptura con la Unión Europea. El uso de complejos sistemas de algoritmos predictivos sirvió, en estos casos, para direccionar y colocar mensajes, generados mediante otros sistemas de inteligencia artificial, de un modo prácticamente personalizado, usando el historial de búsqueda de los usuarios de redes sociales y de motores de búsqueda para lograr una mayor incidencia y calado de los mensajes (Martín Guardado,2023).
Todo esto pone de manifiesto, tanto a nivel teórico como practico, el potencial performativo de los algoritmos predictivos cuando son usados políticamente para cerrar el horizonte epistémico de los ciudadanos, alterando así, el proceso democrático al impedirse el acceso a cualquier otro tipo de información o colocando en los primeros resultados de una búsqueda en internet aquellas entradas que resulten más convenientes a la parte interesada, condicionándose la voluntad de los sujetos mediante el uso de estas tecnologías. A la vez, estos ejemplos, muestran cómo esta radicalización en la propia postura, provocada por las cámaras de eco creadas por los algoritmos predictivos, apareja una falta de reconocimiento de los resultados cuando estos son desfavorables a los propios intereses y, también, al contrincante electoral, al que como en el caso del presidente Biden, se considera como ilegitimo por parte de los seguidores de Trump (Suarez-Gonzalo, 2023).
A modo de recapitulación, por tanto, podemos decir que el funcionamiento de los algoritmos predictivos es incompatible con la existencia de la democracia al atacar sus fundamentos ontológicos: el debate público, el respeto por todas las partes en él implicadas, la aceptación de los resultados y, la propia existencia de un pueblo libre y con capacidad de autogobernarse. Los algoritmos predictivos radicalizan a los sujetos por medio de la creación de cámaras de eco y les privan de su libertad y autonomía a la hora de decidir, al mostrarles sólo aquella realidad que interesa a los propietarios y programadores de estos funcionamientos informáticos, lo que conlleva la erosión de esos supuestos ontológicos que toda democracia necesita para existir, con lo cual, la pretensión de crear democracias algorítmico-predictivas es, más bien, infundada desde una perspectiva teórica.
5. CONCLUSIÓN
Al inicio de este artículo nos preguntábamos si era posible una regeneración de los maltrechos sistemas democráticos actuales mediante la aplicación de las tecnologías basadas en los llamados algoritmos predictivos. Anunciábamos entonces que estas esperanzas nos parecían infundadas dada la contradicción que apreciábamos entre el funcionamiento de estos sistemas tecnológicos y las bases ontológicas que hacen posible la efectiva existencia de la propia democracia como idea encarnada en un sistema político real y concreto.
Para demostrar este punto estudiamos cuáles son esos fundamentos ontológicos de la democracia y comprobamos, entonces, que esta misma se funda como ideal en la existencia de un pueblo soberano que funda sus decisiones organizativas de la vida en común sobre el debate de ideas contrapuestas, debate en el que todas las partes implicadas de la decisión están legitimadas y llamadas a participar, gozando del reconocimiento de las otras partes en conflicto. Ese debate presupone la existencia de una opinión pública viva y libre para debatir y, finalmente, el compromiso de todas las partes participantes de aceptar el resultado final, aunque este no satisfaga al cien por cien sus expectativas particulares.
Por su parte los algoritmos predictivos basan su funcionamiento en el historial de búsqueda del usuario para recomendarle a este contenidos similares en forma, contenido y materia a los mismos en base a la suposición de que estos son sus intereses particulares, agilizando así el proceso de búsqueda de información en una red de redes cada vez más saturada de contenidos. Unos algoritmos predictivos que, no obstante, están en manos privadas, lo que abre la puerta a la sospecha sobre si las recomendaciones que realizan estos sistemas no están, de algún modo, sesgadas en favor de los intereses empresariales y económicos de esa corporación propietaria de los mismos, lo que abrirían la puerta a la posibilidad de la dominación del sujeto por parte de esa misma corporación.
Con estas premisas establecimos que si bien, los algoritmos predictivos resultan útiles para la búsqueda de información en un menor tiempo, también es cierto que, al fundarse sobre los gustos particulares del usuario, recomendando siempre un contenido similar, estos sistemas predictivos crean cámaras de eco que, al reducir el horizonte epistémico del usuario, contribuyen a su fanatismo y radicalización, lo que tiene como efecto sobre la democracia el acabamiento del mutuo reconocimiento de las partes enfrentadas en el debate y la no aceptación de los resultados del mismo una vez estos se produzcan. Por otra parte, la facilidad con la que los algoritmos predictivos anulan la libertad del sujeto pone también en peligro la existencia de una opinión publica libre para debatir, mostrándose sólo una única parte de un problema: la recomendada por el algoritmo predictivo, programado por la empresa propietaria del mismo, con lo que desaparece así una parte fundamental de la democracia: la viveza y libertad de la opinión pública del pueblo soberano.
En definitiva, con estos mimbres, las pretensiones de fundar una democracia algorítmico-predictiva o de usar los algoritmos predictivos para mejorar los sistemas democráticos actuales resultan completamente apresuradas, pues como se ha demostrado, el funcionamiento de estos mismos algoritmos predictivos es antitético con los propios fundamentos ontológicos de la democracia. Con todo esto se pone de manifiesto que los algoritmos predictivos no pueden ser contemplados como un remedio a los males que aquejan nuestros sistemas democráticos por sí mismos, en tanto que erosionan los puntales básicos que permiten su existencia, debiendo buscarse otras soluciones que no descansen, únicamente, en el uso de estas nuevas tecnologías.
BIBLIOGRAFÍA
Aguirre Sala, J.F. (2021): “Los desafíos de la transformación digital de la democracia”. Recerca. Revista de pensament i anàlisi, 26(2), 1-23.
Calvo Cabezas, P. (2020): “Democracia aumentada: Un ecosistema cibernético para una participación política basada en algoritmos”. Ápeiron. Estudios de filosofía, 12, 129-141.
Castells, M. (2017): Ruptura. La crisis de la democracia liberal. Madrid: Alianza Editorial.
Dahl, R.A. (1992): La democracia y sus críticos. Barcelona: Paidós
Emcke, C. (2020): Contra el odio. Barcelona: Taurus.
Feenstra, R. (2012): Democracia monitorizada en la era de la galaxia mediática. La propuesta de John Keane. Barcelona: Icaria.
Ferrara, A. (2014): El horizonte democrático. El hiperpluralismo y la renovación del liberalismo político. Barcelona: Herder.
García Marzá, D. y Calvo, P. (2022): “Democracia algorítmica: ¿un nuevo cambio estructural de la opinión pública?”. Isegoría. Revista de Filosofía moral y política, 67, 1-15.
Gómez Rincón, J. F. (2021): “La fi de l’hegemonia neoliberal i el renaixement populista. L’antropologia neoliberal com a origen de l’actual moment populista”. Quaderns de filosofia, 8, (2), 43-64.
Gómez Rincón, J. F. (2022): “Neoliberalismo y extrema derecha. Una problematización desde Spinoza”. Res Publica. Revista de Historia de las Ideas Políticas, (25), 2, 199-208.
Graeber, D. (2021): El estado contra la democracia. Madrid: Errata naturae.
Habermas, J. (1987): Teoría y praxis. Estudios de filosofía social. Madrid: Tecnos.
Innerarity, D. (2015): La política en tiempos de indignación. Barcelona: Galaxia Gutenberg.
Innerarity, D. (2023): “Justicia algorítmica y autodeterminación deliberativa”. Isegoría. Revista de Filosofía moral y política, 68, 1-10.
Innerarity, D. (2023): La libertad democrática. Barcelona: Galaxia Gutenberg.
Jáuregui, Gu. (1994): La democracia en la encrucijada. Barcelona: Anagrama.
Martín Guardado, S. (2023): “Desinformación, odio y polarización en el entorno digital: segregación de la esfera pública y efectos sobre la democracia”. Revista Estudios en Derecho a la Información, 15, 3-30.
Mounk, Y. (2018): El pueblo contra la democracia. Por qué nuestras libertad está en peligro y cómo salvarla. Barcelona: Paidós.
Nowotny, H. (2022): La fe en la inteligencia artificial. Los algoritmos predictivos y el futuro de la humanidad. Barcelona: Galaxia Gutenberg.
Nussbaum, M. C. (2014): Emociones políticas. ¿Por qué el amor es importante para la justicia? Barcelona: Paidós.
Nussbaum, M. C. (2019): La monarquía del miedo. Una mirada filosófica a la crisis política actual. Barcelona: Paidós.
Pedraza Ochoa, E. y Martínez Acevedo, P.J. (2022): “Algoritmos y democracia: impacto, peligro y propuestas regulatorias”. Pensamiento jurídico, 56, 91-114.
Pérez Zafrilla, P.J. (2017): La democracia en cuestión. Los ciudadanos demandan una política diferente. Madrid: Biblioteca Nueva.
Pérez Zafrilla, P.J. (2021): “Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en internet”. Recerca. Revista de pensament i anàlisi, 26(2), 1-23.
Sartori, G. (2014): ¿Que es la democracia? Barcelona: Taurus.
Shafik, M. (2022): Lo que nos debemos los unos a los otros. Barcelona: Paidós.
Suarez-Gonzalo, S. (2023): “Soberanía digital: un debate abierto y tres problemas políticos”. Quaderns de filosofia, 2 (10), 133-144
Valle Jiménez, D. y Pinilla Escobar, F.A. (2023): “Información, democracia y libertad en la era de la segmentación: apuntes sobre una relación compleja”. FORUM. Revista Departamento Ciencia Política, 24, 53-79.
Wagner, A. (2023): “Deliberación, polarización y posverdad. Repensar la responsabilidad en la sociedad digital”. Quaderns de filosofia, 2 (10), 51-67.
1Doctor en ética y democracia por la Universitat de València. Correo electrónico: jogomez36@hotmail.com. Correo postal: c/Gilet Nº5, Sagunto. Orcid: https://orcid.org/0000-0002-5877-4565