VIGENCIA DE LA NOCIÓN DE CIBERNÉTICA EN MARTIN HEIDEGGER1
VALIDITY OF HEIDEGGER'S NOTION OF CYBERNETICS
Alfonso Ballesteros
Departamento de Ciencia Jurídica, Facultad de Ciencias Sociales y Jurídicas de Elche, Universidad Miguel Hernández
Edif. Torrevaillo, Av. de la Universidad, s/n, 03202, Elche (Alicante)
Fechas de recepción y aceptación: 26 de abril de 2022 y 2 de noviembre de 2022
DOI: https://doi.org/10.46583/scio_2023.23.1057
Resumen: Con este trabajo persigo tres objetivos. El primero es ofrecer una aproximación a la noción de cibernética en Martin Heidegger. El segundo es considerar si esta noción sigue vigente. El tercero es llevar la noción de cibernética a un ámbito concreto, el del derecho. Me ocupo de lo que se ha denominado “informática jurídica”. Para lograr estos objetivos presento lo que Heidegger escribió o dijo sobre el tema y sobre algunas nociones cercanas como las de ciencia, técnica y el principio de razón. Para perseguir el segundo objetivo, si la cibernética según Heidegger sigue vigente, me pregunto si la causalidad todavía es el saber perseguido por la inteligencia artificial. Por último, para lograr el tercer objetivo, presento algunas reflexiones sobre informática jurídica a partir de la doctrina iusfilosófica.
Palabras clave: cibernética, Martin Heidegger, inteligencia artificial, derecho, informática jurídica.
Abstract: With this paper I pursue three objectives. The first is to offer an approach to the notion of cybernetics in Martin Heidegger. The second is to consider whether this notion is still valid. The third is to carry out the notion of cybernetics to a specific field, that of law, to what has been called "legal informatics". To achieve these objectives, I present what he wrote or said on the subject and on some related notions such as science, technique and the principle of reason. For Heidegger, cybernetics is a new fundamental science that replaces philosophy. To pursue the second objective, if cybernetics according to Heidegger is still valid, I wonder if causality is still the knowledge pursued by artificial intelligence. I conclude it is, causality is still pursued for utility reasons. Finally, to achieve the third objective, I present some reflections on legal informatics based on the iusphilosophical reflections of some authors.
Keywords: cybernetics, Martin Heidegger, artificial intelligence, law, legal informatics.
I. INTRODUCCIÓN
Este trabajo tiene tres objetivos. El primero es ofrecer una aproximación a la noción de cibernética en Martin Heidegger. El segundo es considerar si esta noción sigue vigente. El tercero es llevar la noción de cibernética a un ámbito concreto, el del derecho, a lo que se ha denominado “informática jurídica”.
Heidegger utiliza el término “cibernética” en diversas ocasiones, muchas veces de manera sucinta. Sin embargo, sus referencias al triunfo de la cibernética la sitúan como un fenómeno de la mayor importancia: la cibernética sustituye a la filosofía. Al tiempo que esto sitúa el tema como central y de la mayor importancia en la obra del autor, el carácter concreto y limitado de las referencias a la cibernética permite que los objetivos del trabajo sean realizables.
Empleo aquí algunos textos que Heidegger no publicó en vida y que vienen a nutrir la obra publicada y ayudan a tener una visión más global del autor. La obra inédita, que ahora se va publicando, está modificando el modo de entender a este autor, quizá no siempre con la debida precaución. Ello entraña el peligro de igualar como material de investigación lo que fue escrito para ser publicado, con lo que no fue revisado ni aprobado por el autor. Las obras publicadas en vida podrían llegar a igualarse como fuentes de interpretación con las conferencias, diarios, anotaciones o incluso las cartas familiares que se hacen públicas ahora (Flamarique, 2011, p. 608). Precisamente debido a esto he contrastado las publicaciones póstumas en las que aparecen más referencias a la cibernética, con aquellas obras que el autor publico en vida y que guardan relación directa con el tema tratado.
En la primera parte del trabajo trato de la noción de cibernética en Martin Heidegger como sustituta de la filosofía como nueva ciencia fundamental (II). En la segunda parte me ocupo de la vigencia de dicha noción en el panorama científico y técnico actual dominado por los macrodatos y la llamada inteligencia artificial (III 1-3). En la parte final dedico especial atención al derecho como una ciencia particular de la cibernética, o la llamada “informática jurídica” (III 4-7).
II. LA CIBERNÉTICA COMO NUEVA CIENCIA FUNDAMENTAL Y LAS CIENCIAS PARTICULARES
1. El final de la filosofía
La cuestión del final de la filosofía es una de las centrales del panorama filosófico de las últimas décadas (Esteban Enguita, 2015). También Heidegger hace su aportación a este tema. Lo hace, en particular, con una conferencia de 1964 pronunciada en la UNESCO y titulada “El final de la filosofía y la tarea del pensar” (Heidegger, 1978). En este texto aparece la idea de la sustitución de la filosofía por la cibernética. Para comprender qué significa esta sustitución conviene recordar qué significa filosofía y en qué se distingue del pensar.
¿Qué es filosofía para Heidegger? Como es sabido, para el alemán, el pensar y el filosofar no son lo mismo. El pensar es más originario que la filosofía. El pensar es característico de Heráclito y Parménides. Heidegger señala que, en este momento, se da una armonía originaria con el Ser. Con estos autores el amor al logos es armonía, convivencia con el Ser. No es necesario buscar el Ser, pues se convive con él. El filosofar de Sócrates y Platón supone una ruptura con esto. El filosofar, según Heidegger, ya no está en convivencia con el Ser, que reúne, y por eso anda en su búsqueda. La filosofía es, por ello, búsqueda, espoleada por el Eros. El asombro es lo que lleva a filosofar y el hombre ya no convive en armonía con el Ser. Según Heidegger, a diferencia de la armonía del pensar, el filosofar es una aspiración particular del filósofo. ¿En qué consiste esta aspiración? Según Heidegger es una aspiración a conocer el ente. De hecho, esta aspiración caracteriza a la filosofía de Sócrates en adelante. La filosofía, a diferencia del pensar que es más modesto, es una capacidad para mirar el ente en su totalidad. (Heidegger, 1978, pp. 55-56).
Para Heidegger filosofía y metafísica son sinónimos. La metafísica busca conocer el ente en su totalidad y esto mismo hace la filosofía. Este deseo de representación del ente en su totalidad es singularmente claro con Platón. De hecho, Heidegger da una singular importancia a Platón, hasta el punto de que la filosofía es platonismo. ¿Y cómo representa Platón el ente? Como es sabido, el griego lo representa como aspecto, como algo que se ve o como imagen. La idea o eidós (aspecto, visión) platónica permitiría representar el ente en su totalidad (Heidegger, 2010, p. 85). Y esto es precisamente lo que hace toda la tradición de la filosofía, aunque en vez de idea se hable de otra cosa, según la visión metafísica de cada filósofo. Ahora bien, desde la filosofía de Nietzsche —siempre, aquí, según la interpretación de Heidegger— esta historia de la filosofía se encuentra en su estadio final. Se encuentra en su “acabamiento”. Lo que nos dice Heidegger es que, aunque Nietzsche invierte las categorías de Platón, no por ello se desliga de él. ¿Por qué? Porque su inversión sigue ligada a las categorías platónicas. En particular, todavía se representa el ente en su totalidad y, por ello, está atrapado aún en lo que Heidegger llama una ontología metafísica. En este sentido todavía está ligado a la tradición, a pesar de oponerse a ella.
“La frase “Dios ha muerto” significa —escribe Heidegger— que el mundo suprasensible ha perdido su fuerza efectiva. No procura vida. La metafísica, esto es, para Nietzsche, la filosofía occidental comprendida como platonismo, ha llegado al final. Nietzsche comprende su filosofía como una reacción contra la metafísica, lo que para él quiere decir, contra el platonismo” (Heidegger, 2010, p. 162).
Estas últimas dos frases son también verdaderas si cambiamos el nombre de Nietzsche por el de Heidegger, lo que pone de manifiesto la enorme influencia que aquel tiene sobre este. A la relación entre ambos autores se ha referido Hannah Arendt. La filósofa de la política le da tal importancia a esta influencia que considera que es la causa del giro, el gran cambio en la obra de Heidegger. Ese giro en el pensamiento de Heidegger ocurrido a mediados de los años treinta —y que anuncia en su Carta sobre el humanismo de 1949— estaría producido por la lectura de Nietzsche. ¿Dónde se produjo el giro? Arendt escribe: entre el primer y segundo tomo de la obra Nietzsche, de Heidegger. Ella señala que el segundo tomo que Heidegger escribió sobre Nietzsche es un tomo en el que polemiza con Nietzsche y esto no ocurre con el primer tomo que está escrito “caminando junto a él” (Arendt, 1984, p. 446). Por tanto, el cambio o giro, según ella es contra Nietzsche. En particular, contra la voluntad de poder. La voluntad de poder es, para Heidegger, como una suerte de “pecado original” del hombre (Arendt, 1984, pp. 446 y ss.).
Según la singular interpretación de Heidegger, la misma naturaleza de la tecnología es voluntad de querer, es decir, sujetar todo el mundo a su dominación y gobierno. Frente a esta voluntad de sujeción es necesaria la Serenidad (Gelassenheit). Un abandono de la voluntad y, por tanto, de las relaciones causales que la caracterizan (Arendt, 1984, p. 453).
En mi opinión, no cabe duda de que hoy este sereno abandono no es más que un propósito o ideal de algunos, pero el ajetreo y la exaltación de la voluntad como causante de efectos es extraordinaria. Ese sereno abandono de la causalidad no se ha producido. Al contrario, junto con el acabamiento de la filosofía operado por Nietzsche, se alza ya una nueva manifestación de la voluntad de poder: la cibernética. En su entrevista con Der Spiegel se dice lo siguiente:
“HEIDEGGER: […] El papel que la filosofía ha tenido hasta ahora lo han asumido hoy las ciencias. […] La filosofía se disuelve en ciencias particulares: la psicología, la lógica, la politología.
SPIEGEL: ¿Y quién ocupa ahora el puesto de la filosofía?
HEIDEGGER: La cibernética” (Heidegger, 1996).
Puede entenderse la cibernética como aún vinculada con la filosofía o, al menos, Heidegger no dice que cese el modo de pensar filosófico (Heidegger, 1978, p. 99). Sin embargo, la filosofía sí se desarticula porque ya no se aspira a conocer el ente en su totalidad. La filosofía se divide en “psicología, lógica, politología”, en ciencias particulares. En este sentido, la cibernética parece un acabamiento más avanzado, si se puede hablar así, que el de Nietzsche. ¿En qué sentido? Para Heidegger, Nietzsche todavía piensa en términos metafísicos, es decir, platónicos. Todavía pretende representar el ente en su totalidad (Heidegger, 2010, p. 158). Sin embargo, la cibernética ya no parece tener esta aspiración y, en su descripción de la misma, no se señala esto en ningún momento (Heidegger, 1978, pp. 99-100). Si entendemos el acabamiento de la filosofía como la “autonegación” de esta (Esteban Enguita, 2015, pp. 29)2 —y aquí entran tanto Nietzsche, como la cibernética—, quizá puede entenderse esta sustitución de la filosofía por la cibernética como una autonegación de la filosofía, todavía más consumada que la operada por Nietzsche.
2. La cibernética y sus características
Como se ha dicho, la sustitución de la filosofía por la cibernética se produce a la vez que la filosofía se disuelve en diferentes ciencias. Distintas ciencias como la psicología, la antropología cultural o la lógica (Heidegger, 1978, p. 99). Tras este desmenuzamiento la filosofía es desplazada por la cibernética, como nueva ciencia fundamental.
¿Qué significa cibernética? Su origen etimológico apunta a esta nueva función directora. Cibernética es la kybernetes (timonel), la que maneja el timón de las nuevas ciencias. ¿Qué tienen de nuevas estas ciencias? Un rasgo característico es que diluyen la distinción entre ciencia y técnica todavía más. Las nuevas ciencias son ciencias tecnificadas. Heidegger había distinguido ciencia y técnica, pero asumía el predominio de la segunda. Es la segunda la que exige la transformación de la primera: “La técnica mecanizada es, por sí misma, una transformación autónoma de la práctica, hasta el punto de que es ésta la que exige el uso de la ciencia matemática de la naturaleza” (Heidegger, 2010, p. 63). Es la técnica la que exige a la ciencia. Esta prioridad de la práctica sobre la teoría, de la técnica sobre la ciencia, se realiza todavía más plenamente con el triunfo de la cibernética. Vale la pena detenerse en lo que dice Heidegger de la cibernética, que es poco, pero significativo.
1. La cibernética de Wiener se aproxima científicamente al ser humano y lo considera “una información” (Heidegger, 2013, p. 153). El texto citado por Heidegger, de Norbert Wiener (autor que acuñó el término de “cibernética”) es, precisamente, Cibernética y sociedad. Wiener señala que la tesis del libro es que la sociedad puede comprenderse mediante el estudio de los mensajes de esta y de sus facilidades de comunicación. Entiende que los mensajes pueden darse entre hombre y máquina, o entre hombres, o entre máquinas indistintamente. Y, ¿qué son mensajes o informaciones? “Lo que es objeto de intercambio con el mundo externo, mientras nos ajustamos a él y hacemos que se acomode a nosotros” (Wiener, 1988, p. 17). La información permite una vida eficaz. “Vivir de manera efectiva significa poseer la información adecuada […] la comunicación y la regulación constituyen la esencia de la vida interior del hombre, tanto como de su vida social” (Wiener, 1988, p. 18).
2. La cibernética transforma el lenguaje en un intercambio de mensajes/noticias (Austausch von Nachrichten) (Heidegger, 1978, p. 100). La interpretación de Heidegger es que Wiener está buscando un elemento en el hombre que le permita estudiarlo científicamente y el que encuentra es la capacidad de palabra. Aquí se emplea la misma fórmula aristotélica, pero con un significado matematizante, según Heidegger. El lenguaje que se habla aquí es un lenguaje mensurable, calculable. Es decir, es un lenguaje aritmético. Solo en la medida en que se accede a un hablar cierto, cognoscible con certeza, se puede afirmar que el ser humano está dotado de palabra. Igual que no se afirma la existencia del alma porque no se puede asegurar que la tenga con los métodos científicos, solo afirmamos que habla en la medida en que ese lenguaje puede ser conocido de forma cierta (Heidegger, 2013, pp. 153-154)3.
3. La cibernética, siempre según Heidegger, tiene un carácter social y es la teoría para dirigir la planificación y organización del trabajo humano (Heidegger, 1978, p. 100)4. Recordemos que la tesis principal de Wiener es que la sociedad puede comprenderse como un intercambio de comunicaciones.
4. La cibernética, señala Heidegger, convierte el arte en un instrumento de la información y manipulación (Heidegger, 1978, p. 100).
3. Las nuevas ciencias particulares
Las ciencias particulares que se subordinan a la cibernética son aquellas que se someten a la técnica, a exigencias prácticas. Como ciencias particulares cita expresamente, cuando se refiere a esto de forma más amplia, el derecho, la naturaleza, la historia y el arte (Heidegger, 1978, p. 100). Como vemos, incluye indistintamente las ciencias naturales y las del espíritu: naturaleza, historia, derecho o arte. Estas, naturalmente, para hacerse ciencias autónomas han de delimitar su campo o sector de objetos y señalar los límites de su competencia científica.
Heidegger escribe que las ciencias particulares entienden las categorías que delimitan su campo de objetos como hipótesis de trabajo (1). Es singularmente importante que señala que la verdad de sus hipótesis no se mide solo por lo que ayuda al progreso investigador, sino también por la eficacia de sus efectos (2). La verdad se confunde con la eficacia, con la causa eficiente. Indica, asimismo, que las ciencias particulares asumen como tarea propia exponer las Ontologías de sus correspondientes regiones del ente al suponer su campo categorial (3). Su interés se dirige a la teoría de los conceptos estructurales que son necesarios para el campo de objetos que se subordina a dichos conceptos. Esta Ontología es negada expresamente por las ciencias, pues a las categorías solo se les atribuye una función cibernética, es decir, técnica. Sin embargo, Heidegger piensa que aquí todavía hay una ontología, pero solo referida a regiones del ente como se ha señalado. El fin de cada una de estas ciencias particulares es dominar el carácter “operacional y modélico” representante-calculador de cada sector de objetos (Heidegger, 1978, pp. 100-101).
Lo precedente se refiere a lo que Heidegger escribió sobre la cibernética. No se ocupó de esta por extenso. Sin embargo, profundizó como pocos en aspectos muy relacionados con esta, como la ciencia y la técnica modernas, de modo que estudiar estas cosas nos da un cuadro más amplio de la noción de cibernética. En particular, creo que vale la pena detenerse en su descripción del carácter de la ciencia moderna. El propósito es preguntarnos si la cibernética sigue siendo plenamente moderna, si sigue vinculada al modelo de la ciencia moderna.
4. Ciencia moderna como ciencia matemática
Para Heidegger es central la diferencia entre la ciencia de la Antigüedad y la ciencia moderna. La una y la otra son esencialmente distintas. La ciencia antigua no era exacta porque según su esencia no podía serlo. En cambio, la ciencia moderna por esencia no puede ser más que exacta. Esta distinción se explica en las próximas páginas. En el punto antes indicado (el de la falta de exactitud de la ciencia de la Antigüedad), la ciencia antigua se asemeja más a las ciencias del espíritu que a la ciencia natural moderna. Para Heidegger la esencia de la ciencia actual es su carácter de investigación. Y este carácter investigador es la fuente de su exactitud. Este no se deba en la Antigüedad. Las matemáticas le proporcionan su carácter de investigación a la ciencia moderna.
Para el filósofo alemán la investigación supone un proceder por anticipación. ¿Qué significa esto? Se trata de que nos aproximamos a lo desconocido situándolo en relación con lo que ya conocemos. Por decirlo así, no nos abrimos a conocer lo que sea que deba mostrarse, sino que conocemos a través de lo ya conocido. Este conocer por anticipación está ligado etimológicamente con la “matemática”. El término significa lo que se conoce por adelantado. Lo matemático, para Heidegger, tiene un sentido muy amplio pues se refiere a todo ese proceder por anticipación. Por ejemplo, la física matemática ya conoce “el carácter de cuerpo de los cuerpos, lo que las plantas tienen de planta, lo animal de los animales […] A esto ya conocido, es decir, a lo matemático, aparte de lo ya enumerado también pertenecen los números. Cuando vemos tres manzanas sobre la mesa nos damos cuenta de que son tres. Pero es que ya conocemos el número tres, la triplicidad” (Heidegger, 2010, p. 65).
Como se ve el número no es lo principalmente matemático, ni el paradigma de lo matemático para Heidegger. El número es algo matemático, pero la matemática no se refiere solamente al número. La matematización de la investigación moderna de las ciencias no es simple numerización. Ciertamente, el número entraña ese proceder de representar anticipador de la matemática cuando se aproxima a un sector de objetos y, por ello, el nombre de matemáticas quedó reservada para lo tocante a los números. Sin embargo, no se limita a esto y esto es relevante (Heidegger, 2010, p. 65).
La física, por ejemplo, se torna matemática cuando se aproxima a su sector de objetos con un conocimiento anticipador, cuando procede por adelantado. La física es “el conocimiento de la naturaleza en general y particularmente el conocimiento de lo que tiene un carácter corpóreo y material en su movimiento” (Heidegger, 2010, p. 65). La decisión de matematizar la física afecta a lo que entendemos por naturaleza (anticipadamente) en aras del propio conocimiento de la naturaleza (una vez obtenemos un conocimiento científico). Se proyecta un rasgo de lo natural y ese rasgo acota el sector del ente que se estudia. La física matemática es exacta porque su vinculación con su sector de objeto tiene el carácter de la exactitud. Su rigor se basa en la exactitud.
Según Heidegger la ciencia se convierte en investigación gracias al proyecto y al método. El proyecto tiene que permitir representar lo variable, conseguir fijar lo que se transforma. Lo variable se representa como una ley que permite seguir el transcurso de los movimientos. Y en este punto el experimento tiene el papel de aclarar. El experimento no convierte en investigación a estas ciencias de la naturaleza. Lo que las hace ciencias modernas es, más bien, el proceder anticipador. El experimento solo es posible en la medida en que ya hay investigación con una base matemática. De hecho, lo decisivo del experimento, como realidad moderna, es que pone como base una ley:
“El experimento comienza poniendo como base una ley. Disponer un experimento significa representar una condición según la cual un determinado conjunto de movimientos puede ser seguido en la necesidad de su transcurso o, lo que es lo mismo, puede ser apto a ser dominable por medio del cálculo” (Heidegger, 2010, p. 67).
¿Qué significa ley aquí? Heidegger señala que la ley se lleva a cabo según el rasgo fundamental del sector de objetos (Heidegger, 2010, p. 67). Cuanto más exacto es el rasgo más exacto es, luego, el experimento. El experimento es una confirmación de la ley. Por decirlo así, el experimento está ya atado al conocimiento anticipador. No puede dar como resultado algo completamente nuevo o distinto, pues responde a la visión esquemática del sector científico que sea. La ligazón del experimento con su sector de objetos es matemática y, por ello, solo puede ser exacta.
5. La metafísica de las ciencias y la imagen del mundo
Las ciencias como investigación entrañan una metafísica. Para Heidegger esto quiere decir que proporcionan una imagen del ente en su totalidad. Proporcionan una imagen del mundo. La metafísica moderna comienza con Descartes, con su reducción del saber a certeza. “Lo ente se determina por vez primera como objetividad de la representación y la verdad como certeza de la misma en la metafísica de Descartes” (Heidegger, 2010, p. 72)5.
Podemos ya presentar cuál es la esencia de la Edad moderna para Heidegger. Esta consiste en que el mundo puede convertirse en imagen, representarse en su totalidad. Se concibe el mundo como imagen. Se puede representar, “poner ante sí, traer hacia sí” (Heidegger, 2010, p. 76). La aproximación matemática al campo de conocimiento —que permite exactitud— es lo que a su vez posibilita la certeza del sujeto que conoce. A mayor objetividad —entendida aquí de forma muy restringida como posibilidad de conocimiento cierto, de ausencia de duda—, mayor subjetividad —entendido “sujeto” como el que conoce con certeza el objeto. Aquí se presenta la gran paradoja de la Edad moderna, para Heidegger:
“[…] el proceso fundamental de la historia moderna, el cual, a primera vista, parece casi absurdo. Cuanto más completa y absolutamente esté disponible el mundo en tanto que mundo conquistado, tanto más objetivo aparecerá el objeto, tanto más subjetivamente o, lo que es lo mismo, imperiosamente, se alza el subjectum” (Heidegger, 2010, p. 76).
El humanismo —entendido como antropomorfismo— solo puede surgir en este contexto. ¿Por qué? Porque se “valora el ente en su totalidad a partir del hombre y para el hombre” (Heidegger, 2010, p. 76)6. El hombre sería la medida de todas las cosas, del mundo en su totalidad. Aquí la verdad es traicionada, en favor de la utilidad humana. Se busca no tanto saber, como un aseguramiento de lo sabido, una certeza. Un asegurarse, todo ello gracias al “poder ilimitado del cálculo, la planificación y la corrección de todas las cosas” (Heidegger, 2010, p. 77). El aseguramiento científico de lo sabido sustituye al aseguramiento de la fe como certeza de lo que no se ve según la fórmula paulina. La fe es sustituida por el auto-aseguramiento.
Es el hombre mismo el que se hace garante de la certeza de lo que puede ser sabido. Es una auto-certeza. “Este asegurar tiene que ser una forma de cálculo, porque sólo la calculabilidad es capaz de garantizarle por adelantado y constantemente su certeza al elemento representador” (Heidegger, 2010, p. 87). El representar ahora parte de sí mismo gracias al aseguramiento del procedimiento anticipador, de su carácter matemático, de lo que sabe con anterioridad. La certeza es un saber sobre el saber. Es un saber que está asegurado. Es un saber con certeza, un saber de una determinada manera que acota el espacio del ente precisamente a lo que puede llegar a saberse de este modo. En este punto conectan la ciencia moderna exacta y el saber sobre ella que es cierto.
6. El principio de razón como dominio del cálculo y la asunción de que todo tiene una causa
Cuando se refiere a la cibernética Heidegger da una gran importancia a Leibniz y su principio de razón suficiente. Si bien, donde se refiere detenidamente a este autor es en “El principio de razón” (Heidegger, 1978, pp. 71-93) que forma parte de una conferencia pronunciada en 1956. Gottfried Leibniz, para él, es un continuador y consumador del aseguramiento propio de la metafísica moderna iniciada por Descartes. El mismo fundador de la cibernética, Wiener, se refiere a él como su fuente intelectual.
“Leibnitz [sic], poseído por la idea de las comunicaciones, es en varios aspectos, el antepasado intelectual de los conceptos de este libro [Cibernética y sociedad], pues también se interesó por las máquinas de calcular y los autómatas” (Wiener, 1988, p. 18).
En particular, interesaban a Wiener las ideas de Leibniz de la Characteristica Universalis o lenguaje científico para todas las artes y ciencias y el Calculus Ratiocinator o cálculo lógico como antepasado de la lógica matemática (Wiener, 1988, p. 18).
¿Qué nos dice Heidegger sobre Leibniz? Señala que este cambia el saber con certeza cartesiano (el aseguramiento en el pensar del yo), por la mónada. No cambia en lo sustancial, sigue aquí el proceso de una metafísica que reduce el ente a lo que se puede asegurar. Por decirlo con sencillez, la metafísica se reduce a saber con certeza. No se trata tanto de saber, sino de saber con seguridad. Se trata de tener el saber asegurado. No en vano, Heidegger dice de forma significativa que Leibniz fue el inventor de los seguros (Heidegger, 1978, p. 73).
Heidegger se centra —de entre los principios formulados por Leibniz—, en el principio de razón. Según Heidegger el principio ha sido incubado desde el siglo VI a.C., pero solo con Leibniz se revela: “‘Nada es sin razón’. El principio dice ahora: algo es ente si —y solo si— está asegurado para el representar como objeto calculable” (Heidegger, 1978, p. 77). Solo es aquello que puede representarse de forma segura. Es decir, someterse al contar, la ratio, el cálculo. Como es sabido, Heidegger consideraba que los romanos habían traducido mal los términos griegos, por eso “ratio” es, para él, sinónimo de “cálculo”, no de “logos”7.
Es una desafortunada traducción la de logos por ratio. Ratio, señala Heidegger, procede del lenguaje comercial romano, significa “cálculo”. El principio de razón, vinculado a su origen etimológico es, en definitiva, el principio del cálculo, del saber calculador propio de las ciencias modernas. Además, el principio de razón es el que conduce a la mayor perfección técnica posible. Perfección consiste en calculabilidad de los objetos. Aquí conecta la certeza o el saber asegurado que nos brinda la matemática, con el hacer técnico.
Heidegger señala que el conocimiento se hace coherente en una unidad no contradictoria (Heidegger, 1978, p. 83). Denuncia el sistema como un forzar la representación. La representación, en realidad, es siempre un forzar. Cuando el hombre representa siempre se pone a sí mismo en la representación. Con el principio de razón de Leibniz esto se torna todavía más acusado. Solo lo coherente puede someterse al cálculo. Según parece es, precisamente, la no contradicción lo característico de las verdades de razón de Leibniz. Heidegger presenta un ejemplo tomado de la física atómica:
“Hasta hace poco, la ciencia conocía sólo el protón y el neutrón como partículas del átomo. Hoy son ya más de diez. Debido a estos hechos, la investigación se ve empujada a reducir la pluralidad dispersa de las partículas elementales a una nueva unidad. Se trata de superar las contradicciones, que aparecen continuamente en los hechos observados y en las teorías propuestas para su explicación. Esto sucede haciendo que concuerden los hechos contradictorios. Para ello, se necesita una unidad que enlace lo contradictorio. Ahora bien, la razón suficiente que se da en cada caso, es lo que soporta y determina en los juicios el enlace de representaciones. A partir de aquí resulta claro que el estímulo a preguntar por la unidad no contradictoria de los juicios, y el impulso al correspondiente poner en seguridad esta unidad, vienen del poder de la llamada a que sea dada la razón suficiente de todo representar. El dominio del poderoso principio de razón, es el elemento en que se mueven las ciencias, como el pez en el agua y el pájaro en el aire” (Heidegger, 1978, pp. 82-83).
Este ejemplo es interesante porque se explican el principio de razón y el de no contradicción conjuntamente. Aquí caben dos interpretaciones posibles: la primera es que Heidegger se opone al conocimiento sistemático que fuerza el principio de no contradicción (1). Según esta interpretación la oposición al sistema no es una oposición al principio aristotélico de no contradicción. La segunda interpretación posible es que Heidegger considera la contradicción de los hechos como algo posible en el seno de lo real (2). Esta segunda interpretación es más razonable si se tiene en cuenta que Heidegger desconfía de toda aquella aproximación a la realidad que pretende forzarla de modo esquemático o rígido.
Por último, el estudio de Leibniz también es de interés para este trabajo por una razón adicional. Vuelve a aparecer el término información. Heidegger habla de “Information”, un término que, de forma significativa, mantiene en inglés. Una vez encontrada la energía atómica solo queda asegurar su utilidad. La palabra para dicho aseguramiento es “Information”. Heidegger define la información como algo relacionado con lo necesario, lo útil: la “Notificación que informa […] sobre cómo asegurarse sus necesidades” (Heidegger, 1978, p. 85). No es de extrañar que la información, además, permita “crear máquinas de pensar y edificar grandes centros de cálculo” (Heidegger, 1978, p. 84). En este sentido, por su utilidad, la información se opone al saber filosófico gratuito originado por el asombro. Late aquí una oposición entre “información” útil y “saber filosófico”. Sin embargo, es verdad que Heidegger no exime de responsabilidad a los filósofos —entre los que pretende no contarse— en el triunfo de la Edad moderna como época científico-técnica, es decir, de lo útil. Y lo útil, como se ha dicho, exige asumir y conocer que todo tiene una causa.
III. ALGUNAS REFLEXIONES SOBRE LA VIGENCIA DE LA REFLEXIÓN HEIDEGGERIANA
Tras exponer el planteamiento de Heidegger aportamos algunas reflexiones acerca de su vigencia. El elemento clave, me parece, es la causalidad. El principio de razón exige saber la causa de todo, pues “Nada es sin causa” (Heidegger, 1978, p. 72).
El principio de razón suficiente aplicado al ser humano aspira a conocer la razón de todas las acciones humanas. Si entendemos la razón como la que trata con lo que se puede conocer de forma precisa, entonces ésta se pregunta por las causas. La razón busca la causa, en particular, la causa eficiente. La insistencia en reducirlo todo a las causas, nos insiste Heidegger, es un error común al filosofar y al saber técnico (aunque de ningún modo ambas cosas son lo mismo). Reducir a Dios a causa eficiente primera es para Heidegger, de algún modo, un planteamiento blasfemo (Heidegger, 2021, p. 42).
El digitalismo (Bellver Capella, 2021) se embarca hoy en día también en la búsqueda de las causas, pero de las causas de la conducta humana. La libertad es el nombre provisional que damos a lo que todavía nos permanece oculto, pero que podremos desvelar a base de cálculos matemáticos muy complejos. Así entiende la libertad el conductista E.B. Skinner, como una falta de conocimiento de la razón de las acciones. La libertad sería un título provisional que, tarde o temprano, podremos desechar. También Alex Pentland —uno de los ingenieros de datos más influyentes en el curso del digitalismo—, sostiene esto mismo influido por Skinner (Zuboff, 2020, p. 571). El principio de razón suficiente nos indica que no sabemos la razón (o causa) que hay detrás de la conducta que llamamos libre, pero existe, y llegaremos a averiguarla. Todo puede ser desvelado y visto en términos causales y toda causa puede ser conocida. En este punto, y si esta interpretación es correcta, seguimos atrapados en el principio de razón suficiente de Leibniz.
Tras una breve referencia a la cuestión terminológica profundizaremos en la pregunta acerca de la causalidad, de si realmente la llamada inteligencia artificial busca las causas de las cosas.
1. Los términos “cibernética” e “inteligencia artificial”
Antes de entrar en el problema de la causa conviene hacer una precisión terminológica. Hoy se ha producido la decadencia del término “cibernética” y la hegemonía del término “Inteligencia artificial”. Veamos cómo surgen ambos términos.
El que acuña el término “Inteligencia artificial” es John McCarthy. McCarthy —en los años 50— la ubica dentro de las ciencias como “la disciplina dentro de la Informática o la Ingeniería que se ocupa del diseño de sistemas inteligentes” (Oliver, 2018, p. 10). Esta se distingue de la “Cibernética” —nombrada así por N. Wiener en la misma década de los 50— como “una visión de sistemas inteligentes basados en el reconocimiento de patrones, la estadística, las teorías de control y de la información” (Oliver, 2018, p. 10). Curiosamente, hoy nos hemos quedado con el término del primero (inteligencia artificial) y con la aproximación del segundo (cibernética). Se hace cibernética con el nombre de inteligencia artificial. Es decir, son centrales el reconocimiento de patrones, la estadística y las teorías de control y de la información. No quiere decir que lo que se llama inteligencia artificial se reduzca a esto, pero sí es la línea predominante (Oliver, 2018, p. 10). La mal llamada “inteligencia artificial” acaba abarcando no solo el diseño de este tipo de sistemas (de aprendizaje automático) que era su acepción original, sino lo que se hace con ellos (como reconocer patrones, etc.).
2. Los macrodatos y la mera correlación estadística
La vigencia de la cibernética es clara, aunque se emplee un nombre distinto. Ahora sí que estamos en posición de aproximarnos al problema de la causa para tratar de responder a la siguiente pregunta. ¿Realmente es una ciencia la inteligencia artificial o la cibernética actual? Esta pregunta excede el presente trabajo. De modo que, de forma precaria, solo voy a considerar la búsqueda —o la ausencia de búsqueda— de las causas o razones suficientes de las cosas como criterio para distinguir lo científico de lo que no lo es. Esta pregunta apunta a la cuestión de si nos mantenemos esencialmente en el paradigma moderno o si se da una realidad novedosa respecto a la ciencia moderna. Hay que señalar que, para Heidegger, también la técnica guarda estrecha relación con las causas, aunque esta no sea su esencia. “Donde se persiguen fines y se aplican medios, donde domina el carácter instrumental, allí impera la causalidad” (Heidegger, 2021, p. 16). Y, como se ha dicho, “Nada es sin causa”. Es decir, hay una causa en todo.
Cada vez más, la llamada inteligencia artificial es considerada la que dirige el conocimiento en su totalidad, aunque a veces se hable de “macrodatos” para hablar de ella. En realidad, se quiere expresar lo que la máquina hace con los macrodatos o la conjunción entre macrodatos y aprendizaje automático de la máquina, como el de los algoritmos. La razón, en resumen, es que la IA trabaja con macrodatos. Como es bien sabido, de alguna manera los datos llaman a la inteligencia artificial, pues sin esta aquellos son inmanejables y, por tanto, inútiles.
El antiguo director de la revista Wired, Christian Anderson, publicó un artículo relevante titulado “El final de la teoría: el diluvio de datos hace obsoleto el método científico” (Anderson, 2008). En él considera los macrodatos como aquello que deja obsoletas las ciencias. Viene a sustituir los, según él, infructuosos esfuerzos científicos —con sus “hipótesis, ley/modelo, experimento” — por otra cosa. Dicho con sencillez: el conocimiento de correlaciones. Una correlación no se distingue sustancialmente del conocimiento estadístico. Sabemos, por ejemplo, que A está relacionado con B. Cuando se da A se da después B en un número X de casos. Los macrodatos que son tratados con el método estadístico (la estadística, una parte de la cibernética, como vimos) funcionan muy adecuadamente para producir un conocimiento correlacional sobre las cosas.
Según Anderson, la causalidad, la semántica y cualquier tipo de comprensión son desechadas. Los macrodatos —manejados por algoritmos inteligentes— hacen que la búsqueda científica de la causa no tenga ya sentido. Si sabemos que A normalmente se relaciona con B, ¿para qué saber que A causa B si lleva mucho más trabajo? Esto último, la investigación de las causas —que se lograría mediante el experimento—, bien puede sustituirse por las correlaciones trazadas por los algoritmos. Si los macrodatos pueden ser tan útiles como las tradicionales ciencias, no hay necesidad de seguir vinculados a ellas. Hay que deshacerse del método de la ciencia moderna que es un modelo obsoleto:
“El mejor ejemplo práctico de esto es la ametralladora de secuencia de genes ideada por J. Craig Venter. Capacitado por secuenciadores de alta velocidad y superordenadores que analizan estadísticamente los datos que producen, Venter pasó de secuenciar organismos individuales a secuenciar ecosistemas enteros. En 2003, empezó a secuenciar gran parte del océano siguiendo los pasos del viaje del capitán Cook. Y en 2005 empezó a secuenciar el aire. En el proceso, descubrió miles de especies antes desconocidas de bacterias y otras formas de vida.
Si las palabras «descubrir una nueva especie» te hacen pensar en Darwin y en dibujos de pinzones, puede que estés atascado en la antigua forma de hacer ciencia. Venter apenas puede decirte nada sobre las especies que ha encontrado. No sabe qué aspecto tienen, cómo viven o casi nada más sobre su morfología. Ni siquiera tiene su genoma entero. Todo lo que tiene es una anomalía estadística – una secuencia única que, al ser diferente de cualquier otra secuencia en la base de datos, debe representar una nueva especie” (Anderson, 2008).
Si Anderson tiene razón, la inteligencia artificial es la directora, pero no de las ciencias sino de una pura utilidad, un saber completamente técnico, que realmente no comprende nada. Anderson insiste en que los macrodatos no ofrecen ningún saber, sino pura utilidad. Si él tiene razón entonces Heidegger está todavía demasiado anclado en la ciencia moderna que habría sido desplazada por los macrodatos estrictamente estadísticos. Ya no rige el principio de Leibniz, “nada es sin razón” o, más bien, renunciamos a encontrar la razón. Al menos, la razón como causa. Ciertamente, no significa renunciar a conocer con certeza lo que nos resulta útil, pero sí a conocer las causas de las cosas.
Lo llamativo de esto es que, los macrodatos entendidos así, serían, en el sentido de Heidegger, menos matemáticos que la ciencia moderna. Si la ciencia moderna funciona mediante un conocimiento anticipador, los macrodatos no parten de conocimiento alguno. En este sentido concreto, nos diría Heidegger, no son matemáticos o, mejor dicho, su carácter matemático se reduce a lo numérico. Sin embargo, no por ello dejarían de tener carácter técnico. Para Heidegger la técnica no guarda relación primeramente con lo matemático, sino con un marco o estructura. Es una forma de ordenar, disponer y entrelazar todas las cosas para que queden a nuestra disposición. La naturaleza es reducida a un fondo permanente de reservas que están a nuestra disposición gracias a la técnica. Nos dice Heidegger, que también el hombre está integrado en este fondo de reservas, también él es situado dentro de este marco (Heidegger, 2021, p. 61).
3. En busca de los patrones causales conductuales (más allá de la mera estadística)
Ciertamente es la utilidad lo que espolea el uso de los macrodatos. Sin embargo, lo que se le escapa a Anderson es que conocer las causas es más útil que conocer las meras correlaciones. En otras palabras, la innegable utilidad del conocimiento de la correlación no es tan grande como la causalidad. El experimento, una herramienta fundamental de la ciencia, tiene precisamente acceso a la causalidad. No podemos quedarnos en la simple estadística, qué suele ocurrir, sino que debemos llegar a saber por qué ocurre en un sentido mecanicista, la causa eficiente. No se trata de conocer, naturalmente, causas finales o teleológicas que carecen de utilidad, sino de la causa eficiente.
Ciertamente, los macrodatos carecen de pathos, igual que no hay ningún sentimiento detrás del deseo utilitario de conocer las causas de las cosas. No hay una búsqueda apasionada, un Eros filosófico que arrastre hacia la verdad de las causas primeras. El aprecio o rechazo de la causalidad no guarda, por tanto, relación con un deseo filosófico de saber, sino con un deseo de saber para dar uso. Google, por ejemplo, busca las causas de la conducta humana. Hal Varian, economista de Google, sostiene que el conocimiento causal es sumamente útil y es hallado mediante experimentos:
“Varian señaló que Google tiene a sus equipos de ingeniería y ciencia de datos realizando miles de experimentos sistemáticos de tipo «A/B», que recurren a la aleatorización y los controles para evaluar las reacciones de los usuarios a cientos de variaciones en las características de una página, desde su composición visual hasta sus botones o sus tipos de letra. Varian apoyaba y aclamaba este autoautorizado rol experimental y avisaba de que ni con todos los datos del mundo podía «medirse otra cosa salvo correlaciones, y desde luego no la causalidad». Los datos indican qué ha ocurrido, pero no por qué ha ocurrido. Sin un conocimiento causal, hasta las mejores predicciones no pasan de ser solamente extrapolaciones del pasado […] si de verdad quieres entender la causalidad, tienes que llevar a cabo experimentos” (Zuboff, 2020, p. 401).
El conocimiento causal sigue siendo, por tanto, un conocimiento deseado por la cibernética. Al menos, en cuanto ciencia social computacional que pretende conocer y controlar la conducta social, es preferible que conozca las causas de dicha conducta. En este sentido se supera el carácter meramente estadístico de los macrodatos en el estudio de la conducta humana y se logra un conocimiento de los patrones causales de la conducta de la especie humana. Se pueden formular leyes conductuales.
Dicho esto, vemos que la causalidad y la aproximación “matemática” a la realidad están todavía vigentes. Ahora vale la pena relacionar la cibernética con otra disciplina de orientación también técnica o puramente útil: la psicología conductista. La cibernética, en su investigación de las causas de la conducta, está vinculada estrechamente con el conductismo. El conductismo reduce la psicología a ciencia natural e investiga solo el comportamiento objetivo del animal o del ser humano. Se excluye en el hombre la conciencia o la introspección. El conductismo está inspirado en el utilitarismo y el eficacismo al modo estadounidense. El individuo es examinado para saber cuál puede ser su rendimiento. Es, en este punto, estrictamente cibernético, tiene una orientación instrumental o técnica. También al conductismo le interesan las causas de las conductas porque así puede saber cómo producir efectos (Mueller, 1963, pp. 364-5).
Alex Pentland, citado anteriormente, es un pionero en el uso de datos y su integración con experimentos conductuales con seres humanos. Considera su propósito como una indagación de las causas de lo que ocurre en la sociedad. La causa eficiente es buscada con ahínco mediante experimentos de la conducta humana a escala y así se logra una
“teoría causal de la estructura social […], una explicación matemática de por qué la sociedad reacciona como lo hace y de cómo esas reacciones pueden resolver (o no) problemas humanos. Estos nuevos análisis matemáticos […] se combinan con «nuestras ingentes cantidades de datos conductuales, recién adquiridos», para revelarnos los patrones de causalidad que posibilitan «diseñar unos mejores sistemas sociales», todo ello fundamentado en una «instrumentación sin precedentes»” (Zuboff, 2020, p. 576).
Esta indagación causal pone de manifiesto el carácter más deshumanizador de la mal llamada inteligencia artificial, su aplicación a la ordenación social a través del conocimiento de la conducta social. Su expansión pone de manifiesto una nueva ceguera tecnocrática que considera los males de estos avances solo como excepcionales malos usos y no malos en sí. Su avance, se nos dice, es inevitable. Sin embargo, como se trata de un simple instrumento, según el uso que le demos estaremos actuando bien o mal. Es central mantenerla bajo nuestro control, tener la voluntad de dominarla.
Lo que señala Heidegger es que, aunque es correcto que la técnica se encuentra en el ámbito instrumental, de las relaciones entre medios y fines, no es solo eso. Lo verdadero sobre la técnica es algo más relevante que lo meramente correcto. La técnica es una forma de manifestación de la realidad. Heidegger insiste en que la técnica en su esencia supone, no tanto un instrumento, sino una manera en que se manifiesta la realidad en la que vivimos. La técnica es, en su esencia, un desvelamiento.
La realidad se muestra como un marco, estructura o engranaje en la que todo está dispuesto a disposición del hombre para ser empleado. Todo está emplazado en un lugar con esta finalidad y, por ello, con esta forma de desvelamiento técnico, la naturaleza es vista como un fondo de reservas dispuestas para que el hombre las emplee (Heidegger, 2021, pp. 15-34). Esto adquiere particular claridad si pensamos en el ejemplo de “El Rin”. El Rin como fuente de presión hidráulica para mover las turbinas de una central hidroeléctrica tiene carácter instrumental, pero además nos desvela la realidad de “El Rin” como algo emplazado, situado a disposición, en este caso para producir energía. Incluso si aún consideramos “El Rin” como parte del paisaje este se desvela como algo emplazado a nuestra disposición. En este caso, como un objeto demandado por las empresas turísticas (Heidegger, 2021, pp. 26-27).
4. La informática jurídica y sus tipos
Heidegger afirma que el derecho será una ciencia particular más de la cibernética como nueva ciencia general. Es decir, será abordado como algo esquemático, matemático, mecánico, de modo análogo a como aborda la realidad el cientificismo en otras áreas de conocimiento humano.
Con independencia de la validez de la profecía de Heidegger acerca del futuro cibernético del derecho, este es un tema que no está exento de interés, tanto para el filósofo del derecho como para la práctica del jurista. Es verdad que, más que como “cibernética jurídica”, la doctrina se ha referido a este tema con otros términos como “jurimetría”, “informática jurídica” o “inteligencia artificial jurídica”. Me quedaré con “informática jurídica” para emplear el término recogido de forma singularmente clara por Pérez Luño en los noventa (Pérez Luño, 1996, p. 22). La informática jurídica es la parte de la informática que tiene por objeto el derecho. Este autor distingue tres ramas dentro de esta: informática jurídica documental, de gestión y decisional.
La informática jurídica documental tiene por objeto el tratamiento automatizado de las fuentes de conocimiento jurídico: legislación, jurisprudencia y doctrina. Pérez Luño señala que este tratamiento de las fuentes ayuda a que el jurista se maneje ante la inflación normativa, que se vuelve de difícil manejo (Pérez Luño, 1996, 22)8.
El segundo tipo de informática jurídica —la de gestión—, se refiere a todos los avances que permiten la automatización de tareas rutinarias que se llevan a cabo en cualquier oficina judicial o en cualquier despacho de abogados. Se trata de automatizar todas aquellas operaciones que obedecen a pautas regulares. Gracias a esta gestión automatizada, los jueces, abogados y otros miembros de los despachos jurídicos podrán dedicarse a tareas que requieren creatividad o que precisan de la iniciativa personal (Pérez Luño, 1996, p. 23).
En tercer lugar encontramos la informática jurídica decisional que constituye procedimientos encaminados a la sustitución o reproducción de las actividades del jurista. Se trata de decisiones y dictámenes que elaboran los sistemas expertos y que proporcionan “soluciones de problemas y no mera documentación sobre problemas” (Pérez Luño, 1996, p. 24). En este punto, Pérez Luño señala que no es posible ni deseable la sustitución del razonamiento del juez o del abogado por el cálculo informático del ordenador. Su uso es aceptable solo para aspectos “rutinarios, estandarizados y formalizables”, siempre que el jurista no abdique de su responsabilidad (Pérez Luño, 1996, p. 25). Exploremos la informática jurídica decisional con mayor detenimiento.
5. ¿Decisión judicial automatizada?
La informática jurídica decisional es, naturalmente, la que ofrece mayor materia para el debate por parte de los filósofos del derecho y de los juristas. La razón es que, este uso de la informática, pretende sustituir o reproducir la actividad decisoria del jurista. Y la decisión es para muchos la actividad por excelencia del jurista (Medina Morales, 2018, p. 109; Anzalone, 2019, p. 101).
El pensamiento positivista no considera la decisión lo más importante en el derecho, al menos en el ámbito de la actividad judicial. Para el positivismo el derecho es un gran mecanismo y la informática jurídica decisional permite realizar plenamente la tesis de la aplicación mecánica del mismo. Entre las tesis en su día sostenidas por el desacreditado positivismo jurídico, esta tesis pretende que el papel del juez está muy reducido. El juez aplica el derecho, exclusivamente, mediante la lógica. Podríamos decir que tiene un papel maquinal. El juez ha de limitarse a subsumir el hecho particular en una norma general (Serna, 1997, p. 289). En el ámbito de los sistemas expertos también se busca sustituir la supuestamente mecánica labor del juez por la labor, realmente mecánica, de la máquina.
Ahora bien, es sabido que el juez (y el jurista en general) no realiza solo operaciones lógicas. Las decisiones tienen, con carácter general, elementos valorativos sobre normas y hechos y requieren el empleo del sentido común. La juridicidad requiere un ejercicio de razón práctica jurídica. En la actividad decisional jurídica no solo hay componentes lógicas, también las hay empíricas, éticas y subjetivas (Anzalone, 2019, p. 103). Además, es el factor humano el que permite hacer justicia en el caso concreto (Anzalone, 2019, p. 107). El derecho no es algo que esté por completo en el ámbito de lo demostrable, más bien está en el ámbito de la argumentación. De aquello sobre lo que se discute porque no se puede demostrar. El jurista, por tanto, no trabaja con lenguaje aritmético. El jurista trabaja con proposiciones que parecen verdaderas a todos o una mayoría. Sobre ellas cabe discutir y argumentar. Así, el método jurídico está sujeto, por sus propias características, a la disputa. No es algo demostrable con exactitud, sino argumentable de forma aproximada. Esta visión modesta del derecho exige un papel activo del jurista y del juez.
De manera que, la sustitución del juez (o del jurista en general) en la toma de decisiones es, desde este punto de vista, de enorme complejidad. Además, el propósito declarado de aquellos que apoyan las decisiones judiciales automatizadas es mejorar la eficiencia del procedimiento judicial. Ahora bien, la búsqueda de la eficiencia no justifica la sustitución de la decisión judicial por la decisión de la máquina. Es verdad que la eficiencia es de la mayor importancia, porque el dar a cada uno lo suyo requiere que se le dé a su tiempo. La verdadera justicia requiere, por tanto, eficiencia. Sin embargo, este es solo un bien instrumental, que el logro de la justicia requiere.
Incluso si la eficiencia fuera el único bien del procedimiento judicial —que no lo es—, no tendría sentido centrarse en la automatización de la decisión judicial. Esta forma parte de las múltiples y heterogéneas tareas que se realizan en una administración de justicia. Por eso, si se trata de ganar en agilidad y eficiencia en el proceso judicial, hay otras muchas tareas más sencillas y menos problemáticas que podrían automatizarse. A pesar de ello, como ha puesto de relieve Solar Cayón la literatura sobre la materia se ha centrado en la posibilidad de sustituir la decisión judicial por la decisión automatizada de la máquina (Solar Cayón, 2021, p. 15).
Con todo, es verdad que la sustitución o reproducción de la tarea del jurista por la máquina es heterogénea. En este punto, Solar Cayón admite la conveniencia de usar sistemas expertos para problemas sencillos como reclamaciones monetarias de pequeña cuantía (Solar Cayón, 2021, p. 15). También se ha señalado su utilidad en ramas del derecho caracterizadas por ser esquemáticas y no valorativas, como en algunos ámbitos del derecho tributario (Anzalone, 2019, p. 103).
6. Sobre el problema de la justificación de las decisiones automatizadas
Otro elemento de discusión en este punto es si las “decisiones” automatizadas serán comprensibles para los seres humanos y justificables. Las decisiones judiciales, en nuestro derecho, requieren estar motivadas, lo que quiere decir que han de estar fundadas en “argumentos jurídicos o razones jurídicamente aceptables” (Solar Cayón, 2021, p. 10).
Según Solar Cayón aquí es necesario hacer una distinción entre los sistemas expertos basados en reglas (1) y aquellos basados en análisis de datos que emplean algoritmos de aprendizaje profundo (2). Los primeros son sistemas con unas reglas de decisión predeterminadas y los segundos no. Los sistemas expertos basados en reglas serían, por ejemplo, un “sistema construido a partir de árboles de decisión y basado en la ejecución de un conjunto de reglas de inferencia jurídica predeterminadas por un experto en la materia jurídica correspondiente, por muy compleja que sea la estructura de aquellos árboles, sus decisiones serán completamente trazables”. La desventaja de estos sistemas es lo que cuesta su elaboración y la dificultad de definir un conjunto de reglas que abarquen todas las situaciones posibles. Esto hace que sean operativos en zonas jurídicas bien definidas (Solar Cayón, 2021, p. 10). Su gran ventaja es que la solución que aporta el sistema es comprensible por cualquiera, y justificable. Es decir, se podrían dar razones jurídicamente aceptables con facilitad.
En cambio, los sistemas basados en el análisis de datos mediante aprendizaje profundo (2) tienen una capacidad muchísimo mayor que los sistemas basados en reglas. Su “entrenamiento” solo requiere de abundantes ejemplos. A partir de los datos que se les suministran son capaces de detectar correlaciones y elaborar automáticamente los modelos predictivos o de decisión que aplican, posteriormente, a nuevos casos. Su gran defecto es que los algoritmos que operan de manera automática son completamente inescrutables. Funcionan como cajas negras y no admiten comprensión alguna de la decisión adoptada (Solar Cayón, 2021, p. 11). Aún así, aunque no podamos comprender cómo ha operado el algoritmo para llegar a la conclusión a la que llega, es posible generar de manera automática formas de justificación de la propia decisión. Es decir, que la máquina puede ofrecer “razones” de su decisión que un jurista podría aceptar para adoptar la solución alcanzada (Solar Cayón, 2021, p. 12).
7. Otras perspectivas acerca de la informática jurídica
Es verdad que, con independencia de las matizaciones que queramos hacer a las distintas tareas que realiza el jurista, el problema se puede ver desde una perspectiva más amplia. Desde una perspectiva amplia, las conclusiones de los filósofos del derecho cambian necesariamente y el recelo ante el uso, en general, de la inteligencia artificial jurídica se vuelve más fuerte y también más justificado por las razones que ahora presentamos.
Hay varios movimientos que pretenden sustituir las ciencias y las humanidades por los macrodatos (Anderson, 2008). En su artículo, Anderson daba por amortizado el método científico en favor de los macrodatos. El método que sobrevive es la estadística, la única que puede dominar las inmensas masas de datos que poseemos y sacarles partido. Esto se aplica hoy también al derecho. Deja de ser el “arte de lo bueno y de lo justo” (ars boni et aequi) y pasa a ser el “arte de lo útil y de lo mecánico” (ars utilis et mechanarum) (Llano Alonso, 2022, p 46). La IA jurídica y la robótica van desplazando poco a poco al jurista humano. La nueva coyuntura conduce a la automatización, estandarización, desintermediación y rutinización del ejercicio del derecho (Llano Alonso, 2022, pp. 45-47). Llano Alonso ha insistido en que la “automatización del jurista” es una consecuencia de soslayar el sustrato humano del Derecho (Llano Alonso, 2022, p. 45).
Este nuevo arte de lo útil y de lo mecánico tiene algunas manifestaciones extremas. Una de ellas emplea el enorme conocimiento que se tiene del individuo a través de la tecnología ubicua para sustituir el carácter general de las leyes por normas particulares automatizadas y adaptadas al individuo. El conocimiento reputacional de la persona se emplea para crear una norma específica para cada situación. Esta norma se le comunica al individuo a través de la tecnología. Son las llamadas “microdirectivas”. Los macrodatos ordenados por algoritmos conforme a criterios normativos y la tecnología ubicua pretenderían indicar en tiempo real (de manera actualizada) la conducta requerida. Por ejemplo, en el ámbito de la conducción una microdirectiva tomaría la siguiente forma: “el límite permitido para este conductor particular, con 12 años de experiencia, conduciendo un martes lluvioso a las 15:27h es de 82,39841 km/h” (Crego, 2021).
Conviene recordar, al hilo del artículo de Anderson, que hay movimientos de enorme importancia que siguen esta línea de pensamiento. El informacionalismo, pero también el posthumanismo tienen una visión monista del mundo. El mundo no es más que un gran mecanismo natural que se puede dominar. Como señala Albert Márquez, se sostiene un prejuicio infundado, una “tesis metafísica fuerte [la de que] solo existe el mecanismo” (Albert, 2021, pp. 225-6). En estos casos se propone la negación misma del derecho como ejercicio de razón práctica (Albert, 2021, pp. 225).
La profundización en este punto como los otros relacionados con la informática jurídica (la transformación del método jurídico, del procedimiento judicial y la desaparición o transformación de las normas jurídicas o del trabajo del jurista), quedan para otro trabajo. Baste esto por ahora para mostrar que Heidegger todavía nos ayuda a pensar nuestro tiempo a través de su noción de “cibernética”.
BIBLIOGRAFÍA
Albert, M. (2021). Posthumanismo, inteligencia artificial y Derecho. Persona y derecho, 84 (1), 207-230.
Anderson, Ch. (2008). El fin de las teorías: El Diluvio de Datos hace obsoleto al método científico, Wired. https://simonjosepulido.wordpress.com/2016/04/10/el-fin-de-las-teorias-el-diluvio-de-datos-hace-obsoleto-al-metodo-cientifico/
Anzalone, A. (2019). ¿Robotización judicial? Breves reflexiones críticas. Journal of Ethics and Legal Technologies, 1 (1), 95-114.
Arendt, H. (1984). La vida del espíritu, Centro de Estudios Constitucionales.
Arendt, H. (2009). La condición humana, Paidós.
Bellver Capella, V. (2021). Transhumanismo, discurso transgénero y digitalismo ¿exigencias de justicia o efectos del espíritu de abstracción? Persona y derecho, 84 (1), 197-233.
Boden, M. A. (2021). Inteligencia artificial, Turner.
Crego, J. (2021). La singularidad jurídica y el retorno del filósofo-rey: potenciales consecuencias para el imperio de la ley y la democracia. Persona y derecho, 85, 249-281.
D’Ors, A. (2015). Pedagogismo informático e ironía universitaria. Revista De Derecho Público, 21/22, pp. 179–194.
Esteban Enguita, J. M. (2015). De significados y problemas de la expresión ‘fin de la filosofía’. Actas I Congreso internacional de la Red española de Filosofía, 15, 25-30.
Flamarique, L. (2011). Sobre el interés filosófico del legado de Heidegger. Anuario filosófico, 44 (3), 603-617.
Heidegger, M. (1978). ¿Qué es filosofía? Narcea.
Heidegger, M. (1996). La autoafirmación de la Universidad alemana. El Rectorado, 1933-1934. Entrevista del Spiegel. Tecnos.
Heidegger, M. (2010). Caminos del bosque. Alianza.
Heidegger, M. (2013). Seminarios de Zollikon. Herder.
Heidegger, M. (2021). La pregunta por la técnica. Herder.
Llano Alonso, F. H. (2022). El derecho ante el nuevo paradigma transhumanista de la era digital. Revista Jurídica de Asturas, 45, 39-53.
McDonald, L. (2021). Please, Like This Paper. Philosophy, 96 (3), 335-358.
Medina Morales, D. (2018). “Administrar justicia en la era tecnológica”, Persona y derecho, 78 (1), pp. 105-127.
Mueller, F.-L. (1963). Historia de la psicología. FCE.
Oliver, N. (2018). Inteligencia artificial: ficción, realidad… y sueños. Discurso de ingreso en la Real Academia de Ingeniería.
Pérez Luño, A. E. (1996). Manual de derecho e informática. Ariel.
Serna, P. (1997). Sobre las respuestas al positivismo jurídico. Persona y Derecho, 37, 279-314.
Solar Cayón, J.I. (2021). “Reflexiones sobre la aplicación de la inteligencia artificial en la Admnistración de justicia”, Teoría jurídica contemporánea, 6.
Wiener, N. (1988). Cibernética y sociedad. Editorial Sudamérica.
Zuboff, S. (2020). La era del capitalismo de vigilancia. La lucha por un futuro humano en las nuevas fronteras del poder. Paidós.
_____________________________
1 Este artículo es un resultado del proyecto de investigación “Los nuevos derechos humanos: teoría jurídica y praxis política” (NDH), (código PID2019-111115GB-I00), financiado por el Ministerio de Ciencia e Innovación de España para el periodo 2020-2023”.
2 Sobre Nietzsche y el acabamiento de la metafísica: “Si de consumaciones hablamos, más bien hay que hacerlo en el sentido con el que M. Heidegger atribuye a Nietzsche el mérito de ser el pensador en que la filosofía, es decir, la metafísica, alcanza su definitivo acabamiento: su final no está marcado por la plenitud, sino por el cumplimiento de su posibilidad límite, que no es otra que su autonegación en la medida en que el Ser y la Verdad se convierten en el último humo de la realidad que se evapora” (Esteban Enguita, 2015, p. 29).
3 El lenguaje no se ha transformado en un lenguaje puramente informativo o aritmético, en el sentido de útil. Más bien podría decirse que ocurre al contrario. El lenguaje útil se acerca al lenguaje formal. El lenguaje más útil es el más formal, que produce eficacia y es transparente. Sin embargo, el lenguaje cotidiano del hombre digital está lejos de ser formal. Por eso puede considerarse que en la vida cotidiana del hombre domina el carácter fático del lenguaje. Por ejemplo, la expresión “¿Qué tal?”, un asentimiento de cabeza cuando alguien se dirige hacia nosotros o el “Me gusta” de las redes sociales tienen todas ellas carácter fático (McDonald, 2021). Su función no es semántica, sino que simplemente buscan iniciar o mantener la comunicación. No importa tanto su significado como esa función. Quizá puede verse la comunicación actual en buena medida bajo un lenguaje de este signo. El “me gusta” como lenguaje fático, no cabe duda de que es muy característico de nuestra forma de comunicarnos. Es decir, domina la comunicación que solo comunica comunicación.
4 El carácter social es, efectivamente, esencial; sobre todo en la cibernética de Alex Pentland en EE.UU. o Nuria Oliver en España. Son las autodenominadas “ciencias sociales computacionales”. Hasta ahí, de acuerdo, pero ¿es tan relevante la organización del trabajo? Más bien, según parece, la cibernética deja sin trabajo a buena parte de la población. No puede ocuparse, principalmente, de ordenar el trabajo humano sino de su progresiva extinción. Se ha de ocupar al ser humano con otras tareas, como el entretenimiento y ofrecer una renta básica universal para apuntalar su dominio y evitar una revolución. En este punto, Hannah Arendt es mucho más atinada. El peligro de la técnica es la automatización del hombre como animal que consume, algo que se produce con la extinción del trabajo. “La última etapa de la sociedad laboral exige de sus miembros una función puramente automática, como si la vida individual se hubiera sumergido en el total proceso vital de la especie y la única decisión activa que se exigiera del individuo fuera soltar, por decirlo así, abandonar su individualidad […] con un deslumbrante y ‘tranquilizado’ tipo funcional de conducta” (Arendt, 2009, p. 346).
5 “La tarea metafísica de Descartes pasó a ser la siguiente: crearle el fundamento metafísico a la liberación del hombre en favor de una libertad como autodeterminación con certeza de sí misma” (Heidegger, 2010, p. 87).
6 “Lo ente” en la traducción utilizada.
7 En realidad, para él no es posible traducir, y menos del griego. Para él el griego no es una lengua, es ella misma “lógos”. La lengua griega parece superar la distinción entre significante y significado: “Con la palabra oída en griego estamos directamente ante la misma cosa presente, y no ante una mera significación de la palabra” (Heidegger, 1978, p. 53).
8 Es difícil negar la utilidad de la informática jurídica documental. Sin embargo, su existencia es ambivalente. La informática jurídica documental no es solo un modo de hacer frente a la la hipertrofia de las fuentes de conocimiento jurídicas, sino que es tambien causa de que dicha hipertrofia se haya producido. Esta última no podría existir sin un tratamiento automatizado de los documentos.
En sentido contrario a Pérez Luño, otro jurista español criticaba la informática como algo que daba prevalencia al “tener”, tener datos, frente al ser, estar formado. El dato es algo exterior, que se tiene y se acumula, y que permite ampliar la acción y poder del hombre. “Se produce así una suplantación del ser, del “ser culto” o “ser sabio”, por un simple “tener datos”, “tener información” (d’Ors, 2015, p. 183).