GOBIERNO, PARLAMENTO, DEMOCRACIA E INTELIGENCIA ARTIFICIAL

Abstract

RESUMEN: La generalización del uso de la inteligencia artificial es la ultima etapa de la transformación digital. Es una herramienta con gran capacidad para cambiar la economía, la manera de trabajar о investigar. También va a cambiar la política. Su uso afectará a la relación de los ciudadanos con el poder. También su opinión sobre la democracia. Si se utiliza adecuadamente, la inteligencia artificial puede ser muy útil para mejorar la legitimidad de los sistemas democráticos. Si se usa mal o, simplemente, se ignora su existencia, crecerá la desafección hacia las democracias. Especial importante para la democracia tiene su adecuada incorporación al Parlamento. El Parlamento debe ser activo e incorporar rápidamente la inteligencia artificial para mejorar su eficacia, ejercicio de funciones y la transparencia y participación de los ciudadanos.

Alternate abstract:

The widespread use of artificial intelligence is the latest stage ofi the digital transformation. It is a tool with great potential to change the economy, the way we work or do research. It will also change tics. Its will affect citizens' relationship with power. It will also affect their opinion of democracy. If used properly, artificial intelligence can be very useful in improving the legitimacy of democratic systems. If it is misused or simply ignored, disaffection towards democracies will grow. Of particular importance for democracy is its proper incorporation into parliament. Parliament must be active and quickly incorporate artificial intelligence to improve its efficiency, the exercise of its functions and the transparency and participation of citizens.

Headnote

SUMARIO

I. Las premisas de partida. II. IA y democracia. La necesaria inserción de la IA en el proceso gubernamental de toma de decisiones. III. La IA como agente transformador de la institución parlamentaria. IV. La inserción de la IA en los procesos políticos no es una oportunidad: es una necesidad.

ABSTRACT: The widespread use of artificial intelligence is the latest stage ofi the digital transformation. It is a tool with great potential to change the economy, the way we work or do research. It will also change tics. Its will affect citizens' relationship with power. It will also affect their opinion of democracy. If used properly, artificial intelligence can be very useful in improving the legitimacy of democratic systems. If it is misused or simply ignored, disaffection towards democracies will grow. Of particular importance for democracy is its proper incorporation into parliament. Parliament must be active and quickly incorporate artificial intelligence to improve its efficiency, the exercise of its functions and the transparency and participation of citizens.

La generalización del uso de la inteligencia artificial es la ultima etapa de la transformación digital. Es una herramienta con gran capacidad para cambiar la economía, la manera de trabajar о investigar. También va a cambiar la política. Su uso afectará a la relación de los ciudadanos con el poder. También su opinión sobre la democracia. Si se utiliza adecuadamente, la inteligencia artificial puede ser muy útil para mejorar la legitimidad de los sistemas democráticos. Si se usa mal o, simplemente, se ignora su existencia, crecerá la desafección hacia las democracias. Especial importante para la democracia tiene su adecuada incorporación al Parlamento. El Parlamento debe ser activo e incorporar rápidamente la inteligencia artificial para mejorar su eficacia, ejercicio de funciones y la transparencia y participación de los ciudadanos.

KEY WORDS: Artificial intelligence, digital age, government, democratic legitimacy, efficiency, Parliament, democratic legitimacy.

PALABRAS CLAVE: Inteligencia artificial, era digital, gobierno, legitimidad democrática, eficacia, Parlamento.

I. LAS PREMISAS DE PARTIDA

1. La desafección democrática

La incorporación de la inteligencia artificial (en adelante, IA) a los procesos políticos debe realizarse desde un diagnóstico adecuado de la salud del sistema democrático. Como es lógico, su impacto dependerá de sus fortalezas y debilidades. Una premisa que podría ser compartida para cualquier tiempo pero que hoy resulta imprescindible. Lo es porque la irrupción de la IA como un nuevo y poderoso instrumento tecnológico, tiene lugar cuando existe un consenso generalizado sobre las dificultades de los sistemas democráticos para mantener la coherencia con los principios y valores que los definen. Así, es habitual escuchar que la salud de la democracia es débil (Applebaum, 2021; Mounk, 2018).

Dos son las razones fundamentales que se aducen para explicar esa debilidad. Por un lado, una transformación social que incorpora valores poco propicios para la subsistencia de algunos de los presupuestos irrenunciables del modelo democrático; por otro, los gobiernos no resuelven los problemas que les afectan. Los gobiernos no serían eficaces y los problemas que realmente afectan a los ciudadanos no tendrían solución. La dimensión subjetiva de este extremo resulta evidente. No importa que en muchas ocasiones, la realidad contradiga esos sentimientos (Innerarity, 2009: 153). Pero ello no le resta importancia. Y hay ejemplos en los que la subjetividad se sustituye por una aparente objetividad. Así, en el caso de El Salvador, la popularidad del Presidente Búhele radica en su aparente capacidad para resolver el gravísimo problema de seguridad que lastraba desde hace décadas al país. No importa que se vulneren de manera objetiva importantes derechos fundamentales. Es el político mejor valorado. Un ejemplo de cómo puede llegar el momento en el que los ciudadanos pueden preferir la eficacia, sobre todo en relación con temas esenciales como la seguridad, a la pervivencia de los valores democráticos. En todo caso, sí parece objetivo que la salud de la democracia tanto en relación con los valores que la legitiman como en relación con su capacidad como gobierno se ha deteriorado en los últimos años (Escobar, 2022; Garrorena, 2014).

Aunque es posible detectar matices según países, se trata de un fenómeno universal. Incluso los Estados con democracias más estables se ven sacudidos por aires de inestabilidad que, con intensidad diversa, obligan a reflexionar sobre los problemas que subyacen al sistema político. Reflejo expresivo de esta situación es la inestabilidad general de los sistemas de partidos. Pocos son los países en los que partidos tradicionales han superado la prueba de stress que ha supuesto el cambio social de los últimos años. Los partidos tradicionales se han debilitado o, incluso, han desaparecido. Casos como los de Francia o Italia resultan paradigmáticos en Europa mientras que en América o bien los partidos clásicos han sufrido una profunda transformación como es el caso del Partido Republicano en los Estados Unidos o bien directamente se han acercado a la inanidad como es el caso de Chile, Perú o México. Movimientos sociales y, sobre todo, liderazgos fuertes que aglutinan una opción electoral han emergido como alternativa (Mounk, 2018: 115). Y, lo más relevante, con ellos, una nueva forma de hacer política. Porque no se trata sólo de un cambio de actores. Con los nuevos protagonistas de la agenda política, cambia, sustancialmente, la forma de hacer política. De manera genérica, ese hacer diferente se ha caracterizado como un neo populismo. Este fenómeno conlleva como nota añadida la escasa consistencia de los sistemas políticos. Muchas de las nuevas formaciones acaban teniendo una duración limitada bien por nacer al hilo de un acontecimiento concreto bien porque el liderazgo alrededor del cual crecieron no acaba de consolidarse. De esta manera, junto a la fragmentación y la radicalización, la volatilidad es una de las características esenciales de los nuevos modelos políticos (Vallespín y Martínez Bascuñán, 2018).

Hay otras características de la política contemporánea que pueden traerse a colación para explicar las debilidades de las democracias contemporáneas. No es posible referirse a todas y menos extenderse en ellas lo que sería preciso. Pero sí es conveniente, al menos, mencionar alguna de las principales. Junto al ya mencionado auge de esa nueva política que, por comodidad comprensiva, se denominará populismo, merecen ser citadas la debilidad de los liderazgos; la atracción por fórmulas autoritarias; o la incapacidad para adaptarse a los profundos cambios sociales. Todas ellas serían, simultáneamente, causa y consecuencia de la debilidad democrática. La referencia a la debilidad de los liderazgos exige una aclaración ya que, precisamente, la existencia de un liderazgo fuerte es una de las principales características del neopopulismo y, por ende, un rasgo de la política contemporánea. No hay contradicción. Son las democracias clásicas, el orden institucional ortodoxo, el que parece seriamente incapacitado para forjar liderazgos que, respetando los cánones de la democracia constitucional, logren unas dosis aceptables de reconocimiento ciudadano. Precisamente, la atracción por fórmulas autoritarias suele ir vinculada a la figura de un líder que las representaría y, con ellas, la capacidad para resolver de manera simple los problemas que las democracias serían incapaces de enfrentar. Con todo, es la dificultad para adaptarse al nuevo modelo social emergente el hecho que se muestra como más decisivo para explicar el declive de los modelos democráticos clásicos. Ni la configuración de sus principales instituciones ni sus dinámicas políticas se han modificado. Todo es como era. Pero el contexto en el que se desempeña ha cambiado. De hecho, se encuentra en cambio permanente. Así, la distancia crece día a día. La caída de los grandes intermediarios, partidos y medios de comunicación, o la transformación de soportes esenciales del orden democrático tradicional como la libertad de expresión o la opinión pública son reflejo de esta situación... y explicación de algunas de las fallas que más frecuentemente suelen ser denunciadas (Villacañas, 2017). Es posible afirmar que existe una profunda brecha entre la realidad y el sistema institucional. Una brecha que se genera con el inicio de la consolidación de la nueva era tecnológica y que crece cada día. El Estado analógico disponía de un orden institucional adecuado a los valores de la sociedad a la que servía. El Estado digital carece de ese trasunto. El viejo Estado analógico no ha sido capaz, siquiera, de plantearse las dudas que le plantea enfrentarse a la sociedad digital. En este sentido, es sorprendente la ausencia de reflexión en los foros institucionales sobre el programa de reformas necesarias para afrontar los retos políticos derivados del nuevo modelo social. Y así, cuando no se ha adaptado ni la democracia ni los sistemas políticos en general a la nueva sociedad, surge el desafío planteado por la «popularización» de la IA.

Con carácter preliminar y en relación con lo que implica de desafío adicional la irrupción de la IA, es preciso referirse a dos características principales de este proceso que ayudan a entender su transcendencia. Me refiero a la irracionalidad y a la complejidad. La razón es la bandera de la modernidad. Someter la pasión a la razón es condición de civilización y vida en común. Creo que no es exagerado escribir que uno de los rasgos de la sociedad contemporánea es que la razón ha perdido valor y posición en la vida pública... y en la privada. Ello tiene consecuencias notables sobre la democracia. Una es fundamental: el diálogo y la capacidad de lograr acuerdos es mucho más complejo. Ello va directamente unido a la pérdida de valor de la tolerancia, del respeto al otro. Con el dominio de la razón, se aprendió que la verdad no es absoluta y que, en consecuencia, respetar al otro era una necesidad «lógica»: también podía tener razón, al menos una cuota de la misma. Lograr que imperase esta premisa como eje de la vida pública no fue sencillo. Detrás, siglos de violencia y exclusión absoluta del contrario. Lógicamente, nunca la vida política ha sido absolutamente racional. Pero durante décadas, no se cuestionó la posición de la razón ni la necesidad de la tolerancia. Todo ello ha cambiado en los últimos años. De la mano del dominio de corrientes relativistas y de la transformación de la comunicación social, la posición de la razón y de la tolerancia se ha diluido: la polarización se ha hecho fuerte y la aceptamos como un vecino más, en contradicción flagrante con principios esenciales del sistema y convivencia democrática (Barreda, 2021: 190). La corriente de un mensaje público asentado sobre la irracionalidad y la intolerancia se muestra poderosa y con capacidad para contagiar a todos los actores.

La complejidad es una de las características más relevantes de la sociedad contemporánea. El consenso en este punto es generalizado (Innerarity, 2020). Complejidad creciente que es horizontal y vertical: los nuevos retos que exigen respuesta son cada vez más complejos y cada vez son más complejas las cuestiones tradicionales. La complejidad no sólo deriva de las características cada vez más sofisticadas de los distintos sectores sobre los que actúa el poder público o de la mutación de los valores e intereses sociales. Se encuentra, sobre todo, directamente vinculada con la velocidad a la que la tecnología transforma la realidad. La intensidad del cambio es la gran característica de nuestro tiempo. Todo se transforma a una velocidad que, objetivamente, dificulta cualquier posibilidad de respuesta por el poder público. Inevitablemente, ello implica la emergencia de retos nuevos para los sistemas democráticos. Unos sistemas diseñados para gestionar entornos relativamente estables y que se desenvuelven con torpeza en una realidad que exige un dinamismo y flexibilidad extraordinarios. Así, es pertinente preguntarse por la capacidad de respuesta del poder para resolver los problemas y atender las expectativas de los ciudadanos. Creo que no hay exageración en afirmar que nunca el poder ha estado tan exigido y tan necesitado de generar complicidades e inteligencia social (Innerarity, 2020).

Los riesgos que para los sistemas democráticos tiene la sociedad digital y, en particular, el poder acumulado por las grandes empresas tecnológicas, han sido ampliamente denunciados, hasta el extremo de acuñar la expresión «constitución del algoritmo» como exigencia de una respuesta desde el Derecho y la política a los desafíos que para la democracia y las libertades plantea el mundo digital emergente (Balaguer, 2023a). En este sentido, es preciso recordar que la irrupción de la IA no puede analizarse como un hecho aislado. Se trata de un hito adicional en una cadena de transformación tecnológica con profundas afecciones sociales y políticas. Es posible que a medio plazo su impacto sea especialmente relevante. Pero no será factible analizarlo sin tener en cuenta unos precedentes que ya por si mismos poseían gran relevancia. La cuestión clave es que alrededor de estos últimos estadios de la sociedad digital surgen actores y factores de poder extraordinarios. El poder se ha transformado. Se han transformado sus actores y se ha transformado su capacidad. Uno de los rasgos más relevantes es que el poder se aleja de lo público para concentrarse en un grupo de sociedades tecnológicas. Así, cuotas muy significativas de poder se «privatizan». Es posible alegar que no se trata de un fenómeno estrictamente novedoso. Siempre han existido grandes compañías privadas que de hecho ejercían un poder incluso superior al de los Estados: desde la Compañía de las Indias Orientales a las grandes multinacionales. Ello es así y es preciso tenerlo en cuenta a la hora de analizar la singularidad del tiempo presente. Pero hay una nota distintiva: el poder acumulado por las compañías tecnológicas es extraordinario en términos de cualidad y cantidad (Balaguer, 2023b).

La situación descrita se ha traducido en términos políticos en una expresión que es hoy lugar común: desafección democrática. Básicamente, consiste en el alejamiento espiritual de los ciudadanos de los valores que sustentan el orden democrático (Bustos, 2017: 64). Se traduce mayoritariamente en la pérdida de confianza en las instituciones y actores políticos y en una menor participación ciudadana Los ciudadanos se distancian de valores como libertad, igualdad o solidaridad para sentirse atraídos por las ideas de eficacia o seguridad. Los sistemas democráticos no estarían respondiendo a las expectativas que en relación con los mismos tienen los ciudadanos. La consecuencia es una paulatina pérdida de representatividad. Más allá de un eslogan eventual, la expresión ¡No nos representan; es una síntesis poderosa de la relación que una parte de la ciudadanía existe con las instituciones democráticas (Torreblanca, 2015). El refugio para el ciudadano desencantado no es siempre la no política. Es creciente el número de los que alejan su mirada de los modelos democráticos en los que viven para acercarla a modelos de democracia iliberal o, directamente, autoritarios, que sí estarían respondiendo satisfactoriamente. Así, la relevancia de la desafección crece en la medida en la que crece el atractivo de los modelos autoritarios. Es evidente que para entender cabalmente la desafección hay que tener en cuenta otras circunstancias, muy en particular los errores y mal hacer de los principales actores políticos, con una referencia destacada a la corrupción. En todo caso, estimo que la causa mayor de la distancia creciente entre los ciudadanos y el orden institucional que representa el sistema democrático tiene su razón es la anacronía que domina la vida institucional y su incapacidad para adaptarse a una sociedad en transformación.

Hay que insistir en que frente a todo ello, lo más peligroso es la inacción. No hay vacío: el poder siempre lo ocupa alguien. Por ello, resulta particularmente llamativa la ausencia de reflexión desde el poder público democrático sobre los desafíos que plantea el nuevo contexto tecnológico. Como en este trabajo se expondrá, la IA supone un salto cualitativo. Pero los desafíos vienen de antes. Sin embargo, poco ha cambiado en los sistemas institucionales en los últimos años. Poco o nada en el diseño. Porque sí ha habido cambios: cambios en las dinámicas, en los actores. Ni siquiera su contundencia ha sido suficiente como preguntarse en voz alta qué debe cambiar en el diseño institucional para que la democracia mantenga su atractivo y los ciudadanos sigan confiando en la misma. En este desconcierto entre la decepción de los ciudadanos y la inacción de los poderes públicos, irrumpe la IA para dar una vuelta de tuerca a todas las preguntas que nos habíamos planteado.

2. La consolidación de la IA

No son líneas científicas sobre la evolución y presente de la IA. A efectos de este trabajo sólo interesa hacer notar dos circunstancias. Por un lado, que se trata de una tecnología integrada de manera natural en múltiples sectores, habiendo demostrado una gran capacidad de impacto social y un aún mayor potencial de crecimiento. Por otro, la extraordinaria velocidad con la que se ha producido la citada implantación social y la que se prevé para su evolución. Así, la IA es un actor más de la cotidianeidad y se espera que su influencia moldee decisivamente la vida económica, social y política de los próximos años (Cotino y Castellanos, 2022).

Aunque no hayamos sido plenamente conscientes de ello, fórmulas de IA se encuentran instaladas entre nosotros desde hace años. De hecho, los estudios y reflexiones sobre la incidencia de los algoritmos tienen ya cierta tradición, hasta el extremo de postularlos como fuentes del Derecho (Boix Palop, 2020). Como es sabido, la IA es un paso tecnológico adicional que permite a la máquina utilizar los algoritmos para gestionar datos y obtener respuestas de acuerdo a la lógica, e incluso, la intuición humana. Pero si bien distintas expresiones de esta tecnología como los asistentes de los smartphones nos son bien conocidos desde hace tiempo, la implosión del debate público sobre la IA ha venido de la mano de la popularización de la realidad del Chat GPT, con su apertura al gran público. Desde ese momento, se rompió el dique: la IA sus aplicaciones cotidianas y sus posibles consecuencias han pasado a ser eje de conversaciones y vértice de la agenda pública. Por lo demás, los ciudadanos reconocemos ahora la presencia de la IA en tecnologías como los asistentes de voz, sistemas de traducción avanzada; sistemas de reconocimiento de imágenes y otros servicios utilizados en la vida cotidiana. Y, más allá, son numerosos los sectores en los que se han encontrado aplicación para la IA: desde la salud a la educación pasando por el sector financiero o la industria. En general, la IA ha demostrado capacidad para la mejora de procesos y generación de valor. Lógicamente, ello ha ido vinculado a un mejor desarrollo técnico de esta herramienta, con importantes avances en el diseño de los algoritmos y procesos de aprendizaje, y el consiguiente incremento de la fiabilidad. En paralelo, se ha producido un fenómeno cultural relevante: la IA ha pasado a ser un lugar común de conversación y, aún más destacado, de ocupación y preocupación para los poderes públicos, la academia... y la ciudadanía (Balaguer y Cotino, 2023).

En este estado de cosas, se elogian sus ventajas y se advierte de sus riesgos. Se es consciente de las posibilidades que ofrece al desarrollo humano en las áreas más diversas y, simultáneamente, se alerta sobre los peligros que se generan alrededor de la misma. Si bien la irrupción de cualquier tecnología ha ido acompañada de una llamada de atención sobre los problemas que puede generar e, incluso, de cierto rechazo social, las advertencias sobre los desafíos planteados por la IA tienen una notable singularidad. La tienen porque muchas han sido formuladas por protagonistas de su creación y la tienen por el carácter casi apocalíptico de las mismas: el ser humano como especie estaría en riesgo de ser desplazado por la criatura inteligente que ha creado1. En todo caso, lo que no parece cuestionable es que la IA plantea un auténtico reto civilizatorio: el futuro de la humanidad dependerá de cómo seamos capaces de insertarla en nuestra convivencia.

Por ello, de forma inevitable, la mirada se ha dirigido al Derecho. Al Derecho como instrumento para su sometimiento a unas reglas y principios que permitan minimizar esos riesgos y maximizar sus ventajas. Una regulación que garantice un código ético alrededor de su empleo que favorezca la transparencia y responsabilidad e impida la discriminación y la erosión de la privacidad. La voluntad expresada por el Parlamento Europeo de lograr una regulación eficaz del sector en un tiempo breve es la manifestación más relevante de esta expresión de la relación entre el poder y la IA. Una relación de la que debe destacarse el protagonismo del sector privado y, en concreto, de las grandes compañías tecnológicas en el desarrollo y generalización de esta tecnología.

La intención de regular la IA es correcta y necesaria: no sólo plantea importantes problemas «técnicos»; también posee una gran capacidad de incidencia en cuestiones de la mayor relevancia ética (Salazar, 2023: 85). Pero un doble desafío se abre ante quién asuma este reto. En primer lugar, la traducción jurídica de las intenciones, por la dificultad técnica que tiene en sí misma la regulación. Con todo, el principal problema vendrá después: garantizar la eficacia de las normas que se aprueben. La regulación de la IA es un ejemplo perfecto de las dificultades a las que se enfrenta el Derecho público en la sociedad contemporánea. Dificultad de traducir en Derecho la intención y dificultad de hacerla cumplir. A simple título de ejemplo, me limitaré a citar tres circunstancias que dificultan sobremanera la aprehensibilidad por la norma de una tecnología como la IA. Por un lado, la dificultad objetiva de encontrar un lenguaje comprensible y eficaz para regular una materia que se construye en un universo cultural diverso al que ha sido tradicional para el Derecho. Por otro, la velocidad a la que evoluciona esta tecnología y que es difícilmente compatible con la vocación y necesidad de estabilidad que caracteriza al Derecho. Finalmente, la dimensión global del fenómeno que puede hacer ineficaces a la mayoría de las disposiciones dictadas para un ámbito territorial determinado. No se trata de algo singular en relación con la IA. Como se ha dicho, sólo es una expresión más de las dificultades que tiene el Derecho y, muy en particular, el Derecho público para someter a la nueva realidad tecnológica (Balaguer y Cotino, 2023).

De Internet y las redes a los algoritmos; de los algoritmos a la IA, el ser humano ha transformado sus capacidades y formas de relacionarse. Todo elfo ha provocado un cambio de valores tan profundo que bien puede hablarse un nuevo modelo social. Asimismo, lógicamente, ha implicado la irrupción de nuevas formas de poder y una distinta manera de comprender el poder. Así, los ciudadanos se relacionan con las distintas estructuras de poder bien de forma directa bien de forma indirecta, de una manera novedosa. También lo valoran de forma diversa. En general, son más exigentes y menos pacientes. Necesariamente, todo ello son variables que deben ser tenidas en cuenta para mantener la buena salud de los sistemas democráticos. La necesidad de reaccionar y rediseñar los mismos es anterior a la irrupción de la IA. Pero su consolidación y generalización agrava la necesidad. La IA plantea numerosos retos que afectan prácticamente a todas las esferas del ser humano Una de ellas, necesariamente, es la organización del poder y la relación del ciudadano con el mismo: en particular, su relación con los derechos fundamentales (Fresno Linera, 2022). Es decir, el núcleo del Derecho constitucional. Los riesgos son importantes en el presente y, necesariamente, serán mayores en el futuro. Sobre ello, algo se dirá. Pero este trabajo es, básicamente, un trabajo optimista. Es, quiere ser, un trabajo sobre las opciones que la IA aporta para poder mejorar los sistemas democráticos: para mejorar incorporando novedades y limitando todos los problemas que han ocasionado la desafección.

3. Un debate (y decisión) inevitable e impostergable

Antes de proseguir, aunque sea de una forma breve, es preciso resaltar la perentoriedad del estudio y debate de la inserción de la IA en los sistemas políticos y en la sociedad en general. Uno de los males más profundos que afecta a los actuales sistemas políticos es su incapacidad para detenerse ante lo transcendente. El sistema se construye para que lo mediato pierda en relación con lo inmediato: es una democracia esencialmente mediática (Vallespín y Martínez Bascuñán, 2018: 146). Ello conlleva que, en demasiadas ocasiones, lo importante se posterga en beneficio de cuestiones secundarias. La reflexión sobre el propio sistema político y los cambios que requiere es uno de esos temas. Es una deuda antigua. Hace ya tiempo que los cambios sociales exigen cambios relevantes en el sistema político, tanto en su diseño como en sus dinámicas. No se ha realizado modificación sustantiva alguna. Los sistemas políticos han murado pero lo han hecho al margen del diseño institucional que ha permanecido inalterable. De esta manera, los anacronismos son evidentes y bien se puede explicar por los mismos, algunos de los males que hoy afectan a la democracia.

No hay duda de que ese anacronismo existe desde hace años y que sus consecuencias son perceptibles. Cuestiones como el déficit de representatividad de los sistemas políticos contemporáneos o la creciente sensación de ineficacia que se transmite desde el poder, se encuentran relacionadas con la distancia creciente entre un modelo institucional de diseño ya antiguo y una sociedad en continua transformación. Hace ya tiempo que reflexionar sobre las reformas y, en su caso, ejecutarlas, es urgente. Hasta ahora se ha esquivado esta exigencia. Ha tenido un coste. Pero ese coste puede ser incluso asumible en relación con el que puede originar la consolidación de la IA. Un afirmación que se sostiene en dos razones principales: por un lado, y la que más interesa a este trabajo, porque, como se intentará demostrar, la IA puede ser una cuña profunda en el proceso de desafección y deslegitimación de los sistemas políticos; por otro, porque la IA es un instrumento extraordinariamente poderoso que afecta radicalmente a las relaciones de poder y a los derechos humanos (Fresno Linera, 2023). Por tanto, si no se responde adecuadamente a sus desafíos, también sufrirá el paradigma democrático. Por el contrario y frente a todo ello, la IA adecuadamente utilizada puede ser un instrumento muy útil para mejorar la democracia

Advertir sobre la urgencia del debate debería ser innecesario. Pero dado el comportamiento de la élite política, no lo es. No es sencillo que cuestiones que no producen un rédito inmediato, que, incluso, no tienen la apariencia de la urgencia, merezcan atención. En este sentido, debe considerarse como una excepción y un ejemplo a seguir, el modelo que ejemplifican las denominadas comisiones del futuro en sede parlamentaria (Gutiérrez, 2014). No es casualidad que uno de los mejores ejemplos del qué se debe hacer tenga al parlamento como escenario. Un debate como el que demandan hoy las necesidades del sistema político en relación con el nuevo modelo social, debe hacerse desde la representatividad y el pluralismo. Y para ello, no hay otro espacio posible que el parlamentario. El reto para la política es evitar que las dinámicas y velocidad de desarrollar e implementación de la IA la superen de manera que el regreso sea casi irreversible. Un desafío tan complejo como vital para que los sistemas políticos sigan sirviendo a los valores que sustentan el orden democrático.

Por último, como colofón a estas consideraciones preliminares, es preciso realizar un apunte que es puente para la reflexión aglutina estas páginas: la IA tiene la apariencia de una objetividad incuestionable. En un tiempo en el que prima la desconfianza y se entiende que ningún político es neutral, la capacidad de seducción de esa apariencia resulta extraordinaria. Así, el control de esa apariencia deviene como algo decisivo. Si el orden institucional renuncia a esa presunta objetividad y permite que se desarrolle fuera del sistema, la deslegitimación del sistema será inevitable. Es seguro que desde fuera de las instituciones se procurará obtener beneficio de esa aparente objetividad en los sectores más diversos. Y es muy probable que la política sea uno de ellos. Es muy probable que se pretenda apelar a la presunta objetividad de la IA para obtener réditos políticos. Y si bien ello podría suceder en el marco natural de la contienda política, no es descartable que también se utilice como instrumento de desestabilización y deslegitimación de los sistemas políticos. Son riesgos objetivos que deben ser abordados antes de que haya que lamentar sus consecuencias. Hay que evitar que en relación con la IA pueda repetirse lo sucedido con la proliferación consciente de noticias falsas y la utilización de información deformada para obtener ventajas electorales (Teruel Lozano, 2023: 281). Por todo ello, el estudio sobre las consecuencias de la inserción de la IA en las dinámicas políticas y la reflexión sobre las respuestas que deben darse a los desafíos y posibles problemas que planteas, así como sobre la manera de obtener el máximo beneficio en términos de política democrática, es una necesidad perentoria y debe exigirse a los poderes públicos que actúen en consecuencia.

II. IA Y DEMOCRACIA. LA NECESARIA INSERCIÓN DE LA IA EN EL PROCESO GUBERNAMENTAL DE TOMA DE DECISIONES

1. IA y democracia. A modo de reflexión general

La relación entre IA es, y va a ser, muy profunda y excede estas páginas que sólo quieren hacer de introducción a algunas cuestiones, con particular insistencia en alguna más general. Como siempre, las consecuencias de la utilización de una nueva herramienta tecnológica pueden ser positivas o negativas. En realidad, inevitablemente, serán positivas y serán negativas. De lo que se trata es de optimizar las primeras y paliar las segundas. En general, la IA puede contribuir a mejorar los sistemas democráticos y, en relación con el presente, a salvar el actual bache democrático; por el contrario, puede erosionar profundamente la democracia si no se responde con prontitud y eficacia a los riesgos que plantea (Montilla Martos, 2023). Como se indicó, en estas páginas, el análisis se centrará en cómo la IA puede ayudar a mejorar los sistemas democráticos y paliar sus problemas. Y en este sentido, como introducción, sirva la respuesta que Chat GPT, da a la pregunta de cómo la IA podría beneficiar a la democracia. Realizada la correspondiente pregunta, la aplicación de IA identifica hasta ocho grandes ámbitos de actuación en los que se podría mejorar de forma significativa, redundando en una mejora global de la calidad democrática: a) Ayudar a mejorar la eficiencia de los distintos procesos políticos; b) Ayudar a identificar mejor las grandes corrientes sociales y los problemas que preocupan a los ciudadanos y que consideran deberían ser resueltos por la política; c) Dar un salto cualitativo en la transparencia; d) Mejorar de forma extraordinaria los procesos de rendición de cuenta; e) Favorecer la dimensión deliberativa de la democracia; f) Mejora de los procesos electorales. Garantía de la igualdad y prevención del fraude; g) Racionalización del ejercicio del poder; h) Mejora general de las instituciones democráticas y, en particular, incrementar la eficacia de las instituciones de control

Habrá ocasión de detenerse en la mayoría de estas cuestiones. En todo caso, una lectura conjunta de las mismas resulta de gran utilidad. Todas ellas son relevantes y muchas se encuentran ligadas al deterioro actual de la legitimidad democrática. Y puede haber acuerdo en que no se trata de ciencia ficción o de posibilidades remota, Es fácil imaginar cómo la IA puede ayudar la transparencia; fortalecer los procesos de rendición de cuentas; o mejorar la calidad de los procesos deliberativos. Así, puede avanzarse que un uso adecuado de la IA podría no sólo servir para mejorar el desenvolvimiento de los sistemas democráticos. Podría, incluso, plantearse el acceso a una etapa diferente del orden democrático, más intensa y sofisticada.

Por todo ello, la relación entre IA y democracia transciende la relación de sus posibles ventajas o de sus riesgos. Se puede decir que es una relación de orden filosófico en tanto en cuento obliga a pensar, fundamentar y justificar de manera diferente los presupuestos del sistema democrático y permite imaginar el cómo transcender los límites de la traducción efectiva de los presupuestos teóricos del «gobierno del pueblo».

Se trata de una cuestión ontológica. Los valores que sustentan los sistemas democráticos y la mayoría de los fines sociales que anudamos a esta forma de gobierno, pueden permanecer... aunque necesariamente se verán matizados. Se modularán porque la forma de hacer efectivos esos valores y alcanzar los objetivos se va a transformar. De hecho, ya se ha transformado en los últimos años por la revolución digital. La democracia digital no es, ni puede ser, el mismo sistema político que la democracia analógica. La irrupción de la IA no va a ser sólo un paso más del camino de la transformación digital. Si bien se inserta en este proceso y debe ser comprendido en relación con el todo que representa la consolidación de la era digital, se trata de un hito transcendente con capacidad para inaugurar una nueva etapa en el conjunto de la revolución tecnológica.

Sólo con una aproximación superficial al impacto que la IA tiene en los dos valores centrales de nuestro orden cultural y político, libertad e igualdad, es posible imaginar la transcendencia estructural de su impacto (Llano Alonso et al., 2022). No es arriesgado decir que la defensa de la libertad y de la igualdad deberá hacer frente a amenazas nuevas y, en buena medida, desconocidas. ¿Cómo garantizar la libertad frente a una herramienta con capacidad para desenvolverse con autonomía de la cual se desconoce (por el ciudadano) casi todo? ¿Cómo garantizar la igualdad cuando unos pueden incidir directamente en el desarrollo y aplicación de esa tecnología y otros apenas alcanzar a ser sujetos pasivos? Es posible que estas preguntas se puedan plantear en relación con otras herramientas tecnológicas o, incluso, sujetos económicos. La diferencia es que frente a los mismos, con las insuficiencias que se quieran, se ha podido construir un marco normativo que garantiza la libertad y, al menos, ciertas dosis de igualdad. No hay ninguna garantía de que lo mismo pueda suceder en relación con la IA. Pero más allá, su propio significado se altera en un tiempo dominado por unas herramientas tecnológicas con capacidad para incidir en todas las actividades del ser humano.

2. Como utilidad necesaria para mejorar el proceso gubernamental de toma de decisiones

Como se ha indicado, la IA afecta a las instituciones políticas. También a sus dinámicas. Si bien es una afección transversal y será difícil encontrar una faceta del hacer público libre de la misma, una de las que recibe con más claridad esa influencia son los procesos de adopción de decisiones. La legitimidad de los mismos se ve radicalmente transformada por la aparición de la IA. De hecho, cada progreso tecnológico incide en los procesos de adopción de decisiones al incorporar exigencias que los poderes públicos deben tomar en consideración y que los ciudadanos reclaman. Cada hito que permite mejorar la calidad de los procesos de adopción de decisiones implica una mayor responsabilidad y la necesidad de justificar mejor las decisiones adoptadas. Se trata de una cuestión esencial en los procesos democráticos sobre la que no se reflexiona suficientemente. De hecho, no es una cuestión que ocupe una atención preferente en los estudios sobre calidad democrática. Los estudios se suelen concentrar en las condiciones democráticas de la decisión (Tudela et al., 2018). Mucha menos atención reciben las exigencias técnicas de la misma. Así, se ignora la vinculación entre calidad democrática y adecuado desenvolvimiento técnico del poder público. De hecho, en demasiadas ocasiones, los déficits de rigor se encuentran vinculados a un uso inadecuado del poder público: la decisión concreta no se adopta tanto en relación con su eficacia y oportunidad social como en relación con sus posibles réditos políticos.

Más bien, parece una cuestión administrativa y se la relega. Pero la relación entre el rigor «técnico» de la decisión y la imagen global de la calidad democrática no admite duda. Del rigor de esos procesos depende la utilidad o no de unas decisiones que los ciudadanos juzgarán como determinantes para valorar la democracia. Además, una correcta utilización de los instrumentos que otorga el poder es también condición de la igualdad entre actores que exige el orden democrático. Bajo estas premisas hay que entender el significado de la irrupción de un instrumento como la IA que tiene entre sus capacidades una extraordinaria capacidad para gestionar datos y, desde el correspondiente análisis, realizar importantes funciones prospectivas. Desde otra perspectiva, la IA supone que el poder público dispone de una poderosa herramienta para mejorar y racionalizar sus decisiones. Ello tiene algunas consecuencias directas sobre la manera de ejercer el poder. La más relevante es que las decisiones pueden, y deberían estar más racionalmente justificadas de lo que en la actualidad lo están en numerosas ocasiones. Así, no debería ser posible el mantenimiento de vagas e imprecisas promesas o la adopción de grandes medidas sin, por ejemplo, la consistencia presupuestaria correspondiente. En general, en la actualidad, los procesos de adopción de decisiones tienen muchas deficiencias y la IA puede ayudar a resolverlas. Algunos de los problemas inherentes a los procesos de adopción de decisiones gubernamentales se encuentran relacionados con la propia lógica del sistema y otros vienen determinados por el modelo social y su evolución. A título simplemente ejemplificativo, pueden enunciarse alguno de estos problemas.

Entre los relacionados con la propia lógica del sistema, pueden ser destacados los siguientes:

a) La irrelevancia política del largo plazo, incluso del medio plazo. El sistema político democrático enfrenta al político a la necesidad de buscar la rentabilidad del corto plazo. La consecuencia es inevitable: proliferación de promesas electorales y anuncio de políticas sin el contrataste suficiente. Inevitablemente, en demasiadas ocasiones bien no se llegará a materializar el anuncio o, de hacerse, el resultado se encontrará lejos de lo anunciado.

b) El escaso tiempo de los procesos políticos que los hacen inhábiles para abordar problemas estructurales. En los sistemas parlamentarios las legislaturas se extienden por un tiempo de cuatro años. De los mismos, casi uno se pierde entre el principio y el final de la Legislatura. Es un tiempo claramente insuficiente para abordar de manera satisfactoria la mayoría de los problemas sociales

c) La ausencia de mecanismos efectivos de responsabilidad política (Bustos, 2017). Ello repercute necesariamente en la calidad de las decisiones adoptadas. Quienes las adoptan saben bien que será muy difícil que, a salvo, de consecuencias notoriamente visibles y graves, tengan consecuencias políticas para ellos. Más bien, al contrario: el anuncio de una medida positiva, por inconsistente que resulte, se entiende como algo necesariamente positivo.

Si los anteriores y otros son problemas inherentes a la lógica del sistema político, no poseen menor relevancia los relacionados con la evolución de una sociedad profundamente transformada por la revolución tecnológica:

a) La complejidad de los problemas y de la propia sociedad ha crecido exponencialmente y ello agrava todos los factores anteriores. La complejidad de problemas como la propia gestión de las consecuencias del mundo digital o el cambio climático, es evidente. La complejidad social se deriva tanto de unas mayores exigencias relacionadas con unas expectativas siempre crecientes como con la polarización identitaria y la correspondiente fractura de la idea de comunidad e interés general (Innerarity, 2020).

b) La velocidad extraordinaria a la que suceden los cambios y que muchas veces convierten en inútiles los instrumentos extraordinarios como la ley. Sin duda, se trata del verdadero hecho diferencial de este tiempo: la velocidad e intensidad de los cambios. El Derecho, instrumento de ordenación social por excelencia, requiere de una estabilidad que es ya, definitivamente, pasado. Más allá, hoy por hoy parece evidente que la capacidad de transformación científica se desenvuelve a una velocidad sustancialmente diferente a la capacidad de dar una respuesta a la misma desde la filosofía y el humanismo en general.

c) Un contexto social que ha provocado la erosión de los intermediarios tradicionales que hacían posible la democracia (Blanco Valdés, 2023: 465). Los partidos y los medios de comunicación eran elementos esenciales tanto para conformar una opinión pública libre como traducirla en cipación Dos actores principales del orden democrático hoy seriamente erosionados y cuya capacidad para cumplir esa función esencial, se encuentra seriamente debilitada, d)

Por la evolución hacia la polarización, una característica relacionada con la mencionada fragmentación del sentimiento de comunidad (Vallespín, 2000: 82). La democracia exige del diálogo entre los contrarios; del respeto a las ideas discrepantes; y, ante todo, de la posibilidad de alcanzar determinados acuerdos transversales. En última instancia, todo ello es el fundamento del Parlamento. La creciente y generalizada polarización que domina las sociedades occidentales convierte todo lo anterior en quimera. Sobre

la existencia de todos estos problemas, y algunos más que podrían traerse a colación existe un diagnóstico generalizado. También sobre su negativa repercusión sobre la credibilidad de los sistemas democráticos. Puede alegarse que no se trata de problemas nuevos. Incluso se puede decir que la mayoría son consustanciales a la propia democracia. Ello es así. Pero ello no resta singularidad a los mismos en el contexto de un tiempo que sí es nuevo. Algunos problemas son novedosos y ninguno se plantea de forma idéntica a lo que sucedía en el pasado. Pero los que los transforma es el entorno con el que se relacionan. Si

la IA interesa en este punto es porque se trata de una herramienta que podría a ayudar, al menos, a paliar las consecuencias de alguno de los problemas citados: la IA puede ser un instrumento útil para mejorar la calidad de los sistemas democráticos. Antes de avanzar sobre este extremo, resulta necesario subrayar que lo que resultaría inexplicable es que no se intentase utilizarla para mejorar. Si ello no se hace o no se explica adecuadamente, es posible afirmar con contundencia que se abrirá una nueva, y peligrosa, vía de deslegitimación del sistema. Más

allá, y aunque no es una cuestión susceptible de desarrollo, la IA es un instrumento de extraordinaria utilidad para mejorar la gestión y el gobierno. La IA debe ayudar a mejorar la eficacia de las políticas públicas y una mejor gestión de la complejidad. Junto a ello, la IA puede ser un instrumento de gran utilidad para resolver o, al menos paliar, el reto que para un buen gobierno supone la extraordinaria velocidad a la que suceden los cambios. En este sentido, hay pocas dudas: la IA hace a los gobiernos más poderosos y, en principio, más capaces. El objetivo irrenunciable es que la incorporación de la IA a la acción cotidiana de gobierno, mejore la legitimidad de los sistemas políticos. 3.

IA como racionalización del ejercicio del poder La

ausencia de racionalidad en el ejercicio del poder se puede explicar y describir de muchas maneras. A alguna de ellas, se ha hecho referencia anteriormente. anteriormente. No es un problema menor para el gobierno democrático y la evolución de los sistemas políticos, lejos de corregirlo, lo agrava. En el momento de tratar cómo puede ayudar la IA a reparar el actual modus operandi, hay que recordar que en muchas ocasiones la decisión política se separa de la ortodoxia marcada por la razón de dos maneras. Por un lado, porque no se abordan los temas más necesarios sino aquellos que pueden ser más rentables políticamente; por otro, porque en demasiadas ocasiones, las decisiones se adoptan sin el necesario fundamento, al margen de las posibilidades reales, en particular de tiempo y dinero. De alguna manera, el político cree que puede vender castillos en el aire. Como se ha indicado, las tendencias políticas más recientes han acrecentado esta tendencia natural. Los políticos son prisioneros de la imagen y de la encuesta. Y ello se agrava cuando la opinión pública se identifica con el caos irracional que conforman el conjunto de redes sociales. Es muy difícil que un político con ambiciones electorales se atreva a posicionarse en contra de las tendencias dominantes en las redes. Y si lo intenta, rápidamente acudirá a corregirlo el correspondiente gabinete de comunicación. Su actitud frente al debate, le dirán, no puede ser otra que navegar con la corriente, con independencia de la viabilidad o, incluso, conveniencia de lo debatido. Frente a este estado de cosas, los ciudadanos se encuentran inermes. No tienen manera de exigir a los políticos la adecuada fundamentación de sus propuestas ni, tampoco, una detallada explicación de las mismas. El círculo de la impotencia se cierra cuando tampoco tienen manera de materializar la responsabilidad por el fracaso o incumplimiento de promesas y propuestas que en su día fueron protagonistas de la agenda política (Bustos, 2017).

En este contexto, las oportunidades que ofrece la IA son evidentes: ante todo, es una herramienta que ofrece posibilidades extraordinarias tanto para contrastar ex ante las propuestas políticas como para controlar a posteriori el resultado de las mismas. Por ello mismo, y cuasi por definición, debe entenderse y asimilarse a la política como un potente instrumento de racionalización del poder. Así, en primer lugar, mediante un uso adecuado de la IA y un programa adecuado, el ciudadano puede mejorar su criterio sobre la oportunidad misma de la decisión. La IA permite un mejor tratamiento de la información y, en consecuencia, poner datos a disposición de los ciudadanos que pueden ayudarles a formarse un criterio sobre la oportunidad/necesidad de determinadas decisiones. El objetivo no es otro que perseguir una mejor calidad del debate público, en relación con los presupuestos de la democracia deliberativa (Elster et al., 2001).

Pero, sin desdeñar la importancia de lo anterior, es en relación con el control de los fundamentos de la decisión donde la IA más puede aportar para la mejora de la calidad democrática. No se trata, como también sucede en la mayoría de los casos de introducir una innovación siquiera relevante. En realidad, consiste en hacer con eficacia aquello que ya debería hacerse: cualquier política pública que se decida deber ir acompañada de todos los informes que acrediten sobradamente su viabilidad y eficacia. Eficacia es la voz que distinguiría el aporte de la IA. En la actualidad, antes de adoptar una decisión, deben elaborarse numerosos informes. La finalidad no es otra que garantizar la viabilidad de la decision y evitar consecuencias indeseables. El problema se plantea cuando se contrasta la eficacia de esa información como garantía de la viabilidad y éxito de la decisión. Ejemplificativo de la escasa relevancia de los citados informes, es el devenir de la documentación que acompaña a los proyectos de ley que se remiten al Parlamento (García-Escudero Márquez, 2011). Ni por el Gobierno ni por la oposición se les suele conceder mayor importancia que la que tiene un trámite necesario. Es posible aventurar que una de las principales razones de que ello suceda radica en la práctica imposibilidad que tiene la oposición parlamentaria para contrastar la información que se ha facilitado y las conclusiones correspondientes.

La consolidación de la IA como instrumento de trabajo cotidiano altera sustancialmente esta situación. La IA hace perfectamente posible tener un contraste poderoso de esos aspectos. Y que sea posible significa hoy también que hay que hacerlo. En este punto, hay que tener muy claro que lo que no se realice desde las instituciones, se realizará desde fuera. Es más, que en todo caso habrá quien desarrolle este tipo de aplicaciones con una lícita voluntad de incidencia política. Por ello, el sistema institucional debe adaptar su proceder a las posibilidades y exigencias derivadas de la consolidación de la IA. En concreto, y en relación con el extremo que se analiza, el Parlamento debe ser la institución que asuma la utilización de la IA para contrastar la viabilidad de las propuestas gubernamentales. En esta y otras cuestiones, no habrá vacío. La IA en relación con la política va a ser usada. No hay elección. Las instituciones aún están a tiempo de tomar posición. Pero si no lo hacen rápidamente, perderán la partida.

De esta manera, este uso de la IA en relación con el hacer del poder ejecutivo, se inserta en la dimensión de control propia del Estado constitucional en general y del Parlamento en concreto. Se trata de favorecer la existencia de instrumentos que sirvan al ejercicio de una racionalidad preventiva siempre necesaria pero hoy aún más como freno al uso populista del poder. La inserción de la utilización de la IA en los sistemas políticos democráticos debe realizarse desde la perspectiva de una nueva y profunda dimensión del control como eje vertebrador de la democracia constitucional. Como instrumento para revertir la paulatina erosión de los instrumentos y procedimientos de control que ha sido tendencia en las últimas décadas.

4. Rendición de cuentas, democracia y mejor gobierno

Toda dimensión de control del Gobierno es un ejercicio, directo o indirecto, de racionalización del poder. Esa dimensión se encuentra presente tanto en el control preventivo como en el control a posteriori. La IA puede ayudar de forma extraordinaria a fortalecer el control del poder. Así, por ejemplo, mejorando el control de sus excesos y dificultando la corrupción o limitando la arbitrariedad en la gestión, constituyéndose de esta manera en un notable aliado del buen gobierno. Conversando con la propia IA, Chat GPT, visibilizamos algunas de las posibilidades que la IA ofrece para mejorar la rendición de cuentas en un sistema político:

a) Multiplicación exponencial de las posibilidades de la transparencia tanto en contenido como en forma de exponerla y tanto en su faceta activa como en la pasiva. La posibilidad de explicar las políticas públicas y las correspondientes decisiones con toda clase de datos es, desde ahora, ilimitada y desde ese parámetro habrá que juzgar.

b) Mejora de las posibilidades de participación ciudadana y expansión de los procesos deliberativos. Los canales de participación, la forma de deliberar y de llegar a conclusiones se puede transformar mediante una adecuada utilización de la IA. Los objetivos de mejora deben ser dobles: mejorar la calidad de los procesos deliberativos y hacerlos más accesibles.

c) Mejora de la información política. La información se enfrenta, en general, a un grave problema de credibilidad. En este punto, la IA es una herramienta con dos caras. Si bien puede convertirse en un poderoso instrumento de desinformación dada su capacidad para vestir la ficción de apariencia de realidad, también puede ayudar a establecer mecanismos de legitimación de la información. Por otro lado, es un instrumento poderoso para facilitar la accesibilidad y una mejor sistematización.

d) Como se comentó, posibilita la introducción de procesos para verificar la eficacia de las decisiones adoptadas. Ello, como se verá, es muy relevante en relación con la función legislativa. La IA permite medir con cierta exactitud el cumplimiento de los objetivos que fueron previstos, y proclamados, en su momento

e) Favorecer el desarrollo de políticas a largo plazo. Hoy, en buena medida, los temas que requieren ese plazo se relativizan o se apartan de la agenda por la ya aludida ausencia de rentabilidad

En síntesis puede decirse que la IA aporta una posibilidad de contraste esencial para el desarrollo eficaz del control político. Pero no se trata sólo de una ventaja. Porque el problema al que enfrenta la relación lA/rendición de cuentas no es tanto el referido a sus capacidades: éstas son extraordinarias y, directa o indirectamente, permiten fiscalizar tanto a priori como posteriormente de una manera mucho más eficaz que en la actualidad a cualquier gobierno y, asimismo, a la oposición, favoreciendo el contraste de sus propuestas y evitando el abuso de la demagogia de quién sabe que no se encuentra comprometido por el ejercicio del poder. En este sentido, es relevante retener que las posibilidades que ofrece la IA no afectan sólo al Gobierno. Afectan conjunto del sistema político.

Ahora bien, como también habrá ocasión de examinar, no todo son posibles beneficios. Los riesgos existen y no son menores. El primero de ellos es el control de la propia IA, el control del desarrollo que se realiza para intervenir de esta manera en los procesos políticos. Es posible afirmar que se trata de una cuestión esencial que afecta al núcleo de la política y del propio sistema democrático. El futuro inmediato de la credibilidad y legitimidad de los sistemas políticos democráticos dependerá en buena medida de que las posibles interferencias mediante utilización de la IA estén suficientemente justificadas y controladas. Y de que cuando no sea posible un control adecuado, existan mecanismos para que desde las instituciones se contrarreste un posible ejercicio negativo de esta herramienta. El desarrollo de la relación IA/sistema político puede servir de forma significativa para mejorar la legitimidad de las instituciones... Pero su no desarrollo, o el desarrollo sin control, puede provocar lo contrario.

III. LA IA COMO AGENTE TRANSFORMADOR DE LA INSTITUCIÓN PARLAMENTARIA

1. La función legislativa

La ley como categoría normativa e institucional puede verse profundamente alterada por este nuevo hito tecnológico. Es preciso distinguir los dos planos mencionados: por un lado, la función legislativa y, en concreto, el procedimiento parlamentario para aprobar la ley: por otro, la propia categoría de ley: ¿Qué ley es la que debe aprobar el Parlamento? No se trata de una cuestión novedosa. Tanto el procedimiento parlamentario como la categoría de la ley se encuentran sometidos a un severo juicio de revisión desde hace décadas. En verdad, la entera categoría de las fuentes del Dereho (Carmona Contreras, 2023; Balaguer, 2022) Lógicamente, se trata de dos cuestiones profundamente relacionadas. La ley es una categoría en crisis y se ha visto afectada por numerosas circunstancias antes de la irrupción de la IA: complejidad social; singularidad de la transformación tecnológica; velocidad e intensidad de los cambios; lentitud del proceso legislativo; globalización; predominio del ejecutivo; dificultad de adaptación; leyes ineficientes e ineficaces... (Santamaría, 1988: 353). Causas y consecuencias se confunden para confluir en juicios severos que si bien suelen coincidir en el diagnóstico más general, no lo hacen tanto cuando se trata de ofrecer alternativas y posibles soluciones. Una aproximación meramente intuitiva, nos dice que la IA puede contribuir a resolver una parte significativa de esos problemas. Es posible que se llegue a esa conclusión desde la fascinación que provoca una herramienta a la que se le atribuyen poderes demiúrgicos y cuya verdadera capacidad se desconoce. Pero aunque la realidad se aleje de la intuición, queda un amplio margen para utilizarla en la mejora tanto del procedimiento como de su resultado. Ahora bien, la inserción de la IA en el proceso de elaboración de la ley, deberá realizarse previa reflexión y depuración del concepto de ley. Antes de nada, será preciso determinar qué debe ser la ley en un entorno social como el presente. Deberá determinarse cuál debe ser su contenido para que pueda cumplir eficazmente las funciones que tiene asignadas (Tudela, 2020: 21).

Desde estas premisas, se puede hacer una reflexión introductoria sobre lo que la IA puede aportar a la función legislativa. De nuevo, he preguntado al Chat GPT sobre esta cuestión para utilizar su respuesta en mis reflexiones. La primera de las ventajas que la IA aportaría al proceso legislativo aglutina todo lo referido a la gestión documental del mismo: la IA permitiría un mejor conocimiento de la realidad sobre la que se pretende legislar y una mayor fiabilidad en la predicción del impacto de las medidas que se van a adoptar. Lógicamente, se trata de una ventaja de la que no sólo se beneficia el legislativo. Es también esencial para la fase «ejecutiva» del procedimiento legislativo. Pero en relación con la fase estrictamente parlamentaria posee un añadido de indudable transcendencia: otorga al Parlamento instrumentos de los que hoy carece. Con la IA, el Parlamento puede multiplicar exponencialmente su autonomía y capacidad de información en relación con la ley.

Una segunda ventaja tendría que ver con la calidad técnica de la ley y, en general, del ordenamiento jurídico: la IA se presenta como un instrumento extraordinariamente poderoso para garantizar tanto una mejor inserción de la futura ley en el conjunto del ordenamiento como su propia coherencia interna. En este sentido, en la tramitación parlamentaria debe ser aprovechada para garantizar la cohesión interna del proyecto y la adecuada inserción de las enmiendas presentadas en el conjunto del texto.

En tercer lugar, debe hacerse mención a la necesaria utilización de la IA para la mejora de la transparencia del procedimiento legislativo y, en general, de la información facilitada a los ciudadanos sobre la función legislativa. Así, por ejemplo debe permitir una mejor difusión del contenido de las leyes que contribuya a fortalecer la imagen de un Parlamento eficaz. En relación con la transparencia, la IA debería ser aprovechada para lograr un control más eficaz del lobysmo y, en general, una mejora de la participación de los ciudadanos (Cazorla Prieto, 2016).

Desde esta primera aproximación, se puede concluir aludiendo a la necesidad de buscar fórmulas para que la IA mejore la calidad y oportunidad de la legislación de urgencia. Por una parte, debe constituirse en un instrumento eficaz para controlar los presupuestos del Decreto-Ley y, en general, cualquier presupuesto normativo. Por otra, hay que estudiar cómo puede ayudar a resolver los problemas objetivos derivados de la necesidad de dar respuesta legislativa urgente a cuestiones que no responden a los presupuestos del Decreto-Ley. Así, puede pensarse en la elaboración de programas que permitan objetivar esa urgencia y la correspondiente utilización de procedimientos legislativos que, sin alterar la esencia, permitan una tramitación más eficaz.

He querido singularizar un posible aporte que considero esencial tanto por su transcendencia como por la nitidez con la que la IA puede ser eficaz en relación con el mismo. La IA debe ser el instrumento que permita impulsar, en realidad crear, una verdadera función de control del cumplimento de las leyes... que no vendría a ser sino una expresión ordenada del control de las políticas públicas representadas por esas leyes (De Montalvo Jääskläinen, 2023: 189)- En este sentido, se trataría de una manifestación más de la función de racionalización de la política que puede esperarse de la IA. Ese control habría que entenderlo en sentido amplio y debería proyectarse de forma diversa. Sintéticamente, aludo a alguna de ellas: ayuda para la creación de un procedimiento de revisión y actualización de las leyes; elaboración de informes y auditorías; balances y debates periódicos ... Para lograr una mayor eficacia, el Parlamento debería responder organizativamente bien con la creación de una comisión específica dedicada a ello bien con la creación de una nueva «fase» del propio procedimiento legislativo. De cara a la necesaria eficacia, sería útil que se incorporase a la ley una tabla cronológica de objetivos. No se trataría tanto de exigir el cumplimiento objetivo de los mismos como, en su caso, de justificar y explicar su incumplimiento. El control de ese incumplimiento es hoy mucho más fácil gracias al aporte de la IA. Lógicamente, no habrá que proceder igual con todas las leyes. Es plausible pensar que ese control se concentrase en las leyes que afectasen a las políticas más relevantes y, muy en particular, en aquellas que más puedan afectar a la vida cotidiana de los ciudadanos.

Hoy, todavía es más relevante la predisposición del legislador. Debe cambiar de actitud y ser pro activo tanto en relación con las oportunidades que para su quehacer ofrece la tecnología como en la necesidad de revisar y reformar la forma de trabajo tradicional. Ello debe relacionarse con la necesidad de que el Parlamento adopte la flexibilidad como una de las premisas de su trabajo. Todos los sujetos parlamentarios se encuentran afectados por los retos que se plantean alrededor de esta transformación tecnológica. Los partidos deben tener en cuenta esta cuestión en la selección de los candidatos y las cámaras deben construirse para dar respuesta a esas necesidades. Asimismo, resulta imperiosa la colaboración con actores ajenos a la Institución pero que pueden y deben aportar una ayuda relevante para mejorar la calidad del trabajo parlamentario.

2. La función de control

La centralidad de la función de control en el Parlamento contemporáneo es ampliamente reconocida (Aragón Reyes, 1986). Hasta el extremo de haberse generalizado la idea de que todas las funciones son reconducibles al control. Una importancia que contrasta poderosamente con el anacronismo en el que se desenvuelve. Los instrumentos y procedimientos parlamentarios al servicio del control son hoy prácticamente los mismos que hace, al menos, cincuenta años. Los cambios sólo han afectado, y muy levemente, a la manera de utilizarlos. Así, el control, tanto en su significado estricto como en el referido a la responsabilidad política, se enfrenta al desafío de la eficacia. No es una situación nueva. No ha existido un Parlamento ideal y todopoderoso frente al Gobierno (Astarloa Huarte-Mendicoa, 2017: 39)- Pero el poder del ejecutivo ha crecido y el del Parlamento, decrecido. Y, sobre todo, las exigencias sociales son hoy mayores que nunca y la sensación generalizada es el Parlamento es una institución ineficaz. Y el control es la función paradigmática para demostrar lo contrario.

Es preciso centrar los esfuerzos de reelaboración de esta función fortaleciendo su eficacia. Ello sólo se puede lograr atendiendo cuestiones diversas. Así, por ejemplo, y de forma destacada, una distinta relación entre la mayoría y la minoría. En la actualidad, la generalidad de las normas parlamentarias se encuentran redactadas con el objetivo de fortalecer a la mayoría y al ejecutivo al que sostienen, frente a la acción de control de la minoría parlamentaria. Si no se reformula esta premisa, todo será inútil. Y en aras al objetivo citado, también es preciso realizar una reelaboración de la relación Parlamento/sociedad sobre las bases del nuevo modelo social y de la comunicación. No existe control sin comunicación. Si el acceso a la información ha cambiado radicalmente, la forma de transmitir el trabajo parlamentario también deberá hacerlo.

Junto a ello, es ya una reivindicación antigua el fortalecimiento de los medios materiales y personales de la Institución (Blanco, 2003: 173). Sobre este extremo, las diferencias entre los distintos Parlamentos impiden una reflexión general (Christiansen et al., 2023). Pero si el análisis se circunscribe a España, sí se puede afirmar que los medios de los dieciocho Parlamentos son insuficientes, incluidas las Cortes Generales. Es cierto que se ha mejorado y que se ha olvidado el Parlamento artesanal (Astarloa Huarte-Mendicoa, 2017: 386). Pero los posibles avances han acontecido en paralelo a un exponencial incremento de los medios del poder ejecutivo, provocando un incremento paulatino del desfase entre una institución y otra.

Hace ya algún tiempo que han adquirido protagonismo órganos de asesoramiento y reforzamiento frente a materias complejas como en materia de ciencia o economía. Son órganos especializados que deben suplir carencias de las estructuras parlamentarias que se consideran difíciles de cubrir por otros medios. Su funcionamiento es muy dispar. Lo relevante a los efectos de estas páginas es que su creación supone el reconocimiento implícito de las insuficiencias parlamentarias frente a las necesidades derivadas del nuevo modelo social. Precisamente, es en relación con este extremo donde se puede realizar la primera conexión entre la IA y su capacidad para fortalecer la función de control. En relación con el tratamiento de todas esas materias complejas que escapan al tratamiento con los medios tradicionales del Parlamento, la IA puede ser un instrumento de máxima utilidad para mejorar las condiciones de trabajo de Diputados y Grupos Parlamentarios, incrementando la Información a su disposición y, sobre todo, facilitando su gestión.

Junto a ello, la aplicación de la IA debe relacionarse con otras cuestiones horizontales de gran importancia para el control. Por ejemplo: transparencia; participación; comunicación; papel del Diputado individual; posible desempeño de la segunda cámara; control específico de la materia económica y, en concreto, elaboración de los presupuestos y su ejecución; control de la eficacia y aplicación de las leyes... Por las características de estas páginas no es posible extenderse en cada una de estas cuestiones. Pero su mero enunciado sirve para comprender la capacidad de transformación de la IA en relación con la actividad de control del Parlamento. No es exagerado decir que su adecuada utilización puede transformar la dimensión del control. De esta forma, el desafío añadido sería encontrar una formula de equilibrio que no ponga en riesgo la necesaria estabilidad de las democracias parlamentarias. Utilizando antigua terminología, hay que definir el Parlamentarismo racionalizado de la era de la IA.

Por último, es preciso realizar una observación final en relación con la dimensión de responsabilidad que se encuentra adherida a la forma más extrema del control. Mejorar la responsabilidad política es un reto de la mayoría de los sistemas políticos democrático (Manin et al., 1999). Casi una condición para la recuperación de la legitimidad necesaria. La IA no es inocua para el desempeño de la responsabilidad en las sociedades democráticas. Lo más relevante es que puede anudar la exigencia de responsabilidad a una presunta objetividad: la IA sentencia que el dirigente denunciado es culpable. Y lo hace desde la objetividad inapelable de los datos. Por supuesto, no se trata de una «sentencia» penal. La IA se limitaría a constatar un mal hacer, una práctica irregular, etc. Como se dijo en su momento, es predecible que en éste, como en otros puntos, surja la posibilidad de la «privatización» de esa responsabilidad. Frente a este riesgo, el Parlamento deberá reaccionar. También su relación con la responsabilidad política debe cambiar. Y aunque no incorpore técnicas ligadas al uso de la IA, no podrá ignorar su existencia y su posible utilización por otros agentes. La IA no sólo condiciona el hacer por su posible uso. Condiciona desde su mera existencia y posible utilización por otros agentes.

3. Otras consideraciones

La IA tiene potencial para incidir en el desenvolvimiento cotidiano de la Institución parlamentaria más allá de lo relacionado con sus dos funciones vertebradoras. Como a lo largo de todas estas páginas, no será posible realizar ni una enumeración exhaustiva de esas posibilidades ni desarrollarlas como exigen. Por otra parte, se trata de un tiempo iniciarlo y aún es pronto para realizar previsiones de cierta exactitud. Pero sí resulta posible aproximarse a una serie de cuestiones en las que la incidencia de la IA puede llegar a ser más profunda.

Así, en primer lugar, y en relación con el ejercicio de funciones parlamentarias, junto a las mencionadas, legislativa y control, la influencia de la IA se antoja transversal no siendo difícil imaginar incluso una transformación significativa de algunas de las que hoy se consideran funciones «marginales» o que ni siquiera merecen esa categorización. Así, puede pensarse en las consecuencias de una adecuada aplicación de la IA a la función económica del Parlamento y, muy singularmente, a la función presupuestaria, tanto en relación con la elaboración de los presupuestos como en relación con el control de la ejecución presupuestaria. La capacidad de las hoy muy débiles oficinas presupuestarias podrá ser la que se desee políticamente. No menor puede ser el cambio en relación con la función de estudio. Si bien su importancia es innegable, se trata de una actividad poco «considerada» y que no suele merecer el aprecio ni de políticos ni de estudiosos. La razón no es otra que su escasa relación con la disputa política cotidiana. Sin embargo, se ha demostrado como una de las expresiones más constructivas del quehacer parlamentario. Como es evidente, la IA permitirá multiplicar la capacidad de análisis y gestión de la información y, en consecuencia, potenciar directamente esta función que debería ser una de las banderas de legitimación del Parlamento contemporáneo. Una reflexión parecida merece la emergente función prospectiva. Las consecuencias de la revolución científica y técnica exigen de foros de reflexión en los que se diseñe desde el pluralismo y el consenso los escenarios para lograr minimizar los cambios y optimizar los beneficios. Puede haber otros foros, pero ninguno reunirá las características del Parlamento. De allí, la proliferación de «Comisiones del futuro» y órganos similares (Gutiérrez, 2014). Para su trabajo, la IA será tanto una herramienta privilegiada como uno de los primeros retos.

Junto a lo anterior, debe realizarse, al menos, mención a una serie de cuestiones cuya mera enumeración resulta expresiva de la incidencia que, necesariamente, esta herramienta tecnológica va a tener sobre la Institución parlamentaria. Así, la posición del Parlamento individual deberá cambiar (García-Escudero Márquez, 2003: 197). Su capacidad de trabajo y relación con la sociedad se va a incrementar. Por supuesto, los obstáculos políticos que hoy lo paralizan, pueden seguir manteniéndose. Pero cada día será más difícil legitimar una Institución en la que sus miembros casi son convidados de piedra. Junto a ello, el diseño de los instrumentos y de los procedimientos parlamentarios deberá tomar en consideración lo que la IA puede aportar a los mismos. Por su parte, la Administración parlamentaria deberá transformarse para adaptarse a nuevas exigencias tanto internas como externas. En este sentido, toda la Institución deberá aceptar unos ritmos a los que no está acostumbrada con la asunción del dinamismo y la flexibilidad como pautas generales de funcionamiento.

Una mención singular merece la relación de la IA con la acuñada expresión «Parlamento abierto» (Aragón Reyes, 2017; Rubio y Vela, 2017). Una expresión potente cuya traducción material lo ha sido bastante menos. Sus dos ejes, transparencia y participación, se encuentran lejos de haber alcanzado los objetivos que se adhieren a la ideología que subyace al Parlamento abierto. Las razones son profundas y no corresponde entrar en ellas. Es suficiente con constatarlo y reflejar que la IA es un instrumento útil para retomar la filosofía y, sobre todo, profundizar en las consecuencias de forma coherente con la misma. Lo que en ningún caso debiera permitirse es que consolidada esta herramienta se repita la sensación de que el Parlamento ha quedado atrás, como mucho envuelto en la retórica. El Parlamento contemporáneo debe responder a los valores y necesidades de una sociedad en cambio Y debe aprovechar los extraordinarios instrumentos tecnológicos que multiplican sus posibilidades y capacidades haciendo respetar tantos sus principios esenciales de trabajo como sus objetivos fundamentales que son los mismos que los déla democracia constitucional.

Finalmente, habría que recordar la necesidad de reivindicar la condición del Parlamento como foro. No es nada nuevo. Su condición de gran foro político es una de sus primeras características. Pero esa dimensión adquiere especial relevancia en tiempos especiales, cuando nada permanece estable y la política se convierte en el faro necesario. Desde esa condición, el Parlamento debe hacer suya más que nunca la labor de pedagogía democrática a la que nunca debería haber renunciado. Una labor que implica profundas exigencias para los únicos protagonistas de la vida parlamentaria: los Diputados.

IV. A MODO DE CONCLUSIÓN: LA INSERCIÓN DE LA IA EN LOS PROCESOS POLÍTICOS NO ES UNA OPORTUNIDAD: ES UNA NECESIDAD

La consolidación de la era digital es ya un hecho desde hace décadas. Una de las características más relevantes del nuevo tiempo es que se encuentra en constante evolución y no da señales de agotamiento. Una dinámica que dificulta de manera significativa la gestión de los problemas anexos a una realidad que se superpone a la realidad analógica tradicionales (Balaguer, 2023a: 60). En principio, la emergencia y consolidación de la IA debe entenderse como una fase del proceso digital. Pero no se trata de un mero paso más. La potencia de esta nueva herramienta tecnológica es extraordinaria. Tanto que permite plantear la duda de si por sí misma no puede abrir una nueva era... cuando aún no se ha cerrado ni, mucho menos, asimilado la era digital. Más allá de si la IA implica una diferencia cualitativa con sus precedentes, una diferencia suficiente como para singularizar su incidencia en términos históricos, lo que es innegable es que su consolidación debe analizarse en el contexto de una revolución científica que en los últimos 20 años ha transformado el mundo. Una revolución con consecuencias transversales que, como era inevitable, ha alcanzado de lleno a la política (Balaguer, 2023a: 123). Porque si bien es posible encontrar circunstancias diversas, algunas relevantes, que coadyuvan a la erosión de los sistemas democráticos, en última instancia, la causa que subyace es la mencionada transformación social y la ausencia de respuesta desde las instituciones a la misma.

Cualquier análisis político y jurídico (desde el Derecho Constitucional) que se realice en la actualidad debe tener presente la debilidad relativa de los sistemas democráticos. La debilidad es objetiva y también lo es que no puede calificarse de absoluta. Como se indicó, en sentido estricto, lo que se encuentra en crisis tanto teórica como práctica es el modelo representado por la democracia constitucional (Requejo Pagés, 2020; Garrorena Morales, 2015). Es decir, el componente liberal del modelo democrático y, en concreto, las exigencias derivadas del Estado de derecho. Nadie cuestiona la democracia si no se exige el respeto simultáneo al Estado de derecho. Por el contrario, son muchos los que cuestionan las exigencias del mismo. Es habitual oponer un principio democrático absoluto que debería derribar cualquier relacionado con el mismo.

Las razones que favorecen esta delicada situación de la democracia constitucional son, como hubo ocasión de señalar, diversas. En sentido amplio, básicamente, se trata de una crisis de legitimidad. Es importante retener que la crisis no se circunscribe al ámbito estrictamente de lo político. Hace tiempo que ha traspasado esa frontera para afectar, en general, a todo lo público, a lo institucional en sentido muy amplio. Los ciudadanos se muestran distantes del poder democrático. En muchas ocasiones, no se sienten representados e imputan a los poderes públicos falta de sensibilidad y empatia. Eso se ve reflejado con claridad en tópicos como la idea de que en el Parlamento no se discute lo que interesa a los ciudadanos. Junto a ello, se ha generalizado la idea de que, en general, los sistemas democráticos no son suficientemente eficaces, lo que en ocasiones provoca peligrosas comparaciones con modelos autoritarios que, presumiblemente, sí lo serían.

Todas estas percepciones, derivadas de una generalización que siempre necesita matiz, se relacionan con el hecho objetivo de que la sociedad sobre la que tienen que actuar los poderes públicos democráticos es mucho más compleja con la inevitable consecuencia de que la resolución de los problemas resulta mucho más difícil. La complejidad técnica; la novedad de muchas cuestiones; la globalización; la multiplicación de actores e intereses que confluyen enfrentados; la velocidad a la que se suceden los cambios, son sólo algunas de las razones que avalan esta descripción (Innerarity, 2020). Una simple lectura de las razones mencionadas y otras que podrían traerse a colación es suficiente para comprender las dificultades que el poder tiene para resolver los problemas de la sociedad contemporánea si se limita al uso de los procedimientos y herramientas tradicionales. Por supuesto, también las instituciones políticas se han beneficiado del progreso tecnológico y han incorporado nuevas herramientas que los hacen más capaces. Pero no parece que, hasta el momento, haya sido suficiente detener la ola de descontento (Mounk, 2018: 105).

En este punto, y antes de entrar a reflexionar en fase conclusiva sobre el impacto de la consolidación de la IA en los sistemas políticos democráticos, es necesario subrayar que las sensaciones sociales en relación con los sistemas democráticos no necesariamente se corresponden con la realidad. De hecho, más bien no lo hacen. Es posible afirmar que las sociedades democráticas son hoy, en líneas generales, más inclusivas que nunca, con notables avances en derechos y tolerancia. Y también puede afirmarse que, en muchas ocasiones, incluso de extrema dificultad como fue el caso paradigmático de la pandemia provocada por la COVID 19, los gobiernos democráticos han demostrado una notable eficacia tanto en relación con la protección de la salud como en relación con las consecuencias económicas. Por supuesto, es un dato significativo y no debe olvidarse. Pero ello no resta relevancia a la premisa mayor: la percepción generalizada es la que es y los ciudadanos juzgan a las instituciones y a sus representantes conforme a las mismas.

Es en este contexto en el que hay que situar, e intentar analizar, el impacto de la IA sobre los sistemas políticos. De momento, lo único seguro es que las instituciones y la política en general se van a ver seriamente afectados. Sin embargo, y a pesar de la relevancia del tema, desde la política se ignora. Así, la primera necesidad es abrir un debate riguroso sobre el impacto que la IA va a tener en los procesos políticos. Un debate que deberá asumir dos premisas. Por un lado, que lo que hoy conocemos y, sobre todo, lo que se ha generalizado, es una etapa muy iniciática y simple de esta tecnología. Los desafíos para el orden institucional vendrán de la mano de modelos mucho más desarrollados. Por otro, que su evolución será muy rápida y que, por ende, es necesario desarrollar modelos flexibles que puedan asumir los cambios más relevantes. Como siempre, la máxima en los objetivos será lograr maximizar los beneficios que pueda aportar la IA a la mejora de la calidad democrática y evitar o, al menos, paliar los posibles riesgos.

El orden institucional en su conjunto debe adaptarse al impacto de una tecnología que ha mostrado una capacidad de transformación suficiente como para que centenares de prestigiosos científicos, y entre ellos algunos de sus creadores, hayan demandado una pausa en su aplicación para regularla y controlar sus eventuales consecuencias. Cada una de las instituciones debe realizar el correspondiente ejercicio de diagnóstico. Y deben hacerlo también relación con las demás, de manera que las dinámicas institucionales se adapten a la nueva realidad. Finalmente, se deberá tener en cuenta el impacto que la IA tiene en la sociedad, los profundos cambios que va a comportar desde valores a mercado laboral y adaptar la relación con los ciudadanos al nuevo orden social.

Entre todas las instituciones, y como siempre cuando se trata de estudiar la salud de los sistemas democráticos, el Parlamento merece una reflexión singular. En los dos planos: habrá que examinar cómo incide la IA en el ejercicio de sus funciones (de las tradicionales y de nuevas que pueda incorporar) y deberá analizarse el conjunto de su funcionamiento para obtener de la aplicación de la IA ventajas cualitativas que permitan un funcionamiento más eficaz, flexible y empático con los ciudadanos. Para el Parlamento se trata de un reto extraordinario. Un reto que llega en un momento difícil. El Parlamento no escapa a la compleja relación que los ciudadanos mantienen con las instituciones (Nava Gomar, 2021: 149). En el mejor de los casos, lo preservan por aquello que simbolizan. Pero son pocos los que consideran que se trata de una institución eficaz que contribuye a resolver sus problemas. En demasiadas ocasiones, las críticas dirigidas a partidos y políticos se acaban identificando con la Institución. Desde este punto de vista, la irrupción de la IA supone, simultáneamente, oportunidad y riesgo (Fitsilis, 2021). Es oportunidad porque es innegable que se trata de una herramienta poderosa que si se utiliza adeuadamente puede mejorar significativamente tanto la eficacia del parlamento en el ejercicio de sus funciones como como su relación con los ciudadanos, dotando de una dimensión más profunda a la idea de Parlamento abierto. Pero también puede ser riesgo. Por supuesto, una utilización inadecuada puede generar disfunciones no deseadas. Pero el mayor riesgo vendrá de la inacción. En una sociedad que de forma más rápida que lenta va a ir incorporando las posibilidades (y filosofía subyacente) de la IA, permanecer ajeno a su existencia agravará de manera relevante los males actuales. Crecerá la ineficacia, al menos la percepción sobre la misma, y los ciudadanos se sentirán aún más ajenos.

Todas las instituciones, y muy en particular, el Parlamento, tienen el deber interiorizar la necesidad de adaptación permanente a un entorno en cambio y para ello deberá crear las estructuras correspondientes. Es previsible que en los próximos años, ese entorno se encuentre dominado por el desarrollo y consolidación de la IA. Adaptar significa diseñar el entorno de forma coherente con su mera existencia y aprovechar las ventajas que reporta para alcanzar sus fines.

Junto a lo anterior, la relación entre IA y Parlamento plantea una dimensión adicional de particular relevancia. Me refiero a la regulación a la que debe ser sometida la IA. Para el Parlamento, desde esta perspectiva, el reto es doble: por una parte, debe establecer un marco normativo para el uso de la IA en su interior; por otra, ha de ser el agente regulador fundamental, aquél que establezca las condiciones y límites de uso de esta tecnología. Es cuestión de poco tiempo, que el Parlamento deba enfrentar este reto. De hecho, el desafío que implica la necesidad de regular la IA ya forma parte de la agenda política de organismos nacionales e internacionales2. Excede las posibilidades de este trabajo analizar la relación general entre Derecho e IA. Apenas es posible señalar que se trata de una relación tan compleja como necesaria. Más allá, de un auténtico desafío a la capacidad del Derecho para seguir ordenando de manera eficaz la vida social. Por su parte, los desafíos que plantea establecer un marco normativo para el uso de la IA en el interior de los Parlamentos son considerablemente menores. Lo más relevante es tomar conciencia de la necesidad: la posibilidad de uso de una herramienta susceptible de alterar las reglas de juego tradicionales exige que establezcan unas condiciones que garanticen que ningún actor puede obtener una ventaja fraudulenta. Junto a ello, resulta imprescindible que esa regulación sea capaz de optimizar las numerosas ventajas que la IA puede aportar a la Institución parlamentaria. Para ello, deberá ser guía de la misma los objetivos y valores que la vertebran. Uno de los retos no ya de la democracia sino del orden civilizatorio contemporáneo es cómo enfrentar la relación entre Derecho y tecnología. Es éste un reto que el Parlamento tiene desde hace tiempo. Pero como otros, se acelera y se agrava con la irrupción de la IA.

Más allá, la política debe evitar que la IA despliegue toda su capacidad de seducción irresistible fuera del orden institucional. No es una cuestión sencilla. Como se dijo, se trata de una lucha desigual. El dirigente político debe ser consciente de que existiendo la IA la sociedad será mucho más exigente con todas las facetas de su comportamiento. Se puede decir que su consolidación ha derribado todos los velos que aún pudiesen permanecer. La IA enfrenta a cuestiones esenciales del orden político y del sistema filosófico e ideológico que lo sostiene. No es la menor determinar cuál es el nivel de «objetividad» que se desea, o, dicho de otra manera, el espacio que se deja a la oportunidad o, incluso, al instinto político. No será la política el único ámbito para este debate. Pero en la política también habrá que tenerlo.

La irrupción de la IA es una fase más de un proceso que puede calificarse de revolucionario sin temor a la exageración. La potencia del instrumento y, sobre todo, el temor fundado a que pueda desenvolverse de manera autónoma, superando en ocasiones la capacidad humana, explica la expectación que ha despertado tanto en los ámbitos académicos como institucionales. Como ha sucedido con otros hitos tecnológicos que la han precedido, una sensación mezcla de incapacidad y desconcierto domina muchas de las discusiones. Es normal. La revolución tecnológica en la que se inserta la IA muta a una velocidad extraordinaria; incorpora un lenguaje difícilmente asumible por el Derecho; tiene rasgos globalizados que la hacen refractaria a una regulación estatal... y, además, y no en último lugar, nos enfrentamos a los desafíos que plantean sin el necesario fundamento filosófico e ideológico. La ciencia y la técnica caminan a una velocidad muy superior a la que se desarrollan los fundamentos humanistas que deben servir a su adecuada inserción en nuestro modelo civilizatorio. De forma un tanto paradójica, el ser humano, desde esta perspectiva, es débil cuando la ciencia y la técnica le han hecho más fuerte. La entidad del desafío es evidente. También la dificultad. Y también debe serlo la oportunidad. Para aprovecharla, habrá que comenzar por interrogarse por los cimientos. Unos cimientos que no son sino la preservación de aquellos valores e instituciones que fundamentan la democracia constitucional. Interrogarse sobre los mismos para actuar en consecuencia, adaptarlos a un entorno radicalmente nuevo y, de esta manera, preservarlos.

Sidebar

FECHA DE RECEPCIÓN: 5.07.2023 Fecha de aceptación: 18.09.2025

CÓMO CITAR / CITATION: Tudela Aranda, J. (2023). Gobierno, Parlamento, Democracia e inteligencia artificial. Teoría y Realidad Constitucional, 52, 303-333

Footnote

1 En un tono profundamente alarmista, en marzo de 2023 hasta más de cien de los más reputados expertos en IA, alertaron de sus riesgos, llegando a afirmar que podría extinguir la humanidad: https://www. elespanol.com/omicro no/tecnologia/2 02 30 5 30/ia-podria-extinguir-humanidad-alertan-chatgpt-expertos/767673414_0.html

2 La Unión Europea se ha fijado como objetivo prioritario aprobar una ambiciosa norma común sobre su regulación: https://www.europarl.europa.eu/news/es/headlines/society/20230601ST093804/ley-de-ia-dela-ue-primera-normativa-sobre-inteligencia-artificial.

References

BIBLIOGRAFÍA CITADA

Applebaum. A. (2021). El ocaso de la democracia. Barcelona: Debate.

Aragón Reyes, M. (1986). El control parlamentario como control político. Revista de Derecho Político, 23, 9-40.

_____(2017). Parlamento abierto: una visión desde los principios de funcionamiento de las cámaras parlamentarias. Revista Española de Derecho Constitucional, 111, 13-43.

Astarloa Huarte-Mendicoa, I. (2017). El parlamento moderno. Importancia, descrédito y cambio. Madrid: lustel-Fundación Alfonso Martín Escudero.

Balaguer Callejón, F. (2022). Euentes del derecho. Madrid: CEPC.

_____(2023a). La Constitución del algoritmo. Zaragoza: Fundación Manuel Giménez Abad.

_____(2023b). La Constitución del algoritmo. El difícil encaje de la Constitución analógica en el mundo digital. En Balaguer Callejón, F. y Cotino Hueso, L., Derecho público de la inteligencia artificial (pp. 29-56). Zaragoza: Fundación Manuel Giménez Abad.

Balaguer Callejón, F. y Cotino Hueso, L. (coords.).(2023). Derecho público de la inteligencia artificial. Zaragoza: Fundación Manuel Giménez Abad.

Barreda, M. (2021). La polarización política en las democracias actuales: expresiones y consecuencias. Cuadernos húanuel Giménez Abad, 21, 190-202.

Blanco Herranz, J. (2003). Modernización de los Parlamentos: nuevas herramientas de gestión para su organización y funcionamiento. El Parlamento del Siglo XXI (pp. 157-187). Madrid: Tecnos.

Blanco Valdés, R.L. (2003). ¿Hacia una democracia sin partidos?: crisis partidista, selección de las élites y representación. En Derecho Constitucional del Siglo XXI: desafíos y oportunidades (pp. 465-489). Zaragoza: Fundación Manuel Giménez Abad.

Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración en la adopción de decisiones. Revista de Derecho Público. Peoría y Nrítodo, 1, 223-270.

Bustos Gisbert, R. (2017). Calidad democrática. Reflexiones constitucionales desde la teoría, la realidad y el deseo. Marcial Pons-Fundación Manuel Giménez Abad.

Carmona Contreras, A. (2023). Transformaciones del sistema de producción jurídica en el Estado contemporáneo: reflexiones en perspectiva constitucional. En Derecho Constitucional del Siglo XXI: desafíos y oportunidades (pp. 85-108). Zaragoza: Fundación Manuel Giménez Abad.

Cazorla Prieto, L.M. (2016). El principio de transparencia en el procedimiento legislativo en el Congreso de los Diputados. Anales de Academia Ncatritense del Notariado, 56, 69-93.

Christianasen, T., Griglio, E. y Lupo, N. (2023). The Routledge Handbook of Parliamentary Administrations. Londres: Routledge.

Cotino Hueso, L. y Castellanos, J. (coords.). (2022). Transparencia y explicabilidad de la inteligencia artificial. Valencia: Tirant Lo Blanch.

De Montalvo Jääskläinen, F. (2023). Evaluación de un lustro de evaluación expost de las normas. Revista de las Cortes Generales, 115, 189-216.

Elster, J. (comp.). (1998). La democracia deliberativa. Barcelona: Gedisa.

Fitsilis, F. (2021). Artificial Inteligency (AI) in parliaments. Preliminary analysis of the Eduskunta experiment. The Journal of Legislative Studies, TKJÁy, 621-633.

García-Escudero Márquez, P. (2003). Parlamento y futuro: los retos de la Institución parlamentaria. Cuadernos de Derecho Público, 18, 194-205.

_____(2011). Informes previos a la aprobación de proyectos de ley. Corts: Anuario de Derecho Parlamentario, 11, 53-71.

Escobar, Roca, G. (2022). El Derecho, entre el poder y la justicia. Una introducción crítica al sistema jurídico español. Valencia: Tirant Lo Blanch.

Garrorena Morales, A. (2015). Escritos sobre la democracia. La democracia y la crisis de la democracia representativa. Madrid: CEPC.

Innerarity, D. (2009). El futuro y sus enemigos. Una defensa de la esperanza política. Barcelona: Paidós.

_____(2020). Una teoría de la democracia compleja. Gobernar en el siglo XXI. Barcelona: Galaxia Gutemberg.

Gutiérrez, M.A. (2014). Antecedentes de comisiones del futuro en los Parlamentos del mundo. The Millenium Project. Disponible en: https://www.academia.edu/9337846/ Antecedentes_de_comisiones_de_futuros_en_los_parlamentos_del_mundo

Llano Alonso, F.H. et al. (2022). Inteligencia artificial y filosofía del Derecho. Madrid: Laborum Ediciones.

Manin, В., Przeworski. A. y Stokes, S.C. (1999). Democracy, Accountability and Representation. Cambridge: Cambridge University Press.

Montilla Martos, J.A. (2023). Inteligencia artificial y derechos de participación política. En Derecho público de la inteligencia artificial (pp. 151-180). Zaragoza: Fundación Manuel Giménez Abad.

Mounk, Y. (2018). El pueblo contra la democracia. Por qué nuestra libertad está en peligro y cómo salvarla. Buenos Aires: Paidós.

Nava Gomar, S.O. (2021). Democracia y parlamentarismo en la época del populismo. En Aragón Reyes, M; Cossío Díaz, J.R.; Nava Gomar, L.F., (coords.), La crisis del parlamentarismo en nuestra democracia constitucional. Valencia: Tirant Lo Blanch.

Fresno Linera, M. (2022). Derechos Fundamentales e inteligencia artificial. Madrid: Marcial Pons-Fundación Manuel Giménez Abad.

_____(2023). El Gobierno ante los retos de la nueva modernidad: la globalización y la inteligencia artificial. En Derecho Constitucional del Siglo XXI: desafíos y oportunidades (pp. 437-450). Zaragoza: Fundación Manuel Giménez Abad.

Requejo Pagés, J.L. (2020). La agonía de la democracia. Oviedo: KRK Ediciones.

Rubio Núñez, R. y Vela Navarro-Rubio, R. (2017). El Parlamento abierto en el mundo. Evolución y buenas prácticas. Zaragoza: Fundación Manuel Giménez Abad.

Salazar, I. (2023). El diseño ético de la inteligencia artificial para no discriminar ni lesionar derechos. En Derecho público de la inteligencia artificial (pp. 85-110). Zaragoza: Fundación Manuel Giménez Abad.

Santamaría Pastor, J.A. (1998). Fundamentos de Derecho Administrativo. Madrid: Centro de Estudios Ramón Areces.

Teruel Lozano, G. (2023). Libertad de expresión, censura y pluralismo en las redes sociales: algoritmos y el nuevo paradigma regulatorio europeo. En Derecho público de la inteligencia artificial (pp. 181-222). Zaragoza: Fundación Manuel Giménez Abad.

Torreblanca, I. (2015). ¡Asaltar los cielos¡. Madrid: Debate.

Tudela Aranda, J. (2020). El Parlamento en tiempos críticos. Nuevos y viejos temas del Parlamento. Madrid: Marcial Pons.

Tudela, J., Castellá, J.M., Expósito, E. y Kólling, M. (eds.) (2018). Libro blanco sobre la calidad democrática. Madrid: Marcial Pons.

Vallespín, F. (2023). El futuro de la política. Barcelona: Taurus.

Vallespín, F. y Martínez Bascuñán, M. (2018). Populismos. Madrid: Alianza Editorial.

Villacañas, J.L. (2017). La reinvención de la política. En El porqué de los populismos (pp. 17-46). Barcelona: Ediciones Deusto.