Headnote
SUMARIO
I. LOS AVANCES TECNOLÓGICOS Y LA INTELIGENCIA ARTIFICIAL. II. LA DEMOCRACIA DIGITAL. III. BENEFICIOS DE LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL EN LOS SERVICIOS DEL ESTADO. IV. LA IA EN EL ESCENARIO DE LA DEMOCRACIA DIGITAL. V. CONCLUSIONES
Summary
I. TECHNOLOGICAL ADVANCES AND ARTIFICIAL INTELLIGENCE. II. DIGITAL DEMOCRACY III. BENEFITS OF DIGITAL TECHNOLOGY AND ARTIFICIAL INTELLIGENCE IN STATE SERVICES. IV. AI IN THE SCENARIO OF DIGITAL DEMOCRACY. V CONCLUSIONS
Resumen
Los avances tecnológicos de los últimos años le han permitido a la humani-dad alcanzar niveles sociales y económicos, como de bienestar, nunca antes logrados. La conectividad y el desarrollo de sistemas y procesamiento de datos han alcanzado dimensiones inimaginables en los siglos precedentes, entre ellos la creación de máquinas y sistemas que semejan el funciona-miento de la mente humana, con un gran potencial de impacto sobre la vida en el planeta. La democracia ha recibido también estos infujos, que han ampliado el escenario político, la interacción entre las personas y el Estado y la participación, y que permiten afrmar el arribo a un nuevo escenario político: la democracia digital. Muchos de los servicios estatalesse han visto favorecidos con la aplicación de los recientes avances tecnoló-gicos: la identidad de las personas, la interacción entre los particulares del estado y la sistematización de los sistemas electorales. La inteligencia artifcial, desde sus orígenes en 1943, ha tenido avances signifcativos en los últimos años, con procesos tecnológicos que facilitan las tareas privadas y públicas, con grandes benefcios, pero también con un sinnúmero de riesgos y difcultades, que desde ya deben ser analizados para prevenir las desfavorables consecuencias que pueda generar su utilización.
Abstract
The technological advances of recent years have allowed humanity to reach social and economic levels, as well as well-being, never before achieved. Connectivity and the development of systems and data processing have reached dimensions unimaginable in previous centuries, including the creation of machines and systems that resemble the functioning of the human mind, with great potential to impact life on the planet. Democracy has also received these influences, which have expanded the political scenario, the interaction between people and the State and participation, and which allow us to affirm the arrival of a new political scenario: digital democracy. Many state services have been benefited by the application of recent technological advances: the identity of people, the interaction between individuals in the state and the systematization of electoral systems. The artificial intelligence (IA), since its origins in 1943, has made significant advances in recent years, with technological processes that facilitate private and public tasks, with great benefits, but also with countless risks and difficulties, which must now be analyzed, to prevent the unfavorable consequences that its use may generate.
Palabras clave
Inteligencia artifcial; Democracia; Democracia digital; Identifcación digital; Biometría; Tecnologías de la información; Desinformación
Key words
Artificial intelligence; Democracy; Digital democracy; Digital identification; Biometrics; Information Technology; Disinformation
1 Abogado de la Pontifcia Universidad Javeriana de Bogotá (Colombia), Maestro de la Universidad Católica de Lovaina (Bélgica) y Doctor de la Universidad de Salamanca (España). Dirección postal: Carrera 11 A No. 93-67 Of. 503 Bogotá, Colombia. Correo electrónico: juancarlosgalindovacha@ gmail.com
I. LOS AVANCES TECNOLÓGICOS Y LA INTELIGENCIA ARTIFICIAL
El siglo xx fue, a más del escenario de graves confictos militares, una época en la que los desarrollos industriales y la investigación condujeron a la humanidad por nuevos senderos. El progreso de los medios de transporte hizo que el mundo se hiciere más pequeño. El surgimiento de máquinas que ayudarían a procesar da-tos, de su aplicación en los diferentes sectores de la vida humana, los adelantos de la comunicación digital y satelital, condujo al mejoramiento de las condiciones de vida de la mayoría de los seres humanos y a superar multitud de problemáticas que se habían vivido en épocas pretéritas -y no obstante crear también otros-. El avance de la técnica ha sido vertiginoso en los últimos años. El siglo actual, en los pocos años transcurridos, ya presenta importantes innovaciones que están teniendo grandes impactos ahora, pero que seguramente conducirán próximamente a mejoras inimaginables.
Uno de los ámbitos que ha tenido especiales logros en los años recientes es el de la inteligencia artifcial (IA), que busca crear sistemas capaces de realizar tareas que normalmente requieren inteligencia humana. Si bien hasta el momento no se ha inventado una máquina capaz de realizar las complejas operaciones mentales como el cerebro humano -lo que se entiende como inteligencia artifcial general- los computadores si pueden realizar operaciones de búsqueda, de lectura, de verifcación de análisis cuantitativos y cualitativos, incluso con mayor efciencia que el hombre, que es lo que ahora se entiende como inteligencia artifcial estrecha2. Bien lo afrmó
José Mira, que los cuatro grandes objetivos de la inteligencia artifcial son la mode-lación, la programación, la formalización y la implementación de máquinas capaces de interactuar de forma no trivial con el medio3. La inteligencia artifcial es más que el desarrollo informático. Es la aplicación de ciencias humanas como la psicología, flosofía, neurociencia y las ramas del conocimiento del conocimiento al desarrollo de máquinas, con el propósito de resolver problemas y necesidades complejas de los seres humanos.
La inteligencia artifcial es capaz de llevar a cabo muchas tareas intelectivas: ade-más del procesamiento del lenguaje natural, los reconocimientos de voz y de rostro humano, así como conocimientos del funcionamiento del cerebro humano, para el desarrollo de nuevas formas para la toma de decisiones y la resolución de problemas cada vez más complejos, dado el actual entorno de la big data. El empresario e inves-tigador Kai-Fu Lee describió los adelantos de la inteligencia artifcial, que ha logrado y que alcanzará en los próximos años, cuando dijo que había cuatro olas de desarrollo, que se alimentan de diferentes tipos de datos producidos por los usuarios o por los propios desarrollos de la misma tecnología. Las dos primeras, la inteligencia artifcial de internet y la inteligencia artifcial empresarial, que ya están bastante avanzadas. Explicó el experto taiwanés que, con base en los datos de utilización, los algoritmos han venido aprendiendo los gustos de las personas, mediante el etiquetado -es de-cir, la clasifcación y califcación de los datos, la acción de los usuarios respecto de los datos buscados o encontrados, compras, clics, observaciones, etc.-, para facilitar el mercadeo y consumo de los bienes y servicios ofrecidos por las diferentes empresas en la internet.
Por su parte, en el mundo de la inteligencia artifcial empresarial, las grandes compañías, como Element AI en Canadá y 4th Paradigm en China han venido ofrecien-do el etiquetado de datos para favorecer el desarrollo de los negocios particularmente fnancieros o de consumo. Utilizan los datos del mundo virtual, la big data, para el desarrollo de nuevos mercados, para detectar problemáticas o para predecir nuevos hábitos de consumo4. Para Lee, la tercera ola es aquella de la inteligencia artifcialde la percepción, en la que las máquinas y algoritmos pueden interpretar datos que antes solo podían hacer los humanos, y también en recoger, mediante sensores de diferente naturaleza, los datos del mundo real para producir acciones en el mundo digital; el reconocimiento facial, o al utilización de conexiones entre máquinas y la generación de acciones entre chips de ordenadores y equipamientos de los hogares y de las empresas, son ejemplos de los desarrollos que está teniendo esta categoría de inteligencia artifcial5. Finalmente, la cuarta ola, que consolidará los avances de las anteriores, permitirá que las máquinas puedan alimentarse tanto con los datos del mundo real como los del mundo virtual, y les permitirá interactuar de manera autó-noma e independiente, gracias a los desarrollos tecnológicos de datos y de sensores, sin necesidad de la interacción humana. Muchos ejemplos ya se están viendo en la actualidad, como los coches autónomos, o los robots para la industria que funcio-nan dependiendo de las condiciones de los cultivos o de drones para la entrega de mercancías6.
Algunas de las aplicaciones más relevantes y útiles de la IA en la actualidad7, para brindar apenas unos ejemplos, incluyen: i) Asistentes virtuales, tales como Siri, Google Assistant y Alexa, ii) Educación cívica: La IA puede utilizarse para crear re-cursos educativos interactivos y personalizados que fomenten la educación cívica y la comprensión de temas políticos y sociales, ChatGPT8, Bing, entre otras, que graciasa la IA facilitan la vida diaria, proporcionando información, recomendaciones y con-trolando dispositivos inteligentes, además de contar con una paciencia infnita que ningún maestro, profesor o capacitador humano podría tener; iii) Procesamiento de lenguaje natural (NLP)9, que permite a las máquinas la comprensión, interpretación del lenguaje humano, y su aplicación a campos prácticos como la traducción auto-mática, análisis de texto, de sentimientos y chatbots10; iv) Vehículos autónomos, que podrán circular por las calles de manera independiente, navegar y tomar decisiones de conducción; v) Diagnósticos médicos, pues gracias a los desarrollos tecnológicos, se utiliza para analizar datos médicos, como imágenes de resonancia magnética o radiografías, para identifcar patrones y ayudar en el diagnóstico de enfermedades, para consultar muchas bases de datos y confrontar los resultados con muchas fuentes; vi) Detección de fraude en la identifcación de patrones sospechosos en transacciones fnancieras y tarjetas de crédito, lo que facilita a las instituciones fnancieras para tomar medidas rápidas con el fn de prevenir estos delitos fnancieros; vii) Análisis de datos y toma de decisiones, gracias a la posibilidad de procesar grandes cantidades de datos para identifcar patrones y tendencias, lo que facilitará a las personas y em-presas la toma de decisiones en negocios, investigación y desarrollo; viii) Robótica en desarrollo de programas que aumentan las capacidades de las máquinas, y que facilitan su aprendizaje autónomo para aprender de su entorno, tomar decisiones y realizar tareas complejas de forma autónoma; ix) Reconocimiento facial y de voz pues la IA se utiliza para reconocer rostros en aplicaciones de seguridad, como cámaras de vigilancia y sistemas de CCTV, además para avanzar en la identifcación de personas por sus voces, huellas y mediante utilización de herramientas digitales en sistemas de verifcación y control de acceso. Ya lo expresaba Yann Lecun, en una entrevista, cuan-do respondía las bondades y benefcios que podría traer la IA generativa, -aquellaque puede crear contenidos nuevos, como conversaciones, historias, imágenes, ade-más del reconocimiento de imágenes, el procesamiento de lenguaje natural (NLP)11 y la traducción, entre otros- , en diferentes campos, desde la música y el arte hasta la investigación científca, en la salud y en la simulación de medicamentos12.
La IA ha logrado que las máquinas realicen tareas que normalmente requieren de inteligencia humana, e incluyen el aprendizaje de datos, la detección de patrones para simular decisiones humanas, el conocimiento automático, el procesamiento del lenguaje natural, la visión por computadora y también la robótica, lo que se ha lo-grado aplicar también en los servicios que ofrece el Estado a sus habitantes. En los últimos años, la inteligencia artifcial se ha utilizado cada vez más en la provisión de servicios gubernamentales, y ha mejorado la efciencia y la calidad de los servicios ofrecidos a los ciudadanos. Recientemente se ha utilizado en una amplia variedad de servicios gubernamentales13, incluyendo: i) Los asistentes virtuales y chatbots que ayudan en la interacción con los ciudadanos a través de la web o aplicaciones móvi-les: estos programas pueden responder preguntas comunes, realizar transacciones y proporcionar información sobre los servicios gubernamentales. Estos chatbots pueden ser implementados en las páginas web o redes sociales de las entidades públicas, permitiendo una atención al ciudadano las 24 horas del día, los 7 días de la semana; ii) la automatización de procesos ciudadanos, que permite reducir los tiempos de es-pera y errores en la tramitación de documentos y solicitudes. Por ejemplo, el uso de reconocimiento óptico de caracteres (OCR) para digitalizar y clasifcar documentos o el uso de sistemas de procesamiento de lenguaje natural (NLP) para la revisión de documentos y la detección de fraudes; iii) La predicción de tendencias y proyecciones de utilizaciones de servicios públicos, pues la inteligencia artifcial se utiliza para analizar grandes cantidades de datos y predecir tendencias futuras, como por ejem-plo, demandas de servicios de salud o de educación de determinadas poblaciones; iii) La automatización de procesos gubernamentales que normalmente requieren de la intervención humana, como el procesamiento de solicitudes de benefcios y la re-visión de documentos, e incluso las atenciones telefónicas o de páginas web, lo que aumenta la capacidad y rapidez en la respuesta del Estado; iv) También se la utiliza para monitorear y mejorar la seguridad en áreas como el transporte, la seguridad pública y la ciberseguridad.
II. LA DEMOCRACIA DIGITAL
La democracia como modelo de organización política ha tenido un gran desa-rrollo a través de los siglos. Desde la antigua Grecia como mecanismo directo de decisión popular combinada con el sorteo de cargos14, y luego de un periodo de os-curantismo derivado de los regímenes imperiales y monárquicos vigentes en Europa durante muchos siglos, gracias a los flósofos de la Ilustración, reconoció el valor del ser humano como titular de derechos y adoptó la representatividad para seleccionar electoralmente a quienes manejarían la res publica. Durante el siglo xx, las conquistas sociales le otorgaron al Estado un nuevo papel como director de la sociedad y condu-jeron a la consolidación de un nuevo escenario de la democracia: el modelo partici-pativo, en el que el papel del ciudadano no estaba solamente circunscrito a elegir a sus gobernantes, sino a contar con iniciativa y especial protagonismo en la toma de las decisiones colectivas de las naciones, mediante los diferentes mecanismos de par-ticipación ciudadana, como el plebiscito, referendo, consultas populares, iniciativas legislativas, cabildos populares y revocación del mandato.
Con los desarrollos tecnológicos, que se consolidaron desde la última parte del siglo xx y especialmente en las primeras décadas del siglo xxi, la democracia dio un paso adicional. Permitir a los asociados contar con nuevos instrumentos de participa-ción social, económica y política, mediante el uso de teléfonos móviles inteligentes, tabletas y computadores, y facilitar la comunicación entre los diferentes actores de la sociedad. La democracia participativa, entendida como aquel sistema basado en el reconocimiento y garantía de libertades y derechos, en el que los ciudadanos cuentan con el voto como herramienta de expresión para elegir a sus representantes y para hacer parte de las decisiones colectivas mediante la utilización de los mecanismos de participación ciudadana (tales como plebiscitos, referéndum, consultas populares, revocatorias de mandato, etc.), es un modelo de organización política reconocido por constituciones de varios países. Se puede afrmar que es el escaño más desarrollado de los modelos democráticos, en tanto reconoce a la persona como titular de dere-chos fundamentales y le brinda un amplio derecho de participación política a los ciudadanos,
Los países que reconocen este modelo de organización política de la democracia participativa así lo consagran en sus cartas políticas. Desde este punto de vista, podrá afrmarse que este modelo aún se mantiene, y que no ha evolucionado a uno superior. Los antedichos parámetros esenciales de la democracia participativa siguen siendo losmismos. Sin embargo, a pesar que no se hubieren incorporado cambios normativos, si puede afrmarse que hoy existe un modelo político diferente, una nueva versión de la democracia, producto no tanto de las variaciones constitucionales, sino fruto de un gran desarrollo tecnológico que ha venido impactando la vida social y política, abriendo nuevos escenarios de participación de las personas, y generando una interac-ción digital entre los diferentes actores, aparte de los diferentes benefcios generados por la aplicación de la tecnología en los servicios del Estado.
Así, la democracia digital constituye un nuevo modelo de escenario político, en donde además de los mecanismos participativos institucionales -esto es el voto, y los procesos de participación ciudadana, tales como el plebiscito, referendo, con-sultas populares, iniciativas legales ciudadanas, cabildo abierto- de la democracia participativa, se han abierto nuevos espacios políticos gracias a los avances de la tec-nología. En efecto, las nuevas herramientas de comunicación (ordenadores, teléfonos móviles y tabletas) así como los avances de conectividad (tanto desde el punto de infraestructura física como digital), y el surgimiento y auge de las redes sociales, han modifcado la interacción entre los ciudadanos y el Estado15, el ejercicio de la activi-dad política, y permiten que otros actores diferentes de los ciudadanos tengan una participación real y efectiva en la vida social y política. Ahora existe no solamente un escenario de participación institucional para los ciudadanos -que es el recono-cido por la democracia participativa-, sino que ha surgido una nueva parcela que facilita la intervención de nuevos actores en los espacios digitales con incidencia en la realidad. Habermas lo reconoció cuando encontró en la realidad tecnológica actual un nuevo escenario para la política deliberativa16, por fuera de los esquemas institu-cionales de elecciones políticas, un espacio para que los ciudadanos puedan deliberar respecto de lo público por fuera de la estructura estatal. En este nuevo escenario de la democracia digital pueden intervenir ahora no solamente los ciudadanos -como lo hacen en la democracia participativa-, sino las personas naturales menores de edad y también lo pueden hacer las personas jurídicas. Esta intervención será diferente de aquella de los ciudadanos, y se refejará mediante la utilización de las herramientas tecnológicas en las redes sociales, en la emisión y recepción de mensajes de contenidopolítico, en la información y en la desinformación, en el activismo político partidista, en la oposición frente a las políticas públicas, pero podrá signifcar impactos reales en el desarrollo de la democracia, como ya se ha visto en los casos de falsas noticias y manipulación electoral. Muchos de los partícipes en estos eventos fueron empresas y menores de edad provistos de acceso a los medios tecnológicos.
La democracia digital es, entonces, un nuevo estadio frente a aquel de la demo-cracia participativa, en la medida en que gracias a la tecnología, por un lado surgie-ron nuevos actores de la vida política con incidencia real en el desenvolvimiento de las instituciones, y por el otro, se les dotó de nuevos mecanismos para la expresión individual y colectiva, de nuevos medios para adelantar actividades sociales, para ma-nifestar sus peticiones y descontentos, así como para demandar de las autoridades ac-ciones y decisiones en temáticas sociales, económicas y políticas. El sistema político democrático cuenta ahora con nuevos actores y con escenarios adicionales al voto, a los institucionales mecanismos de participación ciudadana (como son las posibilidades de información, de comunicación, de interacción social, adelantadas por medio de las plataformas tecnológicas con teléfonos celulares, tabletas, y computadores), lo que ha signifcado la apertura de participación en escenarios institucionales y digitales con hondo impacto real. Entonces, puede afrmarse que, la democracia digital constituye una nueva escena política -posterior o siguiente a la democracia participativa-, en el que la tecnología desarrollada en los últimos años juega un papel fundamental en el mundo de las relaciones humanas y en la vinculación entre los individuos, las per-sonas jurídicas y el Estado. Se trata de un nuevo esquema político en el que la persona ya no solamente fgura como titular de los derechos fundamentales reconocidos por la institucionalidad democrática para intervenir en la elección de sus representantes y en la toma de decisiones colectivas, sino que además cuenta con canales adicionales de comunicación y de intervención política, tales como recibir información masiva por diferentes medios electrónicos e instantáneos, con la posibilidad de interactuar digitalmente con las instituciones públicas y actores políticos, como también con la potencialidad de producir informaciones, opiniones y de difundirlas masivamente por medio de las redes sociales y de las plataformas tecnológicas, con un alto im-pacto en la vida pública. El reconocido espacio de intervención del ciudadano en la democracia participativa se encuentra ahora enriquecido por la existencia de nuevos ámbitos de actuación política, entre ellos los escenarios digitales, pero también con la intervención de nuevos actores, con consecuencias en el mundo real17.
En este nuevo escenario político de la democracia digital, el Estado cuenta tam-bién con importantes herramientas tecnológicas para atender las diversas tareas que le encomienda la sociedad, tales como la sistematización de los procesos electorales, la identidad digital, servicios informáticos de atención al usuario, manejo de pode-rosas bases electrónicas de datos, y prestación masiva de bienes y servicios públicos, etc. Además, en la medida en que se han abierto canales digitales de comunicación e interacción entre las personas y las autoridades estatales, a más de los que de ordi-nario contemplaba la democracia participativa, puede decirse que la tecnología ha ampliado el concepto de la democracia. El desarrollo de la tecnología ha permitido que las autoridades públicas dispongan de variados servicios públicos y privados, además de específcos mecanismos de atención virtual para los ciudadanos, que por demás facilitan el ejercicio de la actividad política a los diferentes actores del sistema.
III. BENEFICIOS DE LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL EN LOS SERVICIOS DEL ESTADO
Como quedó visto, los desarrollos tecnológicos han forjado un escenario político de participación de nuevos actores y han facilitado mayores actuaciones e interaccio-nes en un espacio digital en el entorno democrático, pero también han permitido la incorporación de mejoras sustanciales en los servicios del Estado hacia los adminis-trados. La administración pública ha venido utilizando la tecnología para mejorar los servicios a los administrados, mediante la incorporación de nuevos canales de co-municación y de interacción digital y la utilización de sistemas informáticos para la atención y prestación de los servicios públicos. Sin embargo, dentro de ellos, un ám-bito específco tiene una especial connotación, en tanto la incorporación tecnológica y la inteligencia artifcial amplían el escenario democrático, al facilitar la expresión de las opiniones en el ámbito digital, el debate político, el activismo partidista y ciu-dadano, la manifestación de los votos de los ciudadanos, como es el sistema electoral.
La incorporación de los avances informáticos y de comunicaciones en los procesos electorales signifca la apertura de nuevos campos para el debate, para el proselitis-mo de los partidos políticos, para la discusión ciudadana, más allá del ejercicio del sufragio. También facilitan la participación ciudadana en la elección de los diferentes representantes del poder público como en la toma de decisiones colectivas, mediante mecanismos como el voto por internet, en máquinas de voto electrónico. La inclusión de servicios digitales en la realización de procesos electorales en sistemas democráti-cos participativos, desde la habilitación de espacios de debate político y proselitista en la internet y redes sociales, hasta la utilización de máquinas para lograr una mayor participación política, coloca la democracia en un nuevo estadio, el de la democra-cia digital. Hay otros servicios de la administración pública que tienen una rela-ción estrecha con la sistematización del proceso electoral, como es la identifcación de las personas, que por esa razón pueden catalogarse como servicios dentro de lademocracia digital, en tanto se encuentren presentes los presupuestos del modelo de-mocrático participativo. La identifcación digital brinda mecanismos para el ejercicio de los derechos políticos, otorga oportunidades para la identidad de las personas en el ámbito digital, y permite la implementación de mejoras informáticas en la realiza-ción de los procesos electorales. Por tal razón, a continuación se examinarán estos dos servicios estatales que tienen que ver con el ejercicio de derechos políticos tanto en la vida democrática real como digital, de trascendental importancia en la vida actual.
A. La identifcación digital
La identidad de las personas, es decir su reconocimiento como individuos, como miembros de una sociedad y colectividad estatal, ha sido un tema de interés a lo largo de la historia, y ha evolucionado en respuesta a una variedad de factores, inclu-yendo cambios en la cultura, la política, la economía y la tecnología. Han existido diferentes mecanismos para individualizar a las personas, que es en lo que consiste la identifcación.
En la actualidad hay diferentes mecanismos y herramientas para identifcar a las personas: i) Documentos físicos de identidad: Las autoridades públicas diseñan un sistema en el que recogerán los datos personales del individuo, desde cuando nace (registro civil de nacimiento) hasta cuando muere (registro civil de defunción) y ex-piden documentos de identifcación (tarjetas de identidad, Documento Nacionales de Identidad, Cédula de Ciudadanía, etc), en donde constan los datos biográfcos, fotografía, huella digital, en formatos físicos dotados hoy de varios mecanismos de seguridad para evitar su falsifcación; ii) Contraseñas: Este es uno de los mecanismos más comunes para verifcar la identidad de las personas en plataformas o sistemas de ingreso y son combinaciones de caracteres que se utilizan para autenticar la identi-dad de un usuario, quien previamente ha informado al sistema digital el conjunto numérico con el cual se identifcará. El cotejo del archivado y el colocado, permitirá verifcar si se trata del mismo individuo u otro; iii) Autenticación de dos factores (2FA): se trata de un método que requiere que los usuarios proporcionen dos formas de identifcación para acceder a una cuenta en línea, como por ejemplo una contra-seña y la incorporación de un código enviado por mensaje de texto; iv) Biometría: Se trata de un sistema basado en el uso de características físicas únicas de la persona, como la huella dactilar, el reconocimiento facial, el iris del ojo, o incluso el ADN, para verifcar la identidad de una persona. Se trata de condiciones exclusivas de cada individuo, que permiten ser almacenadas en sistemas y luego cotejadas para verifcar si se trata de una particular persona o no; v) Certifcados digitales: Son documentos electrónicos que se utilizan para verifcar la identidad de las personas en línea, que utilizan múltiples elementos de identifcación, como los datos biográfcos, diferentes sistemas biométricos, contraseñas, y el almacenamiento de estos factores en platafor-mas estatales o privadas, para garantizar la verifcación de identidad de las personas en operaciones no presenciales, por medio de la Internet o cualquier otra red.
La biometría ha cobrado importancia en la era digital, ya que ofrece un alto nivel de seguridad y conveniencia para la autenticación de usuarios en línea. Se utiliza en una amplia gama de aplicaciones, como la identifcación de personas en aeropuertos, la autenticación de usuarios en dispositivos móviles, la verifcación de identidad para transacciones fnancieras, entre otras. La biometría se ha vuelto cada vez más popular en el mundo moderno debido a su precisión y fabilidad, y ha sido considerada como una alternativa más segura a las contraseñas tradicionales. Sin embargo, el uso de la biometría también ha planteado preocupaciones en cuanto a la privacidad y la seguridad de los datos biométricos. Por ejemplo, si los datos biométricos son almacenados de forma insegura, pueden ser vulnerables a los ciberataques y al robo de identidad. Además, el uso de la biometría también plantea preocupaciones en cuanto al potencial de uso indebido de datos biométricos por parte de las autoridades o terceros malintencionados. También genera inquietudes respecto de la vulneración de la privacidad de las personas, en la medida en que las cámaras de video del Estado o de entidades privadas pueden recoger la ubicación y demás circunstancias de su vida individual.
Los sistemas de biometría dactilar utilizan las características únicas de las huellas para identifcar a las personas. Han avanzado gracias a los logros tecnológicos de los últimos años. Existen diferentes sistemas de biometría dactilar18 que se utilizan para la identifcación y autenticación de usuarios, algunos de los cuales son: i) Sistemas ópticos, que utilizan una cámara para capturar la imagen de la huella dactilar y lue-go analizan las características únicas de la huella dactilar, como los patrones de las crestas y los valles de los dedos; ii) Sistemas capacitivos, que operan mediante una matriz de sensores capacitivos para medir las variaciones en la carga eléctrica de la piel en la superfcie de la huella dactilar; iii) Sistemas térmicos: Estos sistemas utili-zan cámaras térmicas para medir la temperatura de la superfcie de la huella dactilar y luego analizan los patrones únicos de temperatura para identifcar a los usuarios; iv) Sistemas ultrasónicos, que mediante ondas ultrasónicas miden la profundidad y la forma de los surcos y crestas de la huella dactilar; v) Sistemas de espectroscopía, que usan la refexión de luz infrarroja para analizar la composición química de la piel en la superfcie de la huella dactilar.
De otro lado, los mecanismos de biometría facial utilizan las características úni-cas del rostro de una persona para identifcarla. Se han desarrollado diversos medios de biometría facial19, tales como: i) Sistemas basados en características, que utilizan patrones de características de la cara de la persona, como la distancia entre los ojos, la forma de la nariz, la forma de la mandíbula y la forma de la frente, para identifcaral individuo; ii) Sistemas fundamentados en textura: Analizan la textura de la piel en la superfcie del rostro, la existencia de accidentes como lunares, cicatrices y determi-nan con precisión la tesitura de la dermis para identifcar a los usuarios; iii) Sistemas con base en modelos 3D: Estos mecanismos recogen la información de la cabeza de las personas en tres dimensiones, la almacenan integralmente, y luego pueden cote-jar con las personas y les permite distinguir entre personas que incluso se parecen físicamente; iv) Sistemas de reconocimiento de patrones, que utilizan algoritmos de aprendizaje automático, para analizar múltiples imágenes del rostro de una persona y crear un modelo único de su rostro.
Por su parte, los sistemas de biometría ocular cotejan las características únicas de los ojos de una persona para su autenticación e individualización20. En esta tec-nología existen dos tipos principales de sistemas de biometría ocular: i) Iris: En esta metodología se analiza el patrón único de fbras y anillos que se encuentran en el ojo de una persona, y su identifcación se realiza mediante la captura de una imagen del iris y la comparación con una imagen previamente registrada; ii) Retina: Que verifca los patrones únicos de vasos sanguíneos que se encuentran en la retina del ojo de una persona. Los sistemas de biometría ocular son altamente precisos y resistentes a los engaños, porque es difícil falsifcar o duplicar los patrones únicos del sistema visual de una persona. Sin embargo, estos sistemas pueden ser menos prácticos en compara-ción con otros sistemas de biometría, ya que la captura de imágenes del ojo requiere dispositivos especializados y puede ser incómodo para algunos usuarios.
En los últimos años, el desarrollo tecnológico, con los avances de procesamiento y almacenamiento de datos, ha permitido también desarrollar la identifcación digital, que utiliza diferentes métodos de autenticación para verifcar la identidad de las personas. Tiene diferentes niveles de validación y de seguridad, según sean los reque-rimientos o propósitos de la verifcación de la identidad de la persona. Para efectos de su utilización requiere el almacenamiento de la información en una base de datos pública o privada, como el nombre, la dirección de correo electrónico, la dirección de residencia, la fecha de nacimiento, los números de teléfono, los perfles en las redes sociales y cualquier otra información que la persona elija compartir en línea, la huella digital, la fotografía, así como el desarrollo de variadas contraseñas. Puede realizarse mediante la creación de una cuenta en línea con un correo electrónico, en el que la persona proporciona información personal, como su nombre, y crea una contraseña de datos en una plataforma o servicio que requiere identifcación del usuario. Con esta información, el proveedor de correo electrónico crea una cuenta única que se asocia con la identidad de la persona, y puede ser comprobada a la hora de acceder a determinados servicios y aplicaciones.
La identifcación digital también se puede crear a través de la participación en redes sociales, como Facebook, Instagram y Twitter. Al crear un perfl en una red social, la persona proporciona información personal, como su nombre, fotografías, intereses y amigos, determina patrones individuales cuando crea de consignas o santo y seña particulares. Esta información se utiliza para construir una identidad digital, que es única para esa persona en el acceso y utilización de este tipo de servicios. De otro lado, la identidad digital puede efectuarse como un trámite ofcial ante las auto-ridades públicas, para la identifcación de la persona, o la consolidación de una base de datos de diferentes usuarios, lo cual generalmente se realiza mediante la apertura de una carpeta digital, con datos biográfcos, correo electrónico, biometría y contra-señas individuales y secretas.
Adicionalmente, la utilización de la biometría e identifcación digital en la pres-tación de servicios del Estado ofrece variados y múltiples benefcios, y entre se en-cuentran: i) Mejora de la seguridad, en tanto que se trata de un método altamente seguro y confable para identifcar y autenticar a las personas, situación que dismi-nuye el riesgo de fraude y suplantación de identidad; ii) Agilidad y efciencia: Su uso brinda una mayor rapidez en la prestación de servicios, porque reduce signifcativa-mente el tiempo de cotejo de la identidad de la persona y los costos asociados con esa verifcación; iii) Accesibilidad: Facilita el acceso a los servicios del Estado desde cualquier lugar y en cualquier momento; iv) Reducción de la burocracia: La verifca-ción mecánica o digital de los individuos puede disminuir la carga administrativa y humana de las entidades públicas, y así mejora la prestación de sus servicios. v) Mayor calidad de los datos: La biometría puede aumentar la calidad de la información de la persona, así como facilitar la precisión de los registros y la calidad de los servicios; vi) Seguridad adicional: la biometría es una tecnología altamente fable, que puede proporcionar una autenticación robusta para los servicios digitales, evitando el frau-de y la suplantación de identidad.
Sin embargo, también debe tenerse en cuenta que el uso de la biometría y la iden-tifcación digital plantean desafíos importantes en términos de protección de la priva-cidad y la protección de los datos personales. Por lo tanto, resulta indispensable que se establezcan normas y regulaciones claras para el uso de estas tecnologías y que se garan-tice la protección de los datos personales de los ciudadanos. De igual modo, las organi-zaciones que utilizan la biometría deberán establecer medidas de seguridad adecuadas para proteger los datos biométricos de los usuarios, como, por ejemplo, la encriptación de los datos biométricos, la limitación de acceso a los datos a usuarios autorizados, la notifcación de los usuarios en caso de violación de datos, entre otros aspectos.
B. La sistematización del proceso electoral
La democracia implica la existencia de mecanismos para la representación popular y para la expresión ciudadana de iniciativas de consolidación de la voluntad de la colectividad. El proceso electoral es el sistema por medio del cual el Estado organizaun conjunto de actividades y procedimientos que se llevan a cabo para seleccionar a los representantes de un país, región o entidad política, por medio del voto libre y secreto de los ciudadanos. Adecuadamente y con la precisión que lo caracterizaba, lo expresó don José Ortega y Gasset "La salud de las democracias, cualesquiera que sean su tipo y grado, depende de un mísero detalle técnico: el procedimiento electoral. Todo lo demás es secundario. Si el régimen de comicios es acertado, si se ajusta a la realidad, todo va bien; si no, aunque el resto marche óptimamente, todo va mal"21.
El electoral es un proceso que implica una gran cantidad de fases y actividades, entre las cuales se incluyen la inscripción de votantes, la identifcación de candidatos, la organización de debates, la emisión de votos y el conteo de los sufragios, así como la publicidad de resultados. Los procesos electorales son fundamentales en las demo-cracias modernas, en tanto permiten a los ciudadanos elegir a sus líderes y también expresar sus opiniones sobre las políticas y los programas gubernamentales. Cuando votan, los ciudadanos tienen la oportunidad de infuir en las decisiones que afectan sus vidas y su bienestar, pero también pueden controlar y fscalizar el desempeño de sus representantes en el gobierno. Pero también implica la disposición de espacios de deliberación política en condiciones de libertad e igualdad, que otrora se adelanta-ban en la plaza pública, luego en espacios de los medios de comunicación que fueron apareciendo (periódicos e impresos, radio y televisión) y ahora en el mundo digital de la internet y las redes sociales. Las autoridades públicas deben brindar garantías para que los partidos políticos, los ciudadanos y los nuevos partícipes de los espacios virtuales puedan deliberar y debatir en condiciones adecuadas de información y de respecto. La democracia actual ha visto la afectación institucional y política por la inadecuada y abusiva intervención de personas que buscan manipular y alterar los procesos electorales, por lo cual se imponen nuevas tareas para las autoridades elec-torales, entre ellas con la utilización de la tecnología para evitar que los procesos propagandísticos desinformativos pueden tener efcacia, y para ello pueden utilizar también los medios informáticos y la inteligencia artifcial.
Además, los procesos electorales son un elemento esencial de la legitimidad y la estabilidad de los gobiernos democráticos. Al proporcionar un marco institucio-nal para la resolución pacífca de confictos políticos y la transferencia de poder, los procesos electorales contribuyen a evitar la violencia y el caos en la sociedad. Pre-cisamente por esta razón, los Estados deben contar con los medios y mecanismos para que los ciudadanos puedan expresarse libremente, para que puedan hacerlo en condiciones de seguridad y tranquilidad, en un entorno en el que los partidos y mo-vimientos políticos puedan realizar sus actividades proselitistas.
Cada país cuenta con su propia organización de las elecciones, con autoridades gubernamentales que las realizan, con organismos independientes y autónomos, en-tidades bajo un único director o con gobernaturas colegiadas, organismos nacionales,federales, etc. De igual manera, el diseño y realización de los procesos electorales es-tán sometidos a muchas formas y variados modelos. Las necesidades institucionales, como las posibilidades de recursos son algunos de los elementos que permiten conso-lidar la arquitectura de los comicios en los que los ciudadanos se pronuncian indivi-dualmente para escoger a sus representantes o toman las decisiones que les competen.
Siendo los procesos electorales consustanciales a la democracia, en el sentido que sin éstos mal podría predicarse la existencia de aquella, se observa indefectiblemente que hoy en día la tecnología constituye una importante herramienta para la orga-nización de los comicios. La preparación de un proceso electoral puede implicar la ayuda de los medios electrónicos y digitales para su desarrollo; desde la utilización de un computador para organizar un padrón electoral en una base de datos hasta la realización de un proceso con voto electrónico o con escrutinio electrónico, las herra-mientas informáticas han facilitado la implementación y realización de los comicios. Así las cosas, aun cuando en muchos países se mantiene el sistema de voto físico o manual, y en algunos pocos se manejan mecanismos de votación electrónica, la tecno-logía facilita, por un lado, el debate político en escenarios virtuales, la participación electoral de los ciudadanos y el conteo, consolidación y divulgación de los resultados electorales.
Gracias a este apoyo informático referido a los procesos electorales, puede decirse que la sistematización del proceso electoral es una de las principales expresiones de la democracia digital. Las elecciones son los escenarios de expresión de los ciudadanos para elegir a sus representantes y tomar decisiones de interés general, y cuando se les organiza y realiza con medios tecnológicos, puede predicarse que el sistema político de la democracia cuenta con las ventajas y retos de las tecnologías de la información y comunicación.
Desde hace ya varias décadas, se viene utilizando la tecnología en muchas fases del proceso electoral. En muchos países, desde la organización de la identifcación de los votantes, con la entrega a los ciudadanos de un documento de identidad individual, que conlleva la recolección de su información personal -incluyendo sus datos biométricos- para que reposen en bases de datos de las autoridades públicas. En la elaboración de los padrones electorales se utilizan poderosas bases de datos, para saber qué ciudadanos están habilitados para votar y en donde pueden hacerlo. La preparación del material electoral implica la disposición de medios informáticos para organizar la logística y la producción de formularios electorales y de las tarjetas electorales. La designación de los miembros de las mesas o jurados de votación, la notifcación de su designación, así como su capacitación, implica las herramientas para gestionar la selección de millones de personas, su notifcación y los procesos de capacitación para que puedan cumplir adecuadamente con sus labores.
De otro lado, como se avanzó en líneas precedentes, si bien la gran mayoría de los países democráticos siguen manteniendo un sistema de votación manual y apenas unos pocos (Bélgica, Filipinas, Brasil, algunos de los Estados Unidos de América y Venezuela -algunos con cuestionamientos en su operación-), la utilización demáquinas informáticas bajo un sistema denominado de voto electrónico trata de so-lucionar algunos problemas de tardanza en el conteo de votos, en los costos del proce-so y en la facilidad para el votante, también ha presentado algunas difcultades22. Los trámites de escrutinios, que se dirigen a consolidar los resultados de las votaciones, para determinar quiénes fueron elegidos o si las decisiones planteadas a los votantes aprobaron los márgenes legales o no, pueden contar con medios electrónicos para facilitar la labor de sumatoria y para consolidar de manera más ágil y segura los resultados de las votaciones. Muchos de los documentos electorales son también di-gitalizados para que los ciudadanos los puedan consultar, en aras de la transparencia del proceso, para lo cual se utilizan escáneres y repositorios digitales. Finalmente, en la medida en que mucha información electoral se divulga por la Internet, mediante publicaciones en páginas web de las autoridades electorales, hay que contar con me-dios digitales preventivos de ciberataques y de protección de la información, lo que exige sofsticados equipos y software especializado.
IV. LA IA EN EL ESCENARIO DE LA DEMOCRACIA DIGITAL
Varios son los países más avanzados en la utilización de la inteligencia artifcial en servicios estatales. Los Estados Unidos de América han invertido fuertemente en inteligencia artifcial en los últimos años y han implementado la tecnología en áreas como la defensa, la salud y la seguridad pública23. El Reino Unido, por su parte, ha establecido una estrategia de inteligencia artifcial que incluye la implementación de la tecnología en áreas como el transporte, la salud y la energía24. Con ocasión de laexpedición del Reglamento de Inteligencia Artifcial del 13 de marzo de 2024 por el Parlamento Europeo (https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_ES.pdf), el Consejo de Ministros Español aprobó el 15 de mayo del mismo año la Estrategia de Inteligencia Artifcial 2024, que dio continuidad a la Estrategia de Inteligencia Artifcial (ENIA) publicada en 2020, que se reiteró en la Agenda España Digital 202625.
Particularmente, en lo tocante propiamente con los procesos electorales, la inte-ligencia artifcial puede ser aplicada de varias maneras, en especial para: i) Propender por el aumento de la participación ciudadana, gracias a herramientas dirigidas a promover la intervención de los ciudadanos y absolver sus dudas e inquietudes, por medio de asistentes virtuales y chatbots; ii) Realizar análisis de datos electorales por parte de las autoridades electorales y demás actores, para evaluar eventos político-electorales y predecir tendencias futuras, como la participación electoral o los resul-tados de las elecciones; iii) Efectuar monitoreos respecto de la seguridad electoral y detectar actividades ilegales o fraudulentas, o combate de la desinformación en redes sociales; iv) Preparar la personalización de las campañas políticas, proporcionando a los ciudadanos y votantes mensajes y anuncios de su interés; y, fnalmente, v) La auto-matización de diferentes actividades de los procesos electorales, gracias al manejo de grandes volúmenes de información, análisis de datos y procesamiento de resultados electorales, para mejorar su efciencia y reducir el riesgo de errores humanos; vi) La verifcación de identidades de los sufragantes, en la posibilidad de incluir herramien-tas para el voto remoto y también para la sistematización de los procedimientos de votación, así como también para la detección de fraude en votaciones y el conteo de votos más rápido y preciso.
Ahora bien, de otro lado, la inteligencia artifcial cuenta también con un gran potencial para mejorar y transformar la democracia en otros varios aspectos, con el objetivo de lograr unos mayores espacios de discusión y de decisión entre otros: i) Participación ciudadana pues esta tecnología permite y facilita que los ciudadanos expresen sus opiniones y preferencias a través de plataformas digitales, proporcio-nando a los gobiernos información valiosa para informar sus políticas; iii) Transpa-rencia y rendición de cuentas, en tanto que la IA puede ser utilizada para analizar grandes cantidades de datos gubernamentales y políticos, identifcando patrones yanomalías que podrían indicar corrupción, malversación de fondos o inefciencias en la administración pública; iv) Formulación de políticas públicas, pues los algoritmos pueden ayudar a analizar y predecir el impacto de diferentes políticas y propuestas, que permite a los responsables políticos tomar decisiones más informadas y basadas en evidencias; v) Monitoreo y análisis de medios: La IA puede ayudar a rastrear y analizar las tendencias en medios y redes sociales, permitiendo a los gobiernos y a los ciudadanos comprender mejor las preocupaciones y opiniones del público; vi) Nuevos y mejores servicios de atención a los ciudadanos y usuarios de los diferentes servicios del Estado en la medida en que se utiliza la tecnología para interactuar con los demandantes de atención al público; vii) Automatización de tareas administra-tivas rutinarias en instituciones gubernamentales, lo que permite a los funcionarios públicos centrarse en actividades más importantes y estratégicas, viii) la IA predicti-va o generativa puede ayudar identifcar y/o considerar opciones de políticas públicas (ya implementadas en otros países, o completamente nuevas) ignoradas por quienes promueven las reformas, aumentando así el menú de opciones, como también ayudar en el control de la desinformación.
Adicionalmente, la inteligencia artifcial también permite otros benefcios en escenarios de la democracia digital, tales como: i) Lucha contra la desinformación porque los algoritmos de IA pueden ser entrenados para identifcar y fltrar noticias falsas, deepfakes y desinformación en línea y así proteger la integridad del discurso público y la toma de decisiones informadas por parte de los ciudadanos; ii) Educación cívica mediante el desarrollo de recursos educativos interactivos, personalizados y de amplísima divulgación mediante los dispositivos electrónicos, que fomenten la educación cívica y la comprensión de temas políticos y sociales; iii) Diálogo y con-senso, a través de chatbots y otras herramientas de comunicación, que pueden facilitar el diálogo y la negociación entre diferentes grupos e intereses, ayudando a alcanzar consensos y soluciones colaborativas.
Para aprovechar al máximo el potencial de la IA en la democracia, resulta impor-tante garantizar que su desarrollo y aplicación estén guiados por principios éticos y democráticos, y que se aborden los posibles riesgos y desafíos, como los sesgos algo-rítmicos y la privacidad de los datos. La cooperación entre los gobiernos, la sociedad civil, los investigadores y los desarrolladores será clave para asegurar que la IA se utilice de manera efectiva y responsable en benefcio de la democracia.
Respecto de la utilización de la inteligencia artifcial en el desarrollo de servicios estatales, varios benefcios traen estas nuevas tecnologías: i) La efciencia en la pres-tación de los servicios, en tanto y en cuanto puede automatizar procesos y reducir el tiempo y los costos asociados con los servicios gubernamentales; ii) La calidad de servicio con respuestas más precisas y rápidas a las solicitudes de los ciudadanos; iii) La toma de decisiones, pues con la información y análisis de datos a su disposición, tanto las entidades públicas como los ciudadanos pueden arribar a conseguir respues-tas y decisiones; iv) La apertura de nuevas vías de comunicación e interacción con los ciudadanos y los usuarios de los servicios públicos.
Con todo, la inteligencia artifcial también genera desafíos y preocupaciones, tales como inquietudes y prejuicios de privacidad y seguridad, especialmente en áreas que implican la recopilación y el análisis de datos personales, reparos respecto de la falta de transparencia en la medida en que puede ser opaca u oscura en términos de cómo toma decisiones y puede ser difícil para los ciudadanos su comprensión, así como generar prevenciones de confanza en las decisiones tomadas por la inteligencia artifcial.
Como lo describió Fernando Filgueiras el estado actual de la técnica de aplicación de las tecnologías de IA en la esfera pública presenta varios retos, pues "Es impor-tante comprender que la tecnología de IA no cambia un conjunto de problemas. Las decisiones en los servicios públicos y las políticas siguen siendo un trabajo ritualista con mensajes ambiguos que generan interpretaciones confictivas (Zahariadis, 2016). Lo que se ha hecho evidente es que, si bien los algoritmos automatizan el proceso de decisión, también crean un nuevo orden de problemas. Los algoritmos producen y contribuyen a varias formas de injusticia, incluidos los prejuicios raciales o de género (Benjamin, 2019; Noble, 2018), formas de colonialismo de datos (Couldry y Mejias, 2019) y la producción de nuevas desigualdades (Eubanks, 2018; O'Neil, 2016). Por ejemplo, la aplicación de la IA a los grados "A-level" en Inglaterra y Es-cocia generó resultados controvertidos al examinar a los estudiantes para la admisión a la universidad. Los resultados dieron lugar a interpretaciones contradictorias que resultaron con el público exigiendo disculpas al gobierno y un enfoque alternativo del Departamento de Educación para que las universidades fexibilizaran el examen (Pagnamenta, 2020)"26.
De otro lado, importa también destacar cómo la inteligencia artifcial, cada vez más presente en la vida contemporánea está llamando la atención de los Estados, dada su presencia e impacto en la sociedad, en la economía y en la vida de las per-sonas, hasta el punto que veintiocho países, entre ellos Estados Unidos, China, y los miembros de la Unión Europea, frmaron en Buckinghamshire (Inglaterra) el pri-mero de noviembre de 2023 la Declaración de Bletchley, con ocasión de la cumbre AI Safety Summit, con el propósito de lograr un desarrollo seguro y responsable de la Inteligencia Artifcial (IA)27. Los participantes coincidieron en los potenciales ries-gos del indebido uso de la inteligencia artifcial, particularmente en asuntos comola seguridad nacional y los procesos electorales que próximamente se llevarán a cabo en varios países.
En esta cumbre, los países coincidieron en preocupaciones respecto del uso inde-bido e intencional de la IA, así como en consecuencias de su utilización inadecuada en ámbitos tales como la ciberseguridad, biotecnología y desinformación. Fueron destacadas las intervenciones respecto de la necesidad de profundizar en la compren-sión y atención de los potenciales y riesgos de esta herramienta tecnológica, como también acordaron trabajar conjuntamente para apoyar una red científca sobre la seguridad de la inteligencia artifcial. Los países participantes dispusieron reuniones presenciales, que inicialmente se llevarán a cabo en Corea del Sur y luego en Francia.
Entre las expresiones de la declaración, se pueden destacar las siguientes afr-maciones: "La Inteligencia Artifcial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prospe-ridad. Para lograr esto, afrmamos que, por el bien de todas las personas, la IA debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confable y responsable. Acogemos con beneplácito los esfuerzos de la comunidad internacional hasta ahora para cooperar en materia de IA para promover el crecimiento económico inclusivo, el desarrollo sostenible y la innovación, proteger los derechos humanos y las libertades fundamentales y fomentar la confanza pública en los sistemas de IA para realizar plenamente su potencial. Los sistemas de IA ya están implementados en muchos ámbitos de la vida diaria, incluidos la vivienda, el empleo, el transporte, la educación, la salud, la accesibilidad y la justicia, y es probable que su uso aumente. Reconocemos que este es, por lo tanto, un momento único para actuar y afrmar la necesidad de que el desarrollo seguro de la IA y de que las oportunidades transformadoras de la IA se utilicen para bien y para todos, de manera inclusiva en nuestros países y a nivel mundial. Esto incluye servicios públicos como salud y educación, seguridad alimentaria, ciencia, energía limpia, biodiversidad y clima, para hacer realidad el disfrute de los derechos humanos y fortalecer los es-fuerzos para lograr los Objetivos de Desarrollo Sostenible de las Naciones Unidas"28.
Finalmente, resulta importante no perder de vista las limitaciones actuales de la inteligencia artifcial. La IA sabe computar grandes cantidades de datos y proyectar patrones del pasado al futuro, pero no es capaz de identifcar patrones nuevos. Tam-poco es capaz de discernir o dar sentido a una experiencia, como lo señaló el profesor de la Universidad de Toronto John Vervaeke, Lillicrap y Richards, en su trabajo en "Relevance Realization and the Emerging Framework in Cognitive Science"29. En este senti-do, falta hoy todavía mucho camino para lograr que la IA alcance las habilidades delcerebro humano, particularmente en la toma de decisiones complejas en los diferen-tes campos de acción del hombre, que incorporan ingredientes no racionales, como los afectivos o actitudinales, que son emociones humanas que no puede entender una máquina -por lo menos hasta el presente-. En este sentido, es importante destacar las opiniones de Jacob Browning y Yann Lecun con ocasión de las limitaciones de las máquinas y la IA con relación al lenguaje, particularmente en lo que tiene que ver con la comunicación no verbal, o los variados modismos que pueden tener las lenguas en estos momentos, sin desconocer los avances que ha tenido la inteligencia artifcial sobre todo en la búsqueda y procesamiento de datos30. Con todo, resulta muy difícil predecir hoy los avances de la IA en el futuro, sobre todo por la velocidad de los hitos y descubrimientos que va teniendo en todo el mundo.
V. CONCLUSIONES
Primera: Los avances tecnológicos de las últimas cuatro décadas han variado el escenario social, económico y político de la humanidad, y gracias a las nuevas herra-mientas electrónicas y al mejoramiento de la conectividad, las personas cuentan con mayores y efcaces medios de comunicación e interacción.
Segunda: La inteligencia artifcial, como aquella especialidad de la tecnología di-rigida al desarrollo de máquinas y mecanismos dirigidos a emular la mente humana, está abriendo una nueva puerta para atender las necesidades individuales y colectivas, siendo algunas de ellas la identidad digital, sistemas electorales e interacción entre los particulares y el Estado, pero conlleva también indudables peligros y amenazas que deben ser analizados a la par que el propio desenvolvimiento tecnológico.
Tercera: La democracia, como sistema político, ha migrado a un nuevo estadio, aquel de la democracia digital, en el que ya no solo intervienen los ciudadanos sino todos aquellos que cuenten con teléfonos móviles, tabletas y computadores, quienes participan en la vida política ya no sólo a través de los mecanismos de participación ciudadana, sino también mediante las redes sociales, con alto impacto en la vida ins-titucional de las naciones. En este nuevo escenario democrático, la IA deberá tenerun protagonismo importante, para diseñar y operar mecanismos que faciliten la de-puración de la desinformación que afecta la actividad política y electoral, y controlar la manipulación que pueda intentarse por medio de diferentes mecanismos, como las deep fakes y el envío de información maliciosa para variar el sentido del voto.
Cuarta: Este nuevo contexto, que indudablemente genera mayores oportunida-des económicas y sociales de alto benefcio para las comunidades, trae consigo tam-bién graves riesgos de afectación para la convivencia humana y desafíos que deben ser enfrentados por los diferentes actores públicos y privados. Es una tarea de todos, impostergable y urgente en la actualidad, para neutralizar las posibles y graves afec-taciones que podría generar en la vida institucional de la sociedad contemporánea.
References
BIBLIOGRAFÍA Boden, Margaret A. (2017), Inteligencia artifcial, Editorial Turner, Madrid. Filgueiras, Fernando (2021), "Inteligencia artifcial en la administración pública: ambigüedades y elección de sistemas de IA y desafíos de gobernanza digital, en Revista del CLAD Reforma y Democracia. No. 79, Marzo 2021, págs. 5-38. Recu-perado de: https://clad.org/wp-content/uploads/2022/03/079-01-F-1.pdf
García Marcos, Julián (2023), "Inteligencia artifcial. Reglamento del Parlamen-to Europeo y del Consejo por el que se establecen normas armonizadoras en ma-teria de inteligencia artifcial", en Velasco Núñez, Eloy (Ed.), Marco normativo de la UE para la transformación digital, Editorial La Ley, Madrid Guillén, Thais (2023), en el Blog Signifcat, "¿Cómo funciona el reconocimiento facial? Tecnología facial", Recuperado de: https://www.electronicid.eu/es/blog/ post/como-funciona-reconocimiento-facial/es
Habermas, Jürgen (2016), En la espiral de la tecnocracia, Editorial Trotta, Madrid. Lee, Kai-Fu (2021), Superpotencias de la inteligencia artifcial, Ediciones Deusto, Barcelona. Magallón Rosa, Raúl (2023), Updating News, Ediciones Pirámide, Madrid
Matich, Damián Jorge (2001), Redes neuronales: Conceptos Básicos y Aplicaciones., Universidad Tecnológica Nacional - Facultad Regional Rosario. Recuperado de: https://www.frro.utn.edu.ar/repositorio/catedras/quimica/5_anio/orientado-ra1/monograias/matich-redesneuronales.pdf McGilchrist, Iain (2012), The Master and His Emissary: The Divided Brain and the Making of the Western World, Yale University Press.
Mira Mira, José (2008), "Aspectos conceptuales de la Inteligencia Artifcial y la Ingeniería del Conocimiento", en Marín Morales, Roque Luis; Palma Méndez, José Tomás y Marín Morales, Roque (eds.) Inteligencia artifcial: técnicas, métodos y aplicaciones, Editorial McGraw-Hill, Madrid, págs. 3-28 Nowotny, Helga (2022), La fe en la inteligencia artifcial, Galaxia Gutenberg, Barcelona.
Ortega y Gasset, José (1966), La rebelión de las masas, Editorial El arquero Revista de Occidente, Madrid Palma, Jose T. y Marín Morales, Roque (Editores) (2008), Inteligencia artifcial -Técnicas, métodos y aplicaciones, Editorial McGraw-Hill, Madrid.
Toffler, Alvin (1980), La Tercera Ola, Plaza & Janes, Barcelona. Turing, Alain M. (1950), "Computing Machinery and Intelligence", en Mind, New Series, Vol. 59, No. 236 (Oct.), pp. 433-460. Oxford University Press on behalf of the Mind Association. Recuperado de: http://www.jstor.org/sta-ble/2251299
Velasco Nuñez, Eloy (editor) (2023), Marco normativo de la UE para la transforma-ción digital, La Ley Soluciones Legales S.A., Madrid. Vervaeke, John; Lillicrap, Timothy P.; Richards, Blake A. (2009), "Relevance Realization and the Emerging Framework in Cognitive Science", en Journal of Logic and Computation Advance Access, Volume 22, Issue 1, publicado en 2009 e incluido posteriormente en febrero 2012, págs. 79-99, DOI: https://doi.org/10.1093/ logcom/exp067
Footnote
