Abierto el debate sobre el papel de la IA en la calidad democrática

El debate sobre los retos y oportunidades que abre la inteligencia artificial (IA) para la calidad democrática centró ayer el encuentro celebrado en la UPNA en el marco de las primeras jornadas sobre Tecnología, Democracia y Sociedad, organizadas por I-Communitas, instituto que impulsa la investigación en Humanidades y Ciencias Sociales.

Participaron, entre otros, Patrici Calvo, profesor de Filosofía Moral en la Universidad Jaume I; Antonio Rodríguez, director del CITI Navarra; Txetxu Ausín, director del Instituto de Filosofía del CSIC; y Sergio García-Magariño, profesor de Ciencia Política e investigador de I-Communitas.

Las jornadas partían de un diagnóstico compartido: el creciente descontento de la ciudadanía con actual funcionamiento de la democracia. A partir de ahí se planteaban dos preguntas de fondo: qué podemos hacer para cuidar, sostener y mejorar nuestros sistemas democráticos, y qué papel juega -o debería jugar- la IA en ese proceso.

Como explicó Calvo, la IA está «más que integrada» en distintos sistemas políticos del mundo. Entre los ejemplos que citó, mencionó que en Albania se ha presentado a Daniella, la primera ministra algorítmica; y que en Rusia, Dinamarca y EEUU son varios los candidatos que han intentado postularse para alcaldías y presidencias fruto de la IA generativa. También recordó un caso más sutil, pero significativo: un ministro sueco admitió que contrasta todas sus decisiones con ChatGPT y que, en ocasiones, ha llegado a tomarlas en función de sus respuestas.

En este debate sobre la renovación democrática quedó claro que no son pocos quienes apuestan por lo que llaman «democracia autodidacta». Según los datos presentados, en Europa una de cada cuatro personas defiende ya un modelo que se fundamenta y se sostiene en la IA, y no en la opinión pública ni en la ciudadanía. Quienes la apoyan lo hacen apelando a la supuesta objetividad, neutralidad y racionalidad de la IA, frente a una «obsolescencia humana» marcada por una capacidad limitada para procesar información y por la influencia inevitable de las emociones y los sesgos.

Sin embargo, aunque reconocen el potencial que puede aportar la integración de algoritmos y de la IA en distintas tareas y procesos de innovación, los ponentes advirtieron del «peligro de delegar» en estos sistemas decisiones, debates y acciones que pertenecen a esferas centrales de la vida pública, como la justicia o la política. Al fin y al cabo, se trata de algoritmos difíciles de descifrar, «dentro de cajas negras», esto es, de diseño opaco, que ante resoluciones o conclusiones sospechosas, los racionamientos y justificaciones tras estas no pueden ser decodificadas.

Además, los algoritmos no dejan de ser sistemas diseñados por seres humanos y, por tanto, pueden -y suelen- incorporar sesgos alineados con determinados intereses. Calvo citó como ejemplo el algoritmo de X, antes Twitter, bajo el control de Elon Musk.

En la misma línea, el profesor García-Magariño recordó que «la tecnología no es neutra» y que «cada dispositivo tecnológico tiene valores insertados», por lo que, cuando estos se usan masivamente. «transforman la cultura sin que haya ninguna decisión previa acerca de los cambios culturales que queremos experimentar».

UN DEBATE URGENTE

Por ello, el profesor de la UPNA insistió en que uno de los grandes retos pasa por «tomarse en serio la IA y no limitarse a observar la tecnología desde fuera, como simples críticos». Así, subrayó la «necesidad y la oportunidad de crear equipos multidisciplinares desde el propio diseño de las tecnologías y de la IA para poder hacer investigación social aprovechando lo mejor de las herramientas tecnológicas disponibles».

Las jornadas concluyeron reafirmando la necesidad de afrontar el debate sobre cómo, -pero, sobre todo, dónde- queremos integrar la IA y los algoritmos para la mejora de los sistemas democráticos, siendo conscientes de que, en la actualidad, esta tecnología ya condiciona y actúa en la esfera pública como un actor tan importante como son los medios de comunicación. Y sin duda alguna bajo la idea de que esta no puede sustituir el diálogo social y la deliberación entre la ciudadanía.