Siguiendo con el tema del otro día, tenemos que mirar bien esa leyenda que dice que existe una neutralidad en los algoritmos. Decíamos que existe la posibilidad de que los algoritmos tomen decisiones políticas y que esto presentaría un problema para la democracia. En una democracia debe de existir un debate ante un conflicto, no soluciones basadas en anticiparse al futuro a partir de patrones y estadísticas que siempre son sobre hechos pasados, olvidándose y negando la opción no siempre predecible de la libertad humana. Cómo decía ayer: el dialogo sería desplazado por la predicción.
Una democracia no es solo una forma de detectar las preferencias de las personas, sino que se trata también de un lugar donde esas preferencias pueden acomodarse o transformarse. Si existen desigualdades ya establecidas en el tiempo y la decisión de cómo solucionarlas la basamos en predicciones y estadísticas, vamos a correr el riesgo de que afectaran de manera desigual a los sectores más vulnerables, bajo la apariencia de una neutralidad técnica.
Muchas personas afirman que los algoritmos están libres de prejuicios y que son objetivos. Pero unos datos por sí solos no dicen nada. Tienen que ser seleccionados, organizados y analizados según criterios que siempre responden a intereses, a prioridades y a unas normas que ya se han establecido. Es más, el aprendizaje informático se hace dentro de unas reglas diseñadas por alguien. Esa supuesta neutralidad no es otra cosa que una forma elegante de tener tomada ya una decisión.
Da la casualidad de que cuanto más complicados y complejos se convierten estos sistemas informáticos, más difícil nos resulta saber desde donde se ejerce el poder. La dominación ya no tiene que darse a conocer mediante ir dando órdenes y dictar prohibiciones, sino que se puede dar mediante una discreta forma de recomendaciones, y de optimizaciones. Ya no hace falta que se nos obligue, sino que se nos oriente. Y es precisamente esa orientación, por su carácter técnico, tiende a parecernos natural como si fuese una decisión política.
Ante el problema anterior, se puede decir, y de hecho se nos dice, que con un buen nivel de transparencia ese problema estaría resuelto. Pero esto no es suficiente ya que no toda transparencia es políticamente relevante, ni toda opacidad es antidemocrática. Que conozca el código de un sistema no me garantiza que comprenda su impacto social ni posibilita un control democrático efectivo.
La cuestión no es que hacer para regular el poder de la inteligencia artificial, sino que hacer para añadirla en la cadena de legitimidad democrática. Cuando ponemos en acción sistemas que aprenden y se adaptan, ¿quién asume la representación? ¿Cómo se mantiene la igualdad cuando las decisiones son personalizadas? ¿Qué ocurre con la deliberación cuando las preferencias son moldeadas antes de que lleguen a expresarse públicamente?
La IA en el momento en que se utiliza para crear normas, organizar comportamientos y condicionar expectativas no puede ser pensada como algo fuera de la política. Para regularla no hay que imponer límites técnicos, sino preparar a las instituciones para que sean capaces de integrar toda esa tecnología sin tener que renunciar al autogobierno.
Es posible que el peligro más grande de la IA no sea que nos domine, sino algo más sutil: que vayamos poco a poco renunciando a decidir. Automatizar una administración no es solo delegar tareas; es aceptar sin darnos cuenta de que ciertas decisiones ya no merecen deliberación humana porque el sistema “lo hace mejor”. Esta lógica puede ser razonable en ámbitos técnicos específicos, pero se vuelve problemática cuando se extiende a decisiones que involucran valores y derechos humanos. Si nadie decide, nadie responde.
Tal vez nuestro problema con la IA y su relación con la democracia no se encuentra en que deleguemos tareas en las maquinas, sino que ya no nos preguntemos por los motivos por los que hemos elegido unos fines determinados. Y es que cuando la optimización sustituye al juicio, la política se va debilitando sin que necesariamente lo notemos y esa debilidad no es un problema técnico, es una forma de renuncia. Renunciar a pensar y decidir.
No hay comentarios:
Publicar un comentario