¿Qué pasa con la democracia? Inteligencia artificial, jueces y soberanía

El jueves 8 de octubre participamos del conversatorio «¿Qué pasa con la democracia en la era de la IA?», la tercera charla del ciclo sobre inteligencia artificial que organizan el colectivo periodístico Ornitorrinco y la Fundación Rosa Luxemburgo, en la sede de la fundación en Buenos Aires.

Moderada por el periodista Gerardo Abram, de Ornitorrinco, la mesa reunió a:

• Ana Slimovich, doctora en Ciencias Sociales e investigadora del CONICET en el Instituto Gino Germani (UBA), especialista en discurso político en redes sociales.
• Enrique Chaparro, matemático, especialista en seguridad de la información y expresidente de la Fundación Vía Libre.
• Tomás Pomar, presidente de ODIA y docente de Justicia Digital en la Facultad de Derecho de la UBA.

La charla completa está disponible en el canal de YouTube de la Fundación Rosa Luxemburgo.

¿Quién le pone el cascabel al gato?

Chaparro abrió explicando qué es, y qué no es, un modelo de inteligencia artificial generativa: un sistema probabilístico que produce textos sintácticamente perfectos sin comprender lo que dice. Hablar de que las máquinas «alucinan», agregamos nosotros, no es sólo una tendencia humana a antropomorfizar: también es una estrategia de marketing que facilita la adopción y diluye la responsabilidad de las empresas.

Ante la pregunta sobre quién responde cuando una IA da información falsa o toma una decisión equivocada, planteamos que la pregunta de fondo es otra: quién le pone el cascabel al gato. ¿Dónde va a denunciar una persona un daño causado por un sistema desarrollado en Palo Alto? Para nosotros, la respuesta pasa por garantizar el control judicial efectivo por parte de los jueces locales. Por eso solemos decir que el destinatario de la ley no es la ciudadanía, sino quien la aplica todos los días: el juez que tiene que dictar sentencia.

En esa línea destacamos los fallos recientes de la Corte Suprema en las causas C., F. c. Facebook Argentina y Quinteros c. Facebook Argentina. En nuestra lectura, dejan sin sustento la defensa de que la filial local «sólo vende publicidad» y que hay que demandar a la empresa en Estados Unidos. Brasil mostró otro camino posible frente a X: correr el velo societario y trabar las cuentas de la filial local. Cuando se toca la billetera, las empresas se presentan a cumplir.

Más que nuevas leyes, aplicar las que tenemos

Discutimos el argumento, repetido por las grandes tecnológicas, de que regular mata la innovación. La historia de la industria farmacéutica, con décadas de regulación, ensayos de doble ciego y reglas estrictas, muestra lo contrario.

Pero también advertimos sobre el reflejo de pedir una nueva ley ante cada problema tecnológico. Muchas respuestas ya están en el derecho vigente: el deber de información al consumidor, la reparación por defectos de un producto, los recalls que existen en la industria automotriz y las garantías constitucionales. El desafío es llevar esos principios a los tribunales y hacerlos exigibles.

También hay intervenciones pequeñas, «moleculares», que pueden cambiar la vida de muchas personas. Cuando el Banco Central eliminó las comisiones por transferencias, una sola resolución resolvió un problema enorme. Del mismo modo, nos preguntamos si tiene sentido que una aplicación otorgue créditos a cualquier hora de la madrugada cuando los sistemas financieros siempre tuvieron horarios.

La regulación no se discute en el vacío

Retomando una idea de Carlos Cárcova sobre el «efecto paradojal del derecho», planteamos que hay que tener cuidado cuando desde la sociedad civil se piden nuevas regulaciones. Fuera del derecho penal, una ley puede terminar encorsetando la aplicación directa de principios constitucionales por parte de los jueces. Y cuando se abre una discusión regulatoria, entran todos: también los actores con más poder para influir sobre legisladores, organismos de control y tribunales especializados.

Por eso nos interesa el control difuso de constitucionalidad: con jueces y juezas en todas las provincias, la superficie que las empresas necesitarían controlar es mucho más grande. El desafío es construir buenas causas para esos magistrados.

Lo mismo vale para la protección de datos. La ley 25.326 no nació como una preocupación abstracta por la privacidad, sino como una respuesta concreta a los abusos de los bancos privados de información crediticia, como el Veraz. Si hoy se reabre esa discusión, hay que tener presente el poder político que tienen plataformas como Mercado Libre, Meta o Google para empujar una ley a su medida, como analizamos en nuestras observaciones al nuevo proyecto de ley de datos personales.

Soberanía informática: ¿frente a quién?

Ante las dudas de Chaparro sobre si es posible pensar la soberanía en términos de territorio cuando la información fluye por redes globales, sostuvimos que la soberanía informática es posible, pero que no se construye desde una idea ingenua de «hacer las cosas bien». Requiere definir frente a quién y para qué se construye.

Como ejemplo volvimos al caso de los Países Bajos, donde el gobierno prohibió la venta de Solvinity, proveedora crítica de su sistema de identidad digital DigiD, a la estadounidense Kyndryl. No había migración de datos en juego: lo decisivo fue que una capacidad estratégica quedaba bajo la jurisdicción de los jueces estadounidenses a través de la CLOUD Act. También recordamos que Estados Unidos protegió históricamente sectores estratégicos, como el transporte fluvial con la Ley Jones, mientras promueve el libre mercado hacia afuera.

Frente a la llamada «guerra cognitiva», que la moderación trajo a la conversación, planteamos que la disputa por el sentido no es nueva y que no sirve correrse a un lugar pacifista: hay que dar esa disputa. Y para eso necesitamos conocer las herramientas a nuestra escala. Hoy existen, por ejemplo, centros de datos modulares y redundantes a un costo accesible para un municipio. Discutir soberanía también es dejar de pensar que la tecnología siempre se produce en el norte y que acá sólo podemos ser espectadores o víctimas.

Agradecemos a Ornitorrinco y a la Fundación Rosa Luxemburgo por la invitación, y a Ana Slimovich y Enrique Chaparro por el intercambio.