Por Claudia Awad, abogado | OPINIÓN
En la reciente cumbre del G7 en Évian, el presidente Macron advirtió sobre la amenaza que representaría para la ciberseguridad y las sociedades democráticas que los modelos avanzados de inteligencia artificial cayeran en manos de regímenes autoritarios. Como respuesta, propuso la creación de una plataforma de cooperación entre democracias para establecer estándares comunes en la regulación de la IA.
La iniciativa no solo suena razonable: es urgente que se tomen medidas políticas para regular la inteligencia artificial, especialmente donde existen vacíos legales. El problema es que la propuesta deja abiertas preguntas que, por el momento, no tienen respuesta.
¿Son acaso solo los regímenes autoritarios capaces de controlar a sus ciudadanos? ¿Una democracia estaría inmune a ese riesgo? Y más inquietante aún: Macron parece asumir que un país democrático lo seguirá siendo indefinidamente. ¿Qué ocurre si una democracia deja de serlo, y ese régimen ya tiene acceso a los modelos más avanzados de IA? Al mismo tiempo, su propia advertencia reconoce algo que pocos quieren decir en voz alta: con el avance de la inteligencia artificial, el control de la población se vuelve cada vez más fácil, y más tentador.
Conviene detenerse en este punto. La democracia occidental tiene entre sus antecedentes intelectuales a Thomas Hobbes, filósofo inglés que vivió en medio de la guerra civil de su país en el siglo XVII. Esa experiencia lo llevó a una conclusión que con el tiempo contribuyó a dar forma a la idea moderna de Estado: el hombre es un lobo para el hombre, y la única manera de evitar la guerra de todos contra todos es creando un poder lo suficientemente grande para garantizar seguridad. A ese poder lo llamó Leviatán, en alusión al monstruo bíblico. El precio de esa seguridad es entregar una parte de nuestra libertad. A cambio, podemos vivir, trabajar y sostener a nuestra familia.
El pacto suena razonable. Pero observemos lo que ocurre hoy en muchas democracias: la violencia aumenta, la inseguridad crece —o al menos la percepción de ella— y el Estado falla con cierta frecuencia en la prevención y persecución del delito. Frente al miedo, los ciudadanos comienzan a pedirle exactamente lo que Hobbes prometía: orden y seguridad.
El problema es que en un mundo donde la inteligencia artificial se desarrolla a velocidad sin precedentes, esa demanda puede convertirse en una puerta abierta a algo mucho más peligroso. La recolección de datos personales ha alcanzado una escala escalofriante: hoy es posible saber en tiempo real dónde estamos, qué hacemos, con quién, qué compramos, cuáles son nuestras preferencias, nuestras emociones, lo que sentimos. Como señala Pablo Muñoz Iturrieta, la influencia que ejercen sobre nosotros las plataformas digitales y la inteligencia artificial no es solo predictiva sino directiva: pueden saber lo que vamos a decidir incluso antes de que nosotros mismos lo sepamos.
Una pequeña muestra de esto vimos en 2020. Con el objetivo de frenar el contagio, se ordenó en gran parte del mundo –en regímenes democráticos y autoritarios– el encierro no solo de los enfermos, sino también de los sanos. Nadie hubiera imaginado eso posible años antes. Si ese mismo principio se aplica en materia de seguridad, la lógica es igual de perturbadora: para prevenir delitos, grabamos no solo a los delincuentes sino a todos; para seguir la ruta del dinero sucio, controlamos las cuentas de la gente honesta; para anticipar amenazas, monitoreamos conversaciones privadas. Y así, paso a paso, sin que nadie lo decrete formalmente, vamos construyendo al Gran Hermano que Orwell describió. Todo esto puede ocurrir, y de hecho ocurre, en democracias perfectamente funcionales.
Y si a ese monitoreo constante le sumamos la capacidad de condicionar beneficios sociales, acceso a servicios o libertades básicas según el comportamiento de cada ciudadano, el escenario que emerge no es ciencia ficción. Es una posibilidad concreta, técnicamente disponible, que ya se practica en algunas latitudes.
Macron parece creer que el problema se resuelve reservando el acceso a la IA avanzada para el club de las democracias, como si la tecnología fuera un privilegio que los buenos deben proteger de los malos. Es una visión ingenua. Los regímenes que hoy calificamos de autoritarios no están esperando una invitación para desarrollar sus propias capacidades tecnológicas.
El verdadero debate no es quién tiene acceso a la IA. Es qué vamos a permitir que se haga con ella. Qué queremos construir, y qué estamos dispuestos a defender que no se construya. Porque la amenaza más seria a veces viene envuelta en la promesa del orden.
Más vale tener claro lo que queremos cambiar. Pero más importante aún es tener absoluta certeza de lo que queremos conservar.
