La advertencia del MI5 que nos obliga a mirar de cerca lo que hacemos con la inteligencia artificial

A esta altura, cuando uno se sienta en la mesa de cualquier barrio porteño y empieza a preguntar qué piensa la gente sobre la inteligencia artificial, las respuestas van de las casi todas. Hay quienes la miran con recelo, hay quienes ya no pueden vivir sin ella y hay quienes, como Marta, una señora de 54 años que atiende un kiosco de ramos generales en Lanús, me dijo hace unos días sin pensarlo demasiado: "Yo le tengo miedo a eso, porque no sabés quién está del otro lado de la pantalla". Esa frase, casi de paso,resume mucho de lo que está pasando en el mundo: una tecnología que avanza tan rápido que nos cuesta dimensionar hasta dónde puede llegar, para bien y para mal.

Y es precisamente de ese "para mal" que se ocupa la advertencia que hizo público en las últimas horas el director general del MI5, el servicio de inteligencia interior del Reino Unido, Ken McCallum. En su análisis anual de amenazas, McCallum dejó una frase que sacudió a más de un funcionario europeo: "La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores". Lo que dice, en criollo, es que la misma herramienta que usamos para traducir un texto o pedir una receta también puede servir para que grupos terroristas o delincuentes accedan a información científica compleja que antes les estaba vedada.

De qué nos hablar cuando hablamos de armas biológicas e IA

La preocupación concreta que señaló el jefe del MI5 no es abstracta ni futurista. Va mucho más allá de la idea genérica de que "la IA es peligrosa". Lo que él describió es que actores maliciosos podrían usar estas herramientas para acceder a conocimientos sobre patógenos, sobre cómo se manipulan en un laboratorio y sobre cómo podrían eventualmente ser utilizados como armas. Es decir, información que hoy está disponible en papers académicos, en publicaciones científicas abiertas, en bases de datos de acceso público, pero que requiere años de formación para entenderla y, sobre todo, para saber qué hacer con ella.

Hasta hace poco, esa barrera de conocimiento era, en la práctica, una de las defensas más importantes. No alcanza con tener acceso a un paper si no entendés lo que estás leyendo ni podés replicar lo que dice. Pero la inteligencia artificial cambia esa ecuación, porque puede actuar como un traductor permanente entre el lenguaje técnico y alguien que, sin ser científico, tenga la intención clara de hacer daño. Es lo que en el lenguaje de inteligencia se conoce como una "reducción de la barrera de entrada", y es exactamente lo que preocupa a McCallum.

Un centro nuevo para mirar de cerca lo que viene

Junto con la advertencia, el MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA. No es un laboratorio para desarrollar herramientas, sino un equipo dedicado a estudiar, justamente, dónde están los riesgos y dónde están las oportunidades de esta tecnología en materia de seguridad nacional. En sus propias palabras, McCallum dijo que dedica una parte significativa de su trabajo a tratar de anticiparse a lo que se viene, y que la idea es posicionarse en la vanguardia de esos cambios antes de que los riesgos se materialicen.

En otras palabras, en lugar de esperar a que ocurra un ataque para reaccionar, el servicio de inteligencia británico decidió armar un equipo especializado que mire permanentemente hacia adelante. Es un cambio de enfoque que, según explican los especialistas en seguridad consultados en el fondo, varias agencias de inteligencia occidentales ya están empezando a copiar, aunque no todas lo hacen con la misma transparencia con la que lo hizo el MI5.

El contexto: cuando lo peligroso se vuelve accesible

La advertencia del MI5 no cae en el vacío. Llega en un momento en que las herramientas de inteligencia artificial se volvieron accesibles para usuarios sin formación técnica especializada. Lo que antes requería un equipo de programadores, hoy se consigue con una suscripción mensual y una conexión a internet. Esa democratización es, en gran parte, lo que hace que la IA sea tan útil para la medicina, para la educación o para el trabajo cotidiano, pero también es lo que la convierte en un problema cuando cae en las manos equivocadas.

• Mayor accesibilidad: herramientas de IA avanzadas disponibles para cualquier usuario con conexión a internet, sin necesidad de formación técnica específica.
• Información sensible en abierto: papers académicos, bases de datos y publicaciones científicas sobre patógenos accesibles públicamente en la web.
• Reducción de la barrera de entrada: la IA puede traducir y explicar información técnica compleja a personas sin formación científica.
• Velocidad de adopción: los organismos de inteligencia observan con preocupación la rapidez con que estas herramientas se incorporan a actividades cotidianas y, eventualmente, ilícitas.

Qué pueden hacer los gobiernos

La pregunta del millón que queda flotando es qué se hace desde el Estado. Y acá no hay respuestas fáciles. Por un lado, regular en exceso puede frenar desarrollos que son beneficiosos para la ciencia, la salud y la economía. Por el otro, no regular nada deja la puerta abierta a que ocurra lo que el propio McCallum describió como escenario evitable. Mientras tanto, Marta, la del kiosco de Lanús, sigue despachando sus golosinas y cargando la SUBE de los vecinos, ajena a que en una oficina de Londres alguien está tratando de evitar que la tecnología que muchos usamos a diario termine en las manos equivocadas. Lo que sí queda claro es que, por primera vez en mucho tiempo, los servicios de inteligencia de las principales potencias están mirando a la inteligencia artificial con la misma seriedad con la que, en otras épocas, miraron a la bomba atómica. Y eso, queramos o no, también nos incluye a nosotros.