Un organismo global para auditar la inteligencia artificial: la propuesta que Bill Gates puso sobre la mesa esta semana

Un total de 71.428 millones de dólares es lo que Microsoft destina por año a investigación y desarrollo en inteligencia artificial, según los últimos balances de la compañía. Sobre esa base se entiende la magnitud del debate que su cofundador, Bill Gates, reavivó esta semana con la publicación de un documento que propone crear un organismo supranacional con facultades para auditar sistemas de inteligencia artificial en todo el mundo.

Tres regímenes existentes como modelo

Según la propuesta, titulada en inglés A Plan for Global Oversight of AI y difundida el lunes 22 de septiembre, ese eventual organismo debería tomar elementos de tres marcos regulatorios que ya funcionan en otros tantos terrenos. El primero es el régimen de inspecciones nucleares, que desde la década de 1970 somete a verificación internacional las instalaciones atómicas civiles. El segundo es el sistema de estándares de seguridad de la aviación civil, administrado por la Organización de Aviación Civil Internacional, que fija normas técnicas obligatorias para los países miembros. El tercero son los acuerdos multilaterales que frenaron el deterioro de la capa de ozono, en particular el Protocolo de Montreal de 1987, que logró la adhesión de prácticamente todos los países del planeta.

Gates no especificó en el texto qué institución existente debería ampliarse ni cuál debería crearse desde cero, pero dejó una condición explícita: la cooperación entre Estados Unidos y China resulta indispensable para que la iniciativa tenga credibilidad internacional.

La apuesta por China y el encuentro pendiente con Xi Jinping

En esa dirección, el equipo de Gates trabaja para concretar un encuentro con el presidente chino, previsto de manera provisoria para noviembre. El encuentro no está confirmado, según aclararon voceros cercanos al cofundador de Microsoft. La lógica de la apuesta es concreta: si Estados Unidos toma primero la iniciativa para establecer restricciones sobre ciertos modelos, China podría sumarse. Una vez que los dos países más poderosos del mundo acuerden un piso común, el resto del planeta adoptaría el mismo marco.

“El mundo entero se sumaría a esa iniciativa.”Bill Gates, cofundador de Microsoft

Qué regular y qué no: el caso de los agentes biológicos

Entre las áreas que la futura arquitectura regulatoria debería cubrir, Gates destacó los sistemas capaces de diseñar moléculas o de facilitar ataques biológicos, es decir, herramientas de inteligencia artificial orientadas a la biología sintética y al diseño de agentes patógenos. Aclaró que supervisar esas capacidades no equivale a frenar industrias enteras: la vigilancia podría limitarse a los usos de mayor riesgo sin bloquear aplicaciones médicas o científicas, que en muchos casos dependen de los mismos modelos.

Las medidas económicas que el documento propone

Las propuestas incluyen también dos medidas de orden económico que exceden el terreno regulatorio. La primera es la creación de un impuesto sobre los ingresos de las empresas que reemplacen trabajadores con resultados generados por inteligencia artificial; el objetivo declarado es financiar redes de protección social para los trabajadores desplazados. La segunda es la reserva de hasta un 40 por ciento de los puestos de trabajo actuales para personas, en aquellos sectores donde el vínculo humano sea considerado irremplazable. Gates utilizó como ejemplo la atención que recibió su padre durante su enfermedad de Alzheimer: una tarea de cuidado que, según sostuvo, ninguna máquina debería reemplazar.

Los límites que Gates quiere imponer a la propia industria

Sobre los márgenes de la autorregulación, Gates fue directo: reconoció como positivo que varias empresas del sector estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero sostuvo que no corresponde esperar que sean ellas quienes lideren el proceso. Agregó que buena parte de los problemas en juego exceden la especialización técnica de las compañías y que, en una industria concentrada en pocas firmas, la lógica comercial no siempre coincide con el interés público.

Lo que todavía no se sabe

A la espera del desenlace de la reunión con Xi Jinping y de la reacción de los principales regulatorias, quedan sin respuesta varias preguntas clave: qué organismo internacional sería el encargado de coordinar las auditorías, con qué presupuesto contaría, cómo se financiaría el gravamen sobre los ingresos de las empresas que reemplacen trabajadores y qué criterios definirían los sectores alcanzados por la reserva del 40 por ciento de los puestos. Tampoco está definido cómo se articularía la nueva arquitectura con los marcos regulatorios que la Unión Europea y Estados Unidos ya están poniendo en marcha por separado.