Detener una IA es posible; apagar toda la IA, no

La posibilidad de apagar una inteligencia artificial depende del entorno en el que opere y del nivel de autonomía que tenga. Un sistema de IA puede detenerse técnicamente cuando permanece bajo control de su operador, pero el proceso se vuelve más complejo cuando tiene permisos para actuar sobre otros programas, archivos, máquinas o sistemas.

La cuestión cobra relevancia ante el aumento de los incidentes de seguridad relacionados con la IA y de los temores sobre los riesgos asociados con esta tecnología. Expertos consultados por AFP señalan que no existe un único mecanismo capaz de desconectar toda la inteligencia artificial que opera en el mundo.

Qué es un “kill switch” para una inteligencia artificial

En ciberseguridad aplicada a la IA, un “kill switch” es un mecanismo que permite interrumpir las acciones de un agente de inteligencia artificial. Estos agentes son programas construidos sobre modelos de IA generativa que pueden encadenar de manera autónoma distintas tareas.

Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática e inteligencia artificial, explicó a AFP que este recurso podría activarse cuando un sistema escape del control de sus operadores y represente un riesgo para la seguridad.

La IA, recordó el investigador, sigue siendo un programa informático. Por ello, quien lo desarrolla o administra puede detener su ejecución al retirarle el acceso a la capacidad de cómputo que necesita para funcionar.

El escenario cambia si el programa tiene autorización para operar fuera del entorno en el que fue instalado. Papernot planteó el caso de un gusano informático controlado por una IA que utilizara los recursos de otros dispositivos para reproducirse.

En una situación así, detener el sistema exigiría interrumpir cada una de las copias que hubiera generado el programa, dispositivo por dispositivo.

Apagar una IA no equivale a desconectar toda la inteligencia artificial

Thierry Poibeau, director de investigación en el CNRS y especialista en IA, considera engañosa la idea de que existe un solo botón capaz de “apagar la IA”. El desarrollo y funcionamiento de estos sistemas están distribuidos entre numerosas empresas, programas y servicios.

“No hay nadie que controle la IA” en su conjunto.

Esto no significa que sea imposible detener sistemas específicos. Cuando un operador controla las máquinas y los servicios de los que depende una IA, puede interrumpir su funcionamiento.

Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur (UNSW) de Canberra, plantea en un artículo publicado en LinkedIn tres niveles de complejidad para entender este problema.

El nivel de control determina qué tan difícil es detener un sistema

En el primer nivel, el sistema permanece dentro de un entorno controlado por su operador. En ese escenario, un dispositivo de parada de emergencia es, en teoría y en la práctica, realizable.

La dificultad aumenta en el segundo nivel, cuando el agente cuenta con permisos para intervenir en otros programas, archivos o máquinas. Además de detener al agente, habría que considerar las acciones que ya puso en marcha.

El tercer nivel corresponde a sistemas capaces de extender su actividad a múltiples entornos. En ese punto, Abbass describe a la IA como un “electrón libre”: el desafío deja de consistir únicamente en apagarla y pasa a ser identificar qué elementos deben detenerse y hacerlo antes de que continúe su expansión.

Poibeau resumió este escenario con una comparación: “Una vez que se ha puesto en marcha, es un poco como un virus informático”.

Los riesgos de un interruptor de emergencia para la IA

La posibilidad de detener una inteligencia artificial también plantea problemas cuando estos sistemas forman parte de servicios utilizados de manera cotidiana. Cuanto mayor sea su integración en actividades diarias, más difícil puede resultar distinguir entre un sistema que representa un riesgo y otro que cumple una función legítima.

Papernot señaló que la creciente automatización de distintos aspectos de la vida mediante IA hará más complicado determinar qué sistema debe ser desconectado y cuál debe permanecer activo.

Una interrupción también podría afectar servicios de los que dependen empresas, administraciones o centros de salud. Por ello, desconectar la capacidad de cómputo necesaria para detener agentes de IA podría resolver una situación de pérdida de control, pero tendría costos y consecuencias negativas considerables, según el especialista.

Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, considera que el debate sobre el “kill switch” puede alimentar la idea de un “riesgo metafísico”, basado en la posibilidad de que una IA tenga voluntad propia. Para el investigador, el problema más concreto está relacionado con la creciente dependencia de la sociedad respecto de estos sistemas.

“Siempre podemos detener las máquinas”, afirmó Ganascia. Sin embargo, a medida que estos dispositivos ocupan un lugar cada vez mayor en la sociedad, “al mismo tiempo, no podemos detenerlas”.