Científicos e investigadores en ciberseguridad advierten que la creciente autonomía y la dependencia social de los sistemas complican cualquier bloqueo general
¿Es realmente posible detener en seco el funcionamiento de una inteligencia artificial si algo sale mal? En el plano estrictamente técnico, una IA puede interrumpirse con relativa facilidad mientras se encuentre confinada en un entorno controlado y cerrado. No obstante, a medida que estos programas adquieren mayor autonomía y se integran en múltiples infraestructuras de la vida diaria, el bloqueo se transforma en un desafío logístico colosal, según advierten destacados investigadores internacionales.
La inquietud cobra cada vez mayor relevancia ante la proliferación de incidentes de ciberseguridad vinculados a modelos generativos y el debate constante sobre los márgenes de seguridad tecnológica. En este contexto, el concepto de un interruptor de emergencia o “kill switch” adquiere un papel central.
“En el ámbito de la ciberseguridad vinculado con la inteligencia artificial, el ‘kill switch’ designa la capacidad de interrumpir de forma inmediata la ejecución de las acciones de un agente de IA, es decir, un programa desarrollado sobre modelos generativos capaz de encadenar tareas de forma autónoma”, explica Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática.
El límite entre el software y la propagación distribuida
Los científicos recuerdan que, en esencia, cualquier IA sigue siendo un programa informático: la organización o desarrollador que la diseñó puede detenerla en cualquier momento negándole el acceso a los centros de datos y a la potencia de cálculo indispensable para su procesamiento. Sin embargo, el panorama se agrava drásticamente cuando los agentes reciben permisos para interactuar con sistemas externos o cuando programas maliciosos potenciados por IA se replican en cascada a través de la red, como si se tratara de gusanos informáticos. En tales circunstancias, frenar la amenaza requeriría apagar simultáneamente todos y cada uno de los dispositivos alcanzados.
Para Thierry Poibeau, director de investigación en el Centro Nacional para la Investigación Científica de Francia (CNRS), la extendida imagen de un único “botón rojo” universal para apagar la IA resulta totalmente engañosa:
“No se puede cortar la IA en su conjunto de un momento a otro. Hay miles de empresas, servicios, servidores y aplicaciones distintas dispersas por todo el planeta. Nadie posee el control absoluto de la tecnología en su totalidad”, subraya Poibeau.
Tres niveles de complejidad técnica
De acuerdo con el profesor Hussein Abbass, experto en ciencias de la computación de la Universidad de Nueva Gales del Sur (UNSW), la capacidad real de desactivar un sistema de IA se divide en tres escenarios bien definidos:
- Nivel 1 (Entorno cerrado): El sistema opera exclusivamente dentro del servidor de su creador. La implementación de una parada de emergencia es práctica y teóricamente viable en segundos.
- Nivel 2 (Interacción externa): El agente informático cuenta con permisos para modificar archivos, consultar bases de datos remotas o activar otros programas. Contener sus efectos secundarios es mucho más complejo.
- Nivel 3 (Redes distribuidas): La IA actúa como un agente libre disperso en múltiples plataformas no sincronizadas. En esta fase, la prioridad técnica ya no es apagarla por completo, sino aislar los componentes críticos antes de que colapsen.
La verdadera trampa: nuestra dependencia cotidiana
Más allá de las especulaciones sobre hipotéticas máquinas fuera de control, varios expertos sitúan el peligro más inminente en la subordinación de la sociedad moderna a estas herramientas. El profesor de la Universidad de La Sorbona, Jean-Gabriel Ganascia, señala que desconectar de golpe un sistema de gran escala implicaría paralizar hospitales, administraciones públicas, cadenas de suministro y entidades financieras que ya operan automatizadas.
“Técnicamente siempre podemos apagar las máquinas cortando la energía y la computación, pero social y económicamente ya no podemos permitirnos apagarlas debido a los costos devastadores que acarrearía la desconexión”, concluye Ganascia.
