CEO de Anthropic advierte que una IA poderosa podría eludir un “interruptor de apagado”

El director ejecutivo de Anthropic, Dario Amodei, expresó su respaldo a la implementación de mecanismos que permitan desactivar o limitar sistemas de inteligencia artificial, aunque advirtió que un simple “interruptor de apagado” no sería una solución definitiva frente a modelos de IA cada vez más avanzados.

Amodei abordó el tema durante una entrevista con CBS, al ser consultado sobre un proyecto de ley impulsado por el congresista estadounidense Ted Lieu, que propone establecer un mecanismo para desactivar sistemas de inteligencia artificial en determinadas circunstancias.

El CEO de Anthropic consideró importante contar con alguna forma de “desactivar, limitar o apagar” los modelos de IA, pero aclaró que esta medida, por sí sola, no sería suficiente para enfrentar todos los riesgos asociados al desarrollo de esta tecnología.

“La idea de que necesitamos alguna forma de desactivar, limitar o apagar los modelos de IA” es importante, afirmó Amodei, aunque señaló que “no es lo único” que se necesita.

El empresario advirtió que los sistemas de inteligencia artificial suficientemente poderosos podrían encontrar la manera de eludir los mecanismos diseñados para desactivarlos.

“Si un modelo de IA es lo suficientemente poderoso, puede eludir los intentos de apagarlo. Y hemos visto eso en simulaciones también. Así que puede que no funcione en absoluto”, afirmó.

Ante este escenario, Amodei explicó que Anthropic apuesta por una estrategia conocida como “defensa en profundidad”, un modelo de gestión de riesgos basado en la existencia de múltiples capas de seguridad. Para explicar este concepto, el ejecutivo utilizó la conocida comparación del “queso suizo”.

“Imaginen una rebanada de queso suizo; bloquea algunas cosas, pero hay agujeros en el queso suizo. Pero si tomo cinco rebanadas de queso suizo y las pongo juntas, los agujeros en diferentes capas están en lugares diferentes. Y entonces es muy difícil atravesar toda la pila de queso suizo”, explicó.

Según Amodei, la seguridad de la inteligencia artificial no puede depender de un único mecanismo, sino de diferentes controles que funcionen de manera conjunta.

“No hay una sola cosa que nos proteja de los riesgos de la IA: tenemos que ser cuidadosos en todos los niveles”, enfatizó.

El director ejecutivo añadió que, aunque ninguna defensa puede garantizar una seguridad absoluta, la aplicación de múltiples medidas puede reducir los riesgos y dar más tiempo para responder ante posibles problemas.

“Ninguna defensa es perfecta, pero si estamos siendo cuidadosos en todas partes, que es lo que permitirá ganar tiempo adicional, entonces creo que las cosas pueden ir bien”, agregó.

En este contexto, Amodei también planteó la necesidad de desacelerar y controlar determinados aspectos del desarrollo de la inteligencia artificial, especialmente los procesos de entrenamiento y ejecución de los modelos más avanzados.

El debate sobre cómo regular la IA continúa creciendo en Estados Unidos y otras partes del mundo, mientras empresas, gobiernos y especialistas buscan establecer mecanismos que permitan aprovechar los beneficios de esta tecnología sin perder el control sobre sistemas cada vez más sofisticados.