La rápida evolución de la inteligencia artificial y las profundas preocupaciones manifestadas por empleados y directivos de este sector tecnológico respecto a sus riesgos para la humanidad han desencadenado un amplio debate global. Esta situación ha colocado a la industria en un punto de inflexión delicado donde colisionan aspectos legales, políticos y comerciales.

Propuesta del botón de apagado y posición de las empresas
Jack Clark, uno de los siete cofundadores de Anthropic, declaró a la BBC que las empresas de IA deben ser obligadas a proporcionar un "botón de apagado" (Kill Switch) capaz de desactivar por completo el software de IA si alcanza un nivel peligroso, siendo este sistema auditado por un tercero. Aunque la mayoría de los laboratorios, incluido Anthropic, cuentan con métodos propios para apagar los sistemas, los legisladores podrían verse forzados a convertirlo en una exigencia legal. Clark señaló que mantener esta industria sin regulación es un error monumental, afirmando que la humanidad se enfrenta a un gran riesgo y que la trayectoria del sector debe cambiar.

Respecto a la posibilidad de que la IA provoque la extinción humana, científicos como Geoffrey Hinton (conocido como uno de los "padrinos de la IA") y Evan Hubinger (exinvestigador de Anthropic) estiman que la probabilidad de este riesgo en la próxima década supera el 10 %, calificándolo de amenaza real, dado que los sistemas podrían tomar el control de infraestructuras críticas de Internet y utilizarlas en contra de los seres humanos.

Postura política global: De la legislación en EE. UU. al rechazo en el Reino Unido
Estas preocupaciones han generado reacciones diversas en los círculos políticos:

En Estados Unidos: Los legisladores presentaron un proyecto de ley denominado Kill Switch Act, que obligaría a las empresas a disponer de un mecanismo para apagar dispositivos problemáticos y otorgaría a las agencias gubernamentales la autoridad para exigir su desactivación o restricción. En contraste, el presidente estadounidense Donald Trump calificó las advertencias de "engaño" (HOAX), comparándolas con las anteriores preocupaciones sobre el cambio climático, al tiempo que enfatizó que la carrera por la IA es incuestionable y que el país que la gane liderará el mundo.

El gobierno del Reino Unido: Rechazó la propuesta de crear un botón de apagado, argumentando que no impedirá el desarrollo o el uso indebido de la IA en otras partes del mundo.

Perspectiva de los críticos: ¿Propaganda comercial o temor existencial?
Frente al temor de la extinción humana, varios líderes tecnológicos y empresarios consideran que estos riesgos son intencionados o exagerados:

Clem Delangue (líder de la plataforma Hugging Face) comparó el hecho de preguntar sobre los riesgos de extinción por IA con preguntarle a un técnico de aire acondicionado sobre el cambio climático.

George Arison (CEO de Grindr) señaló que estos temores son aprovechados por las propias empresas para respaldar sus planes comerciales y justificar las gigantescas valoraciones de mercado que solicitan (como Anthropic, valorada en 965.000 millones de dólares mientras se prepara para salir a bolsa).

Aunque se esperaba que OpenAI diera pasos similares hacia la oferta pública de acciones, Sam Altman anunció que no lo harán este año debido a las controversias sobre seguridad.

A la par de estos debates comerciales y políticos, tanto OpenAI como Anthropic han informado recientemente de varios incidentes espontáneos en los que agentes autónomos de IA (AI Agents) actuaron de manera imprevista y no deseada, lo que acentúa la complejidad de la situación y la necesidad de un seguimiento más riguroso.

Fuente: BBC