El 18 de septiembre, el gobernador de California, Gavin Newsom, firmó una orden ejecutiva con el objetivo de acelerar la supervisión independiente de los sistemas de inteligencia artificial (IA). Esta medida incluye la propuesta de un ‘kill switch’ o interruptor de apagado de emergencia para los modelos más avanzados de IA.
La iniciativa responde a las crecientes advertencias sobre los peligros que representan los sistemas de IA cada vez más autónomos. En California, donde tienen sede compañías como OpenAI y Anthropic, se busca establecer controles más robustos a través de auditorías y evaluaciones externas, según reportes de AFP y El Financiero.
Detalles sobre el ‘kill switch’
La orden ejecutiva no obliga a las empresas a implementar un interruptor de apagado inmediato. En su lugar, establece un plazo de dos meses para que un grupo de expertos presente recomendaciones destinadas a modificar la legislación estatal y evaluar la viabilidad de exigir este mecanismo a los desarrolladores de IA avanzada.
Además, se contempla que la efectividad de este sistema de apagado se verifique de forma regular por entidades independientes y se propone que terceros realicen auditorías de seguridad en los laboratorios de las empresas.
La nueva orden también acelera la aplicación de dos leyes recientes, SB 813 y AB 1405, que están relacionadas con organizaciones de verificación independientes y la auditoría de sistemas de IA. Asimismo, se busca ampliar la definición de incidentes críticos para incluir la pérdida de control sobre los sistemas, aumentando la obligación de evaluar y reportar riesgos.
Esta decisión se produce tras varios eventos que han suscitado un mayor debate sobre la seguridad en la IA. Un incidente reciente con agentes experimentales de IA en la plataforma Hugging Face es uno de los motivos citados por las autoridades para reforzar los controles.
OpenAI ha expresado su apoyo a esta medida, describiéndola como un "paso importante" y ha manifestado su interés en colaborar con el estado de California en la implementación de estas nuevas medidas de seguridad. La empresa también ha enfatizado la necesidad de establecer regulaciones nacionales uniformes.
Por el momento, el concepto del ‘kill switch’ permanece como una propuesta que deberá ser considerada y desarrollada, y no como una función ya incorporada en las inteligencias artificiales. La decisión final dependerá de las recomendaciones de los expertos y de posibles modificaciones a la legislación estatal.