El gobernador de California, Gavin Newsom, emitió una orden ejecutiva para acelerar la supervisión de la inteligencia artificial, incluyendo un interruptor de emergencia para modelos avanzados y auditorías independientes en laboratorios. La medida responde a incidentes recientes y a la inacción federal.
El gobernador de California, Gavin Newsom, emitió una orden ejecutiva de emergencia para acelerar la supervisión sobre la industria de la inteligencia artificial. La medida dispone la creación de un marco de control que contempla la instalación obligatoria de un “botón de apagado” o interruptor de emergencia en los sistemas más avanzados en Silicon Valley.
El ‘interruptor de emergencia’ y la aceleración del control en Silicon Valley
La directiva ejecutiva acelera los plazos de aplicación de dos normativas promulgadas en el estado: la Ley del Senado 813, que establece un sistema de certificación para organizaciones de verificación independientes, y la Ley AB 1405, que crea un registro oficial de auditores de inteligencia artificial. Además, convoca a un panel de expertos nacionales en ciberseguridad que tendrá como fecha límite el próximo 16 de noviembre para entregar recomendaciones destinadas a endurecer la legislación vigente.
Entre las prioridades encargadas al comité técnico destaca la exigencia de implementar un “interruptor de seguridad” capaz de desactivar de forma remota y definitiva a aquellos modelos de vanguardia que pierdan el control o registren comportamientos anómalos. La iniciativa retoma el espíritu del proyecto de ley SB 1047 vetado por Newsom en 2024, pero responde a incidentes recientes, como el ciberataque autónomo sufrido por la plataforma Hugging Face. Según la directiva, las empresas tecnológicas deberán presentar sus protocolos de riesgo y estos tendrán que ser auditados en tiempo real por supervisores independientes instalados directamente dentro de los laboratorios de desarrollo.
La contienda política con Washington y el futuro de la regulación tecnológica
Al justificar la urgencia de la medida, Newsom apuntó contra la administración del presidente Donald Trump y el Congreso estadounidense, y sostuvo que existe una pasividad frente a una tecnología cuyos propios directores ejecutivos han solicitado regular. El gobernador afirmó que California ya actúa como el laboratorio normativo del país a través de leyes como la SB 53 de transparencia algorítmica, y urgió a las autoridades federales a adoptar el modelo californiano como la referencia mínima de seguridad nacional.
La decisión de la gobernación generó respaldo entre los legisladores estatales promotores de la seguridad tecnológica, así como reacciones favorables por parte de gigantes del sector como OpenAI y Anthropic, cuyos ejecutivos confirmaron su disposición a colaborar en la elaboración de auditorías de terceros. Con el mandato de Newsom entrando en su etapa final y la mirada puesta en el favorito demócrata a la gobernación, Xavier Becerra, el informe del 16 de noviembre sentará las bases para una nueva batería legislativa que buscará convertir el “botón de apagado” en una exigencia para las corporaciones que compiten por alcanzar la superinteligencia artificial.