El gobernador de California, Gavin Newsom, firmó una orden ejecutiva que acelera la aplicación de nuevas normas de supervisión independiente sobre los sistemas de inteligencia artificial (IA) y abre el camino para estudiar mecanismos adicionales de seguridad, entre ellos un denominado “interruptor de apagado”. Aunque la medida no crea por sí sola ese mecanismo, establece plazos y ordena preparar recomendaciones para incorporarlo a la legislación estatal.
Gavin Newsom acelera la supervisión de la inteligencia artificial en California
La orden ejecutiva fue firmada por Gavin Newsom el 18 de septiembre de 2026 y entra en vigor de manera inmediata. En el documento, el gobernador sostiene que California debe actuar frente a los riesgos asociados con el desarrollo de modelos de inteligencia artificial, especialmente ante incidentes recientes que el documento vincula con riesgos de seguridad y pérdida de control.
La disposición se apoya en una serie de medidas que el estado ya adoptó en los últimos años. Según el comunicado de prensa difundido por la oficina del gobernador, la nueva orden busca acelerar la supervisión independiente de las compañías de IA y avanzar en la creación de mecanismos que permitan reaccionar ante situaciones consideradas críticas.
Los principales puntos de la nueva orden son:
La orden ejecutiva establece que la Agencia de Operaciones Gubernamentales deberá presentar, a más tardar el 16 de noviembre de 2026, recomendaciones elaboradas junto con expertos nacionales sobre la viabilidad técnica y la posible eficacia de modificaciones a las leyes estatales existentes sobre seguridad de la inteligencia artificial.
Qué es el “kill switch” para modelos de IA que estudia California
La medida no establece que los sistemas de inteligencia artificial serán apagados de manera general ni dispone el cierre de compañías tecnológicas. Lo que hace es ordenar que se estudie una modificación legal que podría exigir a los desarrolladores contar con un mecanismo de este tipo.
El documento plantea específicamente la posibilidad de exigir la creación de un “kill switch” para los modelos de frontera y que su eficacia sea verificada de manera permanente por una organización independiente.
El objetivo planteado es contar con una herramienta que permita responder ante determinados escenarios de seguridad. La propuesta se integra dentro de un esquema más amplio de controles, auditorías y evaluaciones externas, en lugar de funcionar como una medida aislada.
La orden también contempla actualizar la definición de los incidentes críticos que las compañías de inteligencia artificial deben comunicar. La intención es incluir diferentes situaciones de pérdida de control de los sistemas, con referencia a incidentes recientes mencionados en el propio documento.
California evalúa auditorías independientes dentro de laboratorios de IA
Las modificaciones que deberán analizarse durante los próximos meses también contemplan una modalidad de supervisión directa. La orden contempla la posibilidad de exigir que los grandes desarrolladores de modelos de frontera incorporen organizaciones independientes de verificación que operen dentro de sus laboratorios.
Esas entidades tendrían que realizar auditorías y evaluaciones periódicas. La intención es que el control no se limite a los informes que las compañías presentan ante las autoridades, sino que exista una instancia externa con capacidad técnica para revisar los sistemas.
También deberá estudiarse que los marcos de seguridad, los informes de transparencia y las evaluaciones de riesgo que las empresas están obligadas a presentar sean sometidos a una verificación independiente bajo estándares considerados adecuados por las organizaciones certificadas.
La medida busca, de esta manera, ampliar el nivel de control sobre la información que las compañías proporcionan acerca de los riesgos y mecanismos de seguridad de sus modelos.
-
-
-
-
-
