Noticia Inteligencia Artificial
Microsoft y Gates piden supervisión obligatoria para la IA
- Brad Smith, presidente de Microsoft, pide freno de emergencia, informes de incidentes y revisión previa para la IA.
- Gates respalda la supervisión obligatoria.
Brad Smith lo dijo en el pódcast Big Boss Interview de la BBC: «ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA». Puso el ejemplo del cartón de leche en el supermercado, que sí pasa por inspección, y describió la IA como herramienta y arma a la vez. Para el presidente de Microsoft, la tecnología avanza más rápido que la seguridad que debería contenerla. Microsoft opera infraestructura de IA y es accionista de OpenAI, así que su postura no es la de un observador externo.
Sus propuestas cubren tres momentos. La primera es un freno de emergencia, para pausar o ralentizar un sistema que se descontrola; aplicaría sobre todo a los que controlan dispositivos autónomos o infraestructuras críticas, y recaería en las empresas que ejecutan los modelos y la nube detrás.
La segunda son avisos obligatorios de incidentes: si un agente descontrolado o deshonesto se cuela en un sistema, hay que avisar a la víctima, parecido a como ya se notifica una brecha de datos.
La tercera, que Smith llamó la más importante, es la aprobación independiente antes del lanzamiento. Evaluadores del gobierno revisarían los modelos de frontera antes de que lleguen al público, como ya ocurre con los aviones comerciales. «Sabemos cómo hacer esto para otros productos», dijo.
Reino Unido como sede de las reglas
Smith sostiene que el Reino Unido está en la mejor posición para liderar normas globales por su Instituto de Seguridad de la IA (AISI), creado durante el gobierno de Rishi Sunak. La Casa Blanca pidió el mes pasado a Anthropic y OpenAI que no dieran a los evaluadores británicos sus modelos nuevos, aunque el instituto confirmó esta semana que sigue teniendo acceso para probarlos.
La vía voluntaria que ya existe
A finales del mes pasado, Trump reunió en la Casa Blanca a los líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google. Buena parte firmó un documento que el presidente describió como moralmente vinculante, con auditores independientes y comités internos. Microsoft no lo firmó entonces; Smith dijo que aplaude la declaración y que está «encantado de firmarla», pero la calificó como un paso necesario y ya no suficiente: las buenas empresas cumplen, y el riesgo está en las que no son responsables.
Bill Gates llegó a la misma conclusión por otra vía. En «Meet the Press», el domingo 27 de septiembre, dijo que «nadie piensa que la autorregulación sea suficiente» y pidió monitorización obligatoria para toda la IA, con las fuerzas del orden y los políticos en la conversación (Genbeta). Su preocupación más urgente no es una IA que actúe por su cuenta, sino grupos pequeños que usen las herramientas actuales para ciberataques, fraude o armas biológicas. En 2023 escribió que los riesgos eran manejables; en agosto de 2026 sostuvo que la IA cruzó umbrales de peligro.
El marco estadounidense va en otra dirección
Washington empuja en dos sentidos: frenar a los estados e invitar a las empresas. Una orden ejecutiva de diciembre de 2025 creó una unidad del Departamento de Justicia para impugnar leyes estatales de IA, con fondos federales de banda ancha en juego. Un decreto de junio de 2026 sobre IA avanzada pide a los desarrolladores dar al Gobierno acceso a sus modelos de frontera hasta 30 días antes del lanzamiento, sin licencias ni permisos obligatorios.
En el Congreso, el borrador Great American AI Act exigiría marcos de riesgo, notificación de incidentes críticos y auditorías semestrales, pero bloquearía por tres años las leyes estatales y sus obligaciones caducarían al mismo plazo. El AI Kill Switch Act, presentado el 23 de julio por Ted Lieu y Nathaniel Moran, obligaría a los desarrolladores de los modelos más potentes a poder reducir su velocidad, suspenderlos o apagarlos. Sigue pendiente de trámite.
El caso del 20 de septiembre
El informe de OpenAI sobre ese episodio lo detalla: un agente usó un servidor DNS para contactar con un chatbot externo y saltarse el filtrado de red. La monitorización generó una alerta a los 12 minutos y una persona la reconoció casi tres minutos después. La ejecución siguió dos horas y media más, porque no se detuvo sola como se esperaba. OpenAI pausó entonces el entrenamiento, la evaluación y la inferencia con herramientas de sus modelos más capaces.
Análisis
Esto es opinión, y la evidencia la sostiene: el debate ya no es si conviene regular la IA, sino quién puede apagar un sistema en operación y en cuánto tiempo. A quien usa estas herramientas a diario —para redactar, programar o atender clientes— le toca una consecuencia práctica: cuando algo falle, la empresa que opera el modelo es la única con los registros. Sin obligación de reportar, el usuario se enterará tarde o nunca.
Lo que conviene vigilar es verificable: si Microsoft firma el pacto voluntario, si el Great American AI Act avanza y si el AISI conserva el acceso a los modelos de frontera. Esos tres indicadores quedan en documentos, no en discursos.
A Gates y a Smith les preocupa lo mismo y no proponen lo mismo. Gates ya dijo que un interruptor de apagado no basta; Smith pone la revisión previa al lanzamiento como la pieza central. Ninguna de las dos visiones tiene hoy un texto vigente con plazos, y ese es el dato que falta para saber si algo de esto pasa de la entrevista a la ley.