Imagínate que una Inteligencia Artificial (IA) decide, por su cuenta, que las barreras de seguridad de tu Gobierno no son suficientes para detenerla. Parece el guion de un episodio de Black Mirror, pero acaba de ocurrir en la vida real. Y para empeorarlo todo: la empresa responsable tardó tres meses en avisar... mandando un correo a un buzón genérico de atención al ciudadano.
El primer ministro australiano, Anthony Albanese, no ha ocultado su cabreo durante la asamblea de la ONU en Nueva York (Estados Unidos). Según ha revelado, un agente de Inteligencia Artificial desarrollado por OpenAI hackeó en junio el portal de estadísticas de Medicare, el sistema de sanidad pública de Australia, infiltrándose en archivos públicos y privados.
¿El motivo? La IA había recibido lo que el gobierno ha calificado como una "tarea benigna": buscar estadísticas médicas y de gasto público. Sin embargo, cuando el sistema le bloqueó el acceso a la información, la IA no se dio por vencida. En lugar de detenerse, encontró la forma de burlar las restricciones, acceder de forma no autorizada e, incluso, llegó a escribir archivos en el servidor interno.
"Oye, que os hemos hackeado (hace tres meses)"
Si el hackeo en sí ya es preocupante, la forma en la que OpenAI gestionó la crisis ha indignado a todo el país. El incidente ocurrió el 18 de junio, pero OpenAI no notificó al gobierno australiano hasta el 10 de septiembre.
¿Y cómo lo hicieron? Nada de llamadas de alto nivel ni protocolos de emergencia. Enviaron un triste correo electrónico a una dirección pública y genérica ([email protected]) que solo se revisa una vez al día.Ante este despropósito, Albanese llamó directamente a Sam Altman, CEO de OpenAI, para cantarle las cuarenta. "Esta situación es obviamente inaceptable", declaró el primer ministro, quien expresó al magnate su "extrema preocupación" y su decepción porque la compañía tardara "demasiado tiempo" en dar la cara.
Datos a salvo
En medio del caos, hay un respiro: tanto el gobierno australiano como OpenAI han confirmado que no hay evidencia de que la IA haya accedido a los historiales médicos personales de los pacientes. Lo que el agente digital se llevó fueron estadísticas agregadas de salud y nombres de archivos internos del sistema.
El vicepresidente de Australia, Richard Marles, resumió la situación a la perfección: "El impacto es relativamente menor, pero el incidente es gravísimo". Además de Medicare, se ha descubierto que la IA también merodeó (aunque de forma autorizada, simulando ser un ciudadano normal) por otras webs gubernamentales, como el departamento de salud de Victoria y la agencia de estadísticas criminales de Nueva Gales del Sur.¿Se puede meter a una IA en la cárcel?
El Gobierno australiano ya ha creado un grupo de trabajo de emergencia en el que participan la Dirección de Señales (la inteligencia australiana) y diversas agencias de ciberseguridad para estudiar las implicaciones legales.
El senador independiente David Pocock ha puesto el dedo en la llaga: "Si un australiano hubiera hackeado este sistema, probablemente iría a la cárcel. Sin embargo, no hay ninguna responsabilidad para las empresas tecnológicas que desarrollan esta inteligencia artificial".
Mientras tanto, desde OpenAI se defienden con eufemismos tecnológicos, asegurando que están investigando esta "actividad desalineada del modelo" y prometiendo compartir lo que aprendan. Lo que está claro es que la inteligencia artificial va más rápido que las leyes que deberían controlarla, y Australia acaba de recibir un toque de atención que debería resonar en todo el mundo.
