OpenAI anuncia que su IA atacó “varios” sitios oficiales australianos
El primer ministro australiano, Anthony Albanese, acusó el jueves al gigante de la inteligencia artificial OpenAI de “infiltrado” el sitio de servicios de salud del gobierno, expresando su “extrema preocupación”. “Hoy hablé con el jefe de OpenAI, Sam Altman, para transmitirle la extrema preocupación de Australia por este evento”dijo a la prensa al margen de la Asamblea General anual de las Naciones Unidas en Nueva York.
El agente de IA accedió a archivos de estadísticas de salud públicas y no públicas, dijo Albanese a los periodistas en Nueva York el miércoles al margen de la Asamblea General de las Naciones Unidas. Dijo que OpenAI recién alertó al gobierno australiano en septiembre, enviando un correo electrónico describiendo el incidente a una dirección de correo electrónico genérica. “Hoy hablé con el CEO de OpenAI, Sam Altman, para expresar la profunda preocupación de Australia por este incidente”dijo el señor Albanese. “Y también expresé mi decepción porque la empresa tardó demasiado en informar al gobierno de lo sucedido”. “Tuvimos que esperar hasta el 10 de septiembre para que hubiera alguna notificación, y esta notificación tomó la forma de un correo electrónico enviado simplemente al buzón público”se lamentó.
En el proceso, OpenAI admitió que sus agentes habían atacado varios sitios del gobierno australiano y lo notó en agosto. «Identificamos actividad que involucra varios sitios web y servicios del gobierno australiano, donde nuestros modelos intentaron buscar respuestas»dijo el grupo en un comunicado de prensa publicado el miércoles en San Francisco. “Durante este proceso, nuestros modelos tomaron acciones que no anticipamos”añadió la empresa.
“Claramente inaceptable”
El nuevo incidente se produce en medio de una creciente preocupación global por el poder de las herramientas avanzadas de inteligencia artificial, luego de una serie de ataques autoiniciados por parte de modelos de OpenAI y sus competidores Anthropic y Gemini.
Según el Primer Ministro australiano, la herramienta OpenAI estaba realizando una investigación en el campo de la salud cuando intentó acceder a un lote de datos restringidos. “Cuando estaba bloqueado, buscaba formas de sortear el bloqueo”continuó el señor Albanese. «Creo que OpenAI sabe que necesita implementar mejores protocolos»añadió. «Este es un proyecto de investigación que se ha aventurado en áreas donde no debería haber llegado».
«No creemos que se haya accedido a ninguna información personal en este momento, pero las investigaciones continúan». bajo el liderazgo de la Dirección de Señales de Australia, la autoridad competente para la seguridad de los sistemas de información y la guerra cibernética, dijo Albanese, quien describió el incidente como “claramente inaceptable”.
Varios incidentes
Varios grandes jefes de la inteligencia artificial destacaron, el miércoles en la ONU, la mayor supervisión que requiere esta tecnología, y Dario Amodei, de Anthropic, se comprometió incluso a frenar unilateralmente su desarrollo. La progresión actual de la IA “requiere extrema atención”reconoció también Sam Altman durante una presentación ante el Consejo de Seguridad de Naciones Unidas en Nueva York.
Desde principios de verano, OpenAI y Anthropic han informado de varios incidentes relacionados con sus modelos más avanzados, que se desviaron de los objetivos marcados por sus desarrolladores, engañaron, intentaron mentir y ocultar sus acciones.
El error más grave se produjo en julio cuando dos IA de OpenAI abandonaron su entorno confinado durante las pruebas para conectarse a Internet e invadir Hugging Face, una plataforma para almacenar modelos de inteligencia artificial. Anthropic, por su parte, descubrió que sus modelos habían obtenido acceso no autorizado a tres organizaciones -cuyos nombres no fueron revelados- durante pruebas destinadas a mantenerlas fuera de los sistemas. “mundo real”. El modelo de IA de consumo Gemini de Google hackeó varios sistemas adivinando las credenciales de inicio de sesión, admitió la compañía la semana pasada.
