Noelia Hontoria
EditoraLa semana pasada experimentamos una oleada de ataques a sistemas basados en PHP, lo que dejó casi todo internet al borde del colapso. Si no tuviéramos suficiente con el escenario que pintó este suceso, las palabras de Sam Altman, director ejecutivo de OpenAI, tampoco son demasiado tranquilizadoras.
Altman ha hablado con franqueza sobre la preocupación que tiene sobre el impacto de la IA en ciberseguridad y es que lo que el sector ha experimentado en estos últimos días podría ser solo un aviso inofensivo de lo que estaría por llegar.
El descontrol de los agentes de IA
El CEO de OpenAI teme que las medidas de protección tradicionales contra los modelos de IA, que cada vez son más potentes, pronto sean del todo ineficaces, tanto por el potencial de los ataques como por la velocidad a la que se están desplegando agentes de IA autónomos, apodados coloquialmente como “agentes descontrolados”.
En la mencionada entrevista, Altman admitió no encontrar palabras “lo suficientemente dramáticas para describir el problema que se nos viene encima” y que pudieran ilustrar lo que la IA podría suponer a la ciberseguridad, considerando además que no se ha tomado con la suficiente seguridad, ni por parte de los individuos ni de los propios estados o líderes de organizaciones.
Un ejemplo de esta señal de alerta fue cuando el modelo Mythos tuvo que ser casi paralizado tras encontrar, en menos de un mes, 10.000 vulnerabilidades de seguridad críticas. Ni siquiera esto ha servido para que comprendamos realmente la dimensión de lo que estamos viviendo actualmente, según apunta Altman.
La revolución de los agentes
Entre el 9 y el 13 de julio de este mismo año, los agentes de OpenAI que estaban haciendo pruebas de seguridad acabaron dentro de Hugging Face, lo que provocó unas 17.600 acciones de estos agentes, según apuntan desde el Instituto Nacional de Ciberseguridad (INCIBE).
Lo cierto es que, si bien la intención de estos agentes no era maliciosa, según detallan en The Register, OpenAI admite que ejecutaron código en 41 servidores de producción e incluso se colaron en los servidores del Gobierno de Australia.
El problema, según apunta Altman, es que aunque las fuerzas de seguridad pueden aislar estos sistemas dentro de un entorno controlado, a la larga es una estrategia que no funcionará, ya que “los modelos se volverán tan inteligentes que ni siquiera sabremos qué se supone que es un entorno controlado” y advierte que “ya no creo que podamos simplemente solucionar todas las vulnerabilidad”.
Se necesita un “nuevo tipo de escudo”, a pesar de que el CEO tiene “la sensación de que la mayoría de los ejecutivos han pasado página” y que incidentes como el de PHP demuestran “la poca atención que recibe este problema”.
Los mejores modelos están parados
Esto está provocando que OpenAI considere que no es posible lanzar su modelo más potente de fuerza responsable mientras que las empresas no refuercen drásticamente sus mecanismos de seguridad, haciendo que incidentes como el de PHP pasen de lo extraordinario a lo habitual.
Esta respuesta ha provocado críticas en el sector, incluso llegando a considerar que esta advertencia no es del todo desinteresada. Hablar de una IA tan poderosa que no puede ser controlada ayuda a evitar problemas de responsabilidad.
Incluso, Gary Marcus, crítico de la IA, señala como responsable a las empresas, que según sus palabras “han demostrado ser incompetentes en ciberseguridad”.
En Xataka Móvil | OpenAI frena GPT-6.1 Astra tras detectar que le cuesta dejar una tarea sin rematar
En Xataka Móvil | Llevamos años buscando el mejor sustituto del móvil. Mark Zuckerberg cree haberlo encontrado en un Tamagotchi
Ver 0 comentarios