JPMorgan advierte sobre el aumento de riesgos cibernéticos por IA

El nombre de Jamie Dimon puede que no os suene, pero se trata del consejero delegado de uno de los bancos más grandes del mundo: JPMorgan Chase. En una reciente entrevista en Bloomberg, Dimon ha reforzado el mensaje de que la era de la IA va a traer más de un dolor de cabeza en varios sentidos, y se ha centrado en el de la ciberseguridad afirmando que el riesgo se ha multiplicado por 10 desde la llegada de Mythos.

Y con los agentes de IA la cosa sólo va a ir a más.

En corto. Realmente, Dimon lleva meses avisando de que la ciberseguridad que conocíamos no tiene nada que hacer con las nuevas inteligencias artificiales, pero ha puesto la cifra justo tras la llegada de Mythos, el modelo de Anthropic. Según él, esto ya le preocupaba, pero ahora se están creando vulnerabilidades que se desconocían y con los agentes de IA que son capaces de ejecutar tareas por su cuenta, la preocupación es «legítima y real».

Mythos.

Realmente, la estimación es del propio Dimon, sin algo que lo respalde, pero lo cierto es que desde que se presentó Claude Mythos en abril de este año, este tipo de advertencias se han ido sucediendo. La propia Anthropic contribuyó a esa narrativa del miedo al comentar que el modelo superaba a casi todos los humanos excepto a los más expertos a la hora de encontrar, explotar y combatir vulnerabilidades y que, por eso, no pensaban lanzarlo de forma general.

Empezamos a ver asociaciones que afirmaban que habían encontrado vulnerabilidades críticas que desconocían gracias a Mythos y las estaban parcheando, pero claro, si el modelo caía en malas manos, podía generar estragos. Y el problema es que, de nuevo, Anthropic señaló que Mythos era muy hábil a la hora de encontrar vulnerabilidades de día cero que permiten explotar todos los sistemas operativos y navegadores principales.

No te vayas sin leer: Trump: Las empresas de IA aceptan «autorregularse»

Como ejemplo, pusieron un ejercicio en el que habían podido explotar fallos del kernel de Linux para controlar totalmente una máquina, todo eso mientras afirmaban que no lo entrenaron específicamente para eso, sino que fue surgiendo a partir de mejoras generales en los sistemas de programación y razonamiento del modelo.

Advertencias.

Este contexto es necesario para saber por qué Dimon se refiere específicamente a Mythos, ya que JPMorgan es uno de los pocos participantes del programa Glasswing de Anthropic que les permite explorar el modelo para probar sus propias defensas.

De hecho, es el único banco que está entre los participantes desde el comienzo del proyecto y, desde entonces, Dimon se ha centrado en decir que en esta nueva era la ciberseguridad es una prioridad máxima y que dar un acceso universal sería como «entregar misiles balísticos a cualquiera».

Política del miedo.

Este año, además, estamos viendo algo curioso. Anthropic y OpenAI se han enzarzado en una lucha con el miedo como arma. Una dice que tiene un modelo y dice que es tan poderoso que no puede ponerlo a disposición de nadie más. La otra lo critica, pero a los dos días hace exactamente lo mismo. Y eso mientras se suceden los lanzamientos de modelos de vanguardia a toda velocidad por parte de una y de otra.

Pero, en paralelo a ese discurso del miedo, venden las herramientas para protegerse. Es como si el que fabrica bombas nucleares lanza una amenaza y, al día siguiente, te dice que tiene un búnker precioso y superseguro que puede venderte para que te proteja de esas bombas nucleares.

En concreto, Anthropic con Glasswing ha ido ampliando el número de organizaciones internacionales que pueden usar su modelo más avanzado y, según la compañía, los participantes llevan más de una decena de miles de vulnerabilidades críticas detectadas que ahora están parcheando. Ahora, calculan que otras compañías tendrán un modelo comparable al suyo en un plazo de seis a doce meses, así que ese es el margen que sus socios tienen para proteger sus sistemas.

No es Terminator, pero…

Al final, de la forma más pragmática posible, no es más que una herramienta más. Una avanzadísima, pero una herramienta al fin y al cabo. El problema viene cuando esa herramienta «escapa» al control de sus dueños.

Porque las startups estadounidenses de IA se están empeñando en señalar que su creación es autónoma y tiene tintes de «vida propia», pudiendo hacer «travesuras» como colarse sin permiso en webs de gobiernos de otros países cuando la realidad es que es una herramienta que hace lo que se le dice y luego son los propios responsables de esa herramienta quienes ocultan esas «travesuras» durante meses. Como, precisamente,acaba de pasar en todo el lío entre OpenAI y Australia.