Gigantes de la inteligencia artificial piden frenar desarrollos y Trump desprecia el riesgo

“Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, afirma el presiente estadounidense

Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales.

Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA, petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada.

Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial.

“Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana”, declaró Trump el domingo a los periodistas en el Irish Open de golf. “Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo”.

Amodei advirtió este sábado, en un extenso ensayo publicado en su página web: “Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”.

Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: “Dario tiene razón”. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización.

El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: “Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera”, tuiteó.

Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. “Sería un momento poco aconsejable para salir al mercado bursátil”. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada.

Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: “El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico”.

“La industria mintió”

Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que “la industria mintió” sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir.

No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo

Dario Amodei— CEO de Anthropic

“No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Amodei.

Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares.

Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones.

El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos.

Legisladores

Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la “amenaza” de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos.

Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso “actuar con urgencia”. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada.

Pero Johnson, como Trump, tampoco quiere darse prisa. “Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata”, expresó Johnson en una entrevista con CNN.

La amenaza china

El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China.

Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto

Mike Johnson— Presidente de la Cámara de Representantes

“Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros”, remarcó.

Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks, dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen.

En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. “Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral”.

Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda. Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de “consecuencias catastróficas”.