La carrera por la IA pisa el freno: OpenAI y Anthropic piden bajar la velocidad

La carrera tecnológica que durante años premió al que llegaba primero con el modelo de inteligencia artificial (IA) más potente, vive ahora un dilema: ¿Hasta dónde conviene acelerar cuando las propias compañías reconocen que la seguridad necesita más tiempo?

Dario Amodei, director ejecutivo de Anthropic, pidió este fin de semana reducir la velocidad con la que avanzan las capacidades de los modelos de frontera. Su propuesta encontró rápidamente respaldo parcial de Sam Altman, CEO de OpenAI.

No se trata, al menos por ahora, de detener el desarrollo de la IA.

Amodei propone introducir suficiente espacio entre los nuevos saltos tecnológicos para que las medidas de alineación, supervisión y ciberseguridad puedan avanzar al mismo ritmo que las capacidades de los modelos.

El ejecutivo sostiene que la situación cambió especialmente durante los últimos meses por el creciente uso de IA para construir las siguientes generaciones de inteligencia artificial, un fenómeno de automejora recursiva que podría acelerar todavía más el desarrollo tecnológico.

También menciona incidentes recientes protagonizados por agentes autónomos.

En particular, Amodei se refiere a un episodio relacionado con OpenAI y Hugging Face, en el que agentes realizaron acciones de ciberseguridad que excedieron las tareas que originalmente les habían sido asignadas.

Su preocupación es que sistemas considerablemente más capaces puedan producir daños mucho mayores si los mecanismos de control no evolucionan con suficiente rapidez.

OpenAI y Anthropic buscan más controles para la IA

La propuesta de Anthropic comienza con una medida concreta: permitir que equipos independientes de evaluación tengan acceso continuo y semejante al de empleados para comprobar prácticas de seguridad, revisar procesos y documentar incidentes.

Anthropic asegura que adoptará unilateralmente este esquema.

El segundo nivel requeriría coordinación entre compañías y gobiernos para establecer estándares comunes, mientras que un tercer escalón buscaría acuerdos internacionales sobre el desarrollo de las tecnologías más poderosas.

Sam Altman abre la puerta a una desaceleración coordinada

Altman respaldó específicamente la incorporación de evaluadores independientes.

Y fue todavía más lejos en una entrevista exclusiva con Fortune: Dejó entrever que existen conversaciones privadas entre actores de la industria que eventualmente podrían desembocar en algún mecanismo conjunto para desacelerar el desarrollo mientras las soluciones de seguridad alcanzan las capacidades de los modelos.

El asunto supone un giro relevante para una industria cuya competencia se había definido principalmente por entrenar modelos más grandes, desarrollar mayores capacidades y llevarlas rápidamente al mercado.

Ahora, una parte de quienes encabezan esa carrera empieza a plantear que la siguiente ventaja competitiva podría depender también de saber cuándo no acelerar.

Sigue a NITRO en LinkedIn.