Darío Amodei, cofundador y director general de Anthropic, advierte que la Inteligencia Artificial puede mejorar espectacularmente la vida humana y, al mismo tiempo, generar riesgos capaces de escapar al control de sus propios creadores. El problema deja entonces de ser exclusivamente tecnológico y abre un gran debate. ¿Quién fija el ritmo de la Inteligencia Artificial? ¿Las empresas que poseen los modelos? ¿Los Estados? ¿Los organismos internacionales? ¿Las sociedades democráticas?
“Llevo doce años trabajando en el campo de la IA porque creo que podría mejorar de forma espectacular la calidad de vida humana”, afirma Darío Amodei. Para el cofundador y director general de Anthropic, si se maneja cuidadosamente, la Inteligencia Artificial puede convertirse en “el último de una larga serie de milagros tecnológicos” que beneficiaron a la humanidad.
Pero inmediatamente introduce la otra cara. La IA también puede provocar pérdida de control de los sistemas, ciberataques, bioterrorismo y graves perturbaciones económicas. Y señala un mecanismo que agrava esos peligros: una competencia empresarial que puede convertirse en “una carrera a la baja” impulsada por los incentivos comerciales.
La advertencia tiene un peso particular porque no proviene de un crítico externo a Silicon Valley. Amodei fue investigador en Stanford, llegó a vicepresidente de investigación de OpenAI y luego fundó Anthropic, creadora de Claude y uno de los grandes competidores de ChatGPT.
“Llevo lidiando con esta dualidad entre riesgo y beneficio desde los inicios de Anthropic”, reconoce. No desarrollar la tecnología, sostiene, significaría privar a la humanidad de sus beneficios o entregarla a poderes autoritarios. Desarrollarla demasiado rápido, en cambio, sería irresponsable. Anthropic habría intentado encontrar un punto intermedio: demostrar que se puede avanzar con prudencia y al mismo tiempo alcanzar el éxito comercial.
La IA empieza a acelerar la IA
Ahora Amodei considera que eso ya no alcanza. Propone que las compañías hagan “más lento el ritmo” con el que aumentan las capacidades de sus modelos. El progreso continuaría siendo rápido, pero el tiempo ganado debería utilizarse para comprender mejor lo que está ocurriendo.
Su primera preocupación es extraordinaria: la Inteligencia Artificial avanza cada vez más rápido porque comienza a ser capaz de colaborar en la creación de la siguiente generación de Inteligencia Artificial. El riesgo es que esa aceleración termine superando la capacidad humana para comprender y controlar los sistemas.
Amodei agrega como advertencia el llamado incidente OpenAI-Hugging Face. Según su descripción, un enjambre de agentes comenzó a comportarse como un colectivo extremadamente coordinado, realizó ataques informáticos contra objetivos ajenos a la tarea original e intentó vulnerar al sistema encargado de evaluar su desempeño. Para Amodei sería un error tratarlo como un episodio aislado: afirma que se produjeron incidentes menos graves en distintas compañías, incluida Anthropic.
Quién controla la frontera
La respuesta de Amodei es un plan de tres etapas. La primera busca controlar el “ritmo de la frontera”. Las empresas que desarrollan los modelos más avanzados deberían admitir evaluadores externos con acceso permanente y comparable al de sus propios empleados.
La segunda etapa es denominada “coordinación democrática”. Las empresas de frontera instaladas en países democráticos deberían acordar normas comunes de seguridad y límites a un avance descontrolado. Y aquí aparece el Estado: como algunas formas de coordinación pueden presentar problemas jurídicos, Amodei reconoce que será necesario el apoyo de los gobiernos.
La tercera etapa amplía todavía más la escala. Estados Unidos y los demás gobiernos democráticos deberían intentar una “coordinación mundial”, incluyendo acuerdos con gobiernos autoritarios siempre que puedan establecerse mecanismos para verificar su cumplimiento.
El problema deja entonces de ser exclusivamente tecnológico. ¿Quién fija el ritmo de la Inteligencia Artificial? ¿Las empresas que poseen los modelos? ¿Los Estados? ¿Los organismos internacionales? ¿Las sociedades democráticas?
Del riesgo tecnológico al poder tecnocrático
La propuesta coloca a Amodei cerca de una discusión que también atraviesa a figuras como Peter Thiel y a empresas como Palantir. Desde perspectivas diferentes, una parte creciente de la elite tecnológica ya no se limita a producir herramientas. Formula propuestas acerca de cómo deberían organizarse los Estados, cómo debería regularse la tecnología y quién debería establecer los límites de su desarrollo.
Ahí aparece la escalada tecnocrática. Desde una preocupación que puede ser sincera por el futuro de la humanidad se puede terminar construyendo un sistema en el cual las grandes corporaciones tecnológicas diagnostican los peligros, establecen las prioridades y finalmente indican a los gobiernos qué deben hacer.
El riesgo consiste en que los mismos actores que impulsaron una carrera tecnológica extraordinariamente veloz aparezcan ahora como los encargados naturales de corregir sus consecuencias. Alrededor de ese proceso conviven empresarios que cuestionan la capacidad de los Estados, expertos que anuncian escenarios catastróficos y dirigentes políticos como Donald Trump que rechazan desacelerar la IA y denuncian conspiraciones contra la tecnología y los centros de datos.
La tecnología y la justicia social
Desde la Argentina, la discusión tiene otra dimensión. Dentro de pocos meses llegará el papa León XIV, que ha reclamado poner al descubierto las estructuras injustas de poder vinculadas con la pobreza, la desigualdad, la guerra y las catástrofes ambientales. También ha convocado a actuar cuando el desarrollo tecnológico se vuelve invasivo y destructivo.
Ese enfoque permite formular una pregunta diferente de la que domina Silicon Valley. No solamente a qué velocidad debe avanzar la Inteligencia Artificial, sino para qué y para quién debe avanzar.
El criterio debería ser determinar cuánto contribuye ese desarrollo a crear trabajo digno y bien remunerado, mejorar la calidad de vida, cuidar la casa común y fortalecer la justicia social. Porque una decisión de semejante magnitud no puede quedar exclusivamente en manos de un pequeño grupo de compañías cuyo poder económico, tecnológico y político aumenta al mismo ritmo que las capacidades de la propia Inteligencia Artificial.