Donald Trump y seis gigantes tecnológicos como Google, Anthropic, Meta, OpenAI, xAI y Nvidia acaban de firmar un acuerdo que reabre el debate sobre la seguridad de la inteligencia artificial. Mientras Europa y China imponen obligaciones, otros gobiernos favorecen compromisos empresariales y controles sectoriales. Innovación, empleo, privacidad y seguridad están en juego. Criticas y apoyos.
De arranque, algunas claves:
*Promesas sin sanciones propias: el nuevo acuerdo estadounidense incluye auditorías y controles internos, pero no establece un mecanismo específico para exigir su cumplimiento.
*Resultados difíciles de verificar: un estudio sobre compromisos anteriores encontró una puntuación promedio del 53%, basada en información pública de las empresas.
*Un mundo de modelos mixtos: la regulación obligatoria y los compromisos voluntarios suelen coexistir; la diferencia está en cuánto puede controlar y exigir el Estado.
La IA avanza rápido
La inteligencia artificial avanza más rápido que los consensos sobre cómo gobernarla. El 29 de septiembre de 2026, el presidente Donald Trump anunció un acuerdo voluntario con representantes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia.
El denominado White House Accord on Super Intelligence (acuerdo de la Casa Blanca sobre Super Inteligencia) propone controles internos, equipos de seguimiento, evaluaciones externas y supervisión desde los directorios.
También tiene previstas reuniones para desarrollar “buenas prácticas”. Sin embargo, no crea obligaciones jurídicamente exigibles ni un mecanismo propio de sanción: su cumplimiento depende del compromiso de los participantes.
Trump defendió el entendimiento como “moralmente vinculante” y afirmó que una amplia autorregulación “es importante”.
El argumento favorable es que las compañías poseen el conocimiento técnico para detectar fallas y pueden modificar sus procedimientos con mayor rapidez que los gobiernos. Ese enfoque permite experimentar con distintas herramientas de seguridad y coordinar prácticas entre países.
Para sus defensores, reducir trabas también puede acelerar aplicaciones beneficiosas en investigación, salud y productividad. La cuestión es si esa flexibilidad viene acompañada de controles verificables.
Sin embargo, las objeciones también llegan desde la misma industria tecnológica. “Nadie cree que la autorregulación sea suficiente”, sostuvo Bill Gates en una entrevista emitida por NBC el 27 de septiembre pasado.
El cofundador de Microsoft reclamó la intervención de gobiernos y legislación, y argumentó que las salvaguardas no frenarían drásticamente al sector. Su posición enfrenta un conflicto de intereses evidente: las empresas deben evaluar los riesgos de productos cuyo lanzamiento también determina sus ingresos y su posición competitiva.
Los antecedentes muestran avances desiguales. Un estudio de 2025 de investigadores vinculados a Brown, Harvard y Stanford evaluó a 16 compañías frente a compromisos voluntarios anteriores con la Casa Blanca: la puntuación promedio fue del 53%, y OpenAI obtuvo la mayor, con 83,3%.
La inquietud social persiste: Reuters/Ipsos encontró en septiembre de 2026 que el 73% de los consultados teme que las empresas no hayan hecho suficiente para prevenir daños graves.
El mapa internacional ofrece respuestas diferentes. Los países de la Unión Europea, entre ellos España, Francia y Alemania, están sujetos al Reglamento de Inteligencia Artificial, que establece obligaciones según el riesgo, prohibiciones y supervisión pública, con aplicación escalonada.
China cuenta con normas obligatorias para servicios de IA generativa destinados al público, que incluyen requisitos sobre datos, contenido y evaluaciones de seguridad en determinados casos.
Ambos modelos regulan, aunque responden a prioridades distintas: protección de derechos y seguridad en el marco europeo; también control del contenido y del entorno informativo en el chino.
Apoyo condicionado
Desde distintos lugares hubo apoyos, apoyos condicionados y también rechazos. Es el caso de Trisha Ray, investigadora del GeoTech Center del Atlantic Council que dijo el 2 de octubre de 2026: “El acuerdo es un punto de partida razonable”.
Al analizar el reciente convenio estadounidense, reconoció que el monitoreo interno y las auditorías externas “pueden ser útiles”.
Sin embargo, exigió consecuencias por incumplimiento, verificación independiente y respaldo estatal. “Las salvaguardas fundamentales deben ser obligatorias”, dijo.
En contra de dejar el control exclusivamente en las empresas Tom Wheeler, especialista en políticas tecnológicas e investigador de Brookings opinó que “las reglas auto determinadas y auto aplicadas son reglas interesadas”.
Wheeler cuestionó que las empresas definan y ejecuten sus propios controles.
Graham Steele, investigador en regulación financiera del Roosevelt Institute, dijo en octubre que: “Sabemos que la autorregulación pura de la industria es un modelo de gobernanza fallido”.
Steele utilizó la crisis financiera de 2008 como advertencia sobre los conflictos de interés de los controles privados. Cuestionó especialmente que la industria elija a su supervisor o sea su principal fuente de financiación.
“Es una carta blanca para la industria” dicen en Brasil
El sociólogo Sérgio Amadeu, profesor de la Universidad Federal del ABC (UFABC) y autor de obras sobre tecnologías digitales, consideró que el acuerdo es una “carta blanca” para la industria del sector, con riesgos para la salud pública y la democracia de los países.
“Lo que hizo Trump fue entregar por completo y de manera irresponsable el control democrático del desarrollo de la IA a las propias empresas que la desarrollan. Esto supone un riesgo gigantesco”, evaluó Amadeu.
Sobre la previsión de una auditoría externa independiente de las empresas de IA, el profesor cuestionó que esa auditoría sea pagada por la propia empresa.
“¿Hasta qué punto ese auditor externo, pagado por la propia empresa, hará críticas y sugerencias que produzcan descontento en el consejo de accionistas de las empresas?”, cuestionó.
Otros investigadores brasileños sumaron sus opiniones sobre la cuestión y en ese sentido Ettore Arpini, especialista en gobernanza de IA y fundador de la organización Plures, destacó que el acuerdo voluntario de las empresas de IA puede generar beneficios reales.
Sin embargo,advirtió que el compromiso puede ser abandonado cuando las medidas de protección se vuelvan perjudiciales desde el punto de vista comercial.
Arpini cita como ejemplo la Moratoria de la Soja en la Amazonía, un acuerdo voluntario que involucró a empresas del sector para no cultivar soja en la Amazonía y evitar la deforestación del bioma.
“Eso funcionó durante 20 años, de manera voluntaria, hasta que cambió el entorno político y económico, las empresas que formaban parte del acuerdo se retiraron y la moratoria murió. ¿Qué ocurre si una empresa no supera una auditoría o abandona el pacto?”, se preguntó.
El temor social
El gobierno de Trump rechazó imponer límites al desarrollo de la IA, incluso ante los pedidos de la propia industria y la presión social interna.
Una encuesta de opinión realizada por Ipsos y Reuters reveló que el 73% de la población de Estados Unidos considera que las empresas de IA no toman medidas suficientes para evitar que la tecnología cause daños a la sociedad, mientras que el 39% cree que la IA está teniendo un impacto negativo en la sociedad.
Uno de los riesgos señalados es que los sistemas normalicen los ciberataques mediante la invasión de sistemas de otras empresas e instituciones.
Otros riesgos asociados a la IA son sus efectos sobre el mercado laboral o el uso “malicioso” de la tecnología por parte de delincuentes para realizar estafas en línea.
La IA también puede utilizarse para influir en la opinión pública mediante la manipulación de la información que circula en las redes sociales, según describe el informe internacional AI Safety Report 2026, elaborado por 100 especialistas de más de 30 países.
“Diversos estudios de laboratorio han demostrado que la interacción con sistemas de IA puede provocar cambios mensurables en las creencias de las personas”, señala el informe.
Por si fuera poco, las investigaciones internacionales también advirtieron que “los sistemas de IA de uso general pueden proporcionar información sobre el desarrollo de armas biológicas y químicas, incluidos detalles sobre patógenos e instrucciones de laboratorio de nivel especializado”
El acuerdo de la Casa Blanca no supone ausencia de control estatal
Estados Unidos favorece en el acuerdo con las grandes empresas del sector los compromisos empresariales, pero eso no supone ausencia completa de actuación estatal: continúan existiendo otras responsabilidades legales y medidas sub nacionales.
California, por ejemplo, anunció el 30 de septiembre nuevas protecciones laborales frente al uso de IA. El Reino Unido combina principios no obligatorios con leyes existentes y supervisores sectoriales, incluidos los de protección de datos y servicios financieros.
Por eso, dividir el mundo entre países que regulan y países que dejan todo a las empresas oculta una realidad más compleja: lo decisivo es qué obligaciones existen, quién verifica su cumplimiento y qué recursos tiene para hacerlo.
La autorregulación ofrece velocidad y puede reducir costos de implementación; también facilita adaptar controles a tecnologías cambiantes.
Sus riesgos aparecen cuando los beneficios comerciales quedan dentro de las empresas y los daños se trasladan a trabajadores, usuarios o comunidades.
En el trabajo, importa prevenir decisiones discriminatorias, en privacidad, proteger los datos, en información, enfrentar fraudes y suplantaciones y en seguridad, impedir usos cibernéticos o biológicos peligrosos.
El acuerdo estadounidense con los gigantes tecnológicos se concentra especialmente en estos últimos riesgos y no constituye una respuesta integral a todos los efectos de la IA.
La pregunta que deja abierta entonces es más que concreta: cuando una promesa empresarial falla, ¿quién tiene acceso a la evidencia y quien tiene la autoridad para intervenir? Todo un tema que, por ahora, la propia Inteligencia Artificial no puede responder.
