OpenAI, Anthropic y Google DeepMind están trabajando en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial (IA), en respuesta a los llamados para controlar mejor los abusos de esta tecnología. El proyecto ya ha recibido críticas y corre el riesgo de quedar bloqueado por motivos políticos. Estos tres actores clave de la IA abogan, en particular, por la creación de un organismo de control y supervisión capaz de rechazar los proyectos más peligrosos.

Primera modificación: 16/09/2026 - 13:56Última modificación: 16/09/2026 - 13:57

4 min Tiempo de lectura

Anuncios

Los gigantes de la inteligencia artificial quieren extender a todo el país lo que acaba de aprobarse en California: la creación de un organismo de supervisión independiente. La idea surgió de una propuesta de Demis Hassabis, quien fue director general de Google DeepMind antes de asumir la presidencia a principios de agosto, y quien sugirió una entidad similar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un organismo de autorregulación del sector financiero.

El debate sobre los riesgos de la IA ha cobrado fuerza desde principios del verano, impulsado por una serie de incidentes y declaraciones apocalípticas de varios profesionales de la inteligencia artificial. En particular, varios modelos de IA de OpenAI y Anthropic salieron espontáneamente de su entorno confinado para acceder a Internet e irrumpir en sitios web y plataformas. Sin embargo, la creación por parte del sector de su propio organismo de supervisión, aunque se llevara a cabo por iniciativa exclusiva del sector, requeriría una ley, sobre todo para evitar que la industria de la IA sea acusada de colusión y de infringir las normas de competencia.

Leer tambiénPor qué OpenAI y Anthropic quieren frenar la carrera por la inteligencia artificial

La creación de la FINRA fue autorizada por la ley federal y está bajo la supervisión del organismo regulador de los mercados de EE. UU., la SEC, que depende directamente del poder ejecutivo. “La FINRA puede elaborar sus propias normas, pero la SEC debe aprobarlas”, insiste Andrew Tuch, profesor de derecho en la Universidad de Washington en San Luis. Todos los textos que rigen la FINRA “han sido aprobados en el Congreso o elaborados bajo la supervisión de la SEC”.

Sin embargo, tras el llamado a frenar el desarrollo de la IA lanzado el sábado por el director de Anthropic, Dario Amodei, Donald Trump y varios miembros de la mayoría presidencial reiteraron su deseo de no restringir al sector, oficialmente por temor a que China tome la delantera. Han desestimado las advertencias lanzadas por varios funcionarios y desarrolladores, en particular Jacob Coxon hace una semana, sobre los riesgos que representa la IA para la humanidad, y el presidente estadounidense las calificó de “basura”.

Expertos independientes

Los principales actores del sector de la IA llevan varios meses instando al gobierno estadounidense a regular el sector y supervisar la seguridad de la IA. A principios de agosto, la administración de Trump puso en marcha un proceso de evaluación de los nuevos modelos de IA, pero este se basa en la participación voluntaria y no se ha dado a conocer su mecanismo.

En su mensaje publicado a mediados de julio, Demis Hassabis había propuesto una estructura financiada por las empresas del sector, cuyo consejo estaría integrado por expertos independientes y representantes del ecosistema abierto. Este último está compuesto por desarrolladores de IA abierta, es decir, accesible de forma gratuita, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic. Una vez que la organización esté en funcionamiento, las empresas más avanzadas en IA deberían someter sus nuevos modelos a una revisión, centrada especialmente en la seguridad, antes de poder comercializarlos.

“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todos”, comentó en el canal CNBC Aidan Gómez, director ejecutivo de la empresa canadiense Cohere, que está desarrollando su propia IA. “Hay muchísimas partes interesadas a las que se debe consultar”.

“Un punto de partida para la creación de estándares internacionales”

Este nuevo organismo también podría impulsar una desaceleración coordinada del desarrollo de la IA, según Demis Hassabis, en caso de que la comprensión de los riesgos no siga el ritmo de avance de la inteligencia artificial.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad”, declaró el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Demis Hassabis sugirió que el nuevo organismo de autorregulación constituya “un punto de partida para la creación de estándares internacionales para la IA de vanguardia”.

Varios observadores, en particular del lado republicano, acusaron a las grandes empresas de IA de “apropiarse de la regulación”, es decir, de querer definir sus propias normas y ponerse de acuerdo para proteger, sobre todo, su ventaja competitiva, en detrimento de los competidores y los consumidores. David Sacks, un influyente asesor de Donald Trump, planteó el espectro de un cártel de la IA, instando a cada empresa a actuar de manera unilateral, incluso si eso significara ralentizar por sí sola su ritmo de desarrollo, un escenario poco probable dadas las inversiones realizadas en las empresas más destacadas del sector.