IA: la ilusión de la autorregulación

La cumbre mundial «AI for Good», organizada a principios de julio en Ginebra por la UIT, sirve como escaparate ético para encubrir el cabildeo de los gigantes de la tecnología, denuncia Pierre Patelli, del CETIM. Ante esta autorregulación, se exige un marco internacional estricto en la ONU.

La iniciativa «AI for Good» de la Unión Internacional de Telecomunicaciones (UIT) ilustra la voluntad de las empresas transnacionales (ETN) de controlar la toma de decisiones públicas al bloquear cualquier legislación vinculante. Bajo el pretexto de la filantropía, la UIT es instrumentalizada al servicio del «tecnosolucionismo» para imponer estándares industriales privados y mantener a los Estados en una dependencia estructural frente al gran capital. Esta instancia funciona como un teatro en el que la soberanía de los pueblos se ve eclipsada por los intereses particulares de los gigantes de la tecnología digital, quienes dictan las prioridades y se “autorregulan”.

Esta farsa es flagrante ante los derechos del pueblo palestino: la UIT guarda silencio sobre el uso masivo de la IA en la vigilancia de la población y en la guerra. De hecho, en plena cumbre [que se llevó a cabo del 7 al 11 de julio en Ginebra], activistas pro-Palestina denunciaron el uso de la IA en el genocidio en curso, cuestionando al vicepresidente de Amazon sobre el proyecto Nimbus y el sistema Lavender, que automatizan la selección de objetivos y los ataques militares (1).

La brecha entre el discurso ético de la industria y la realidad en el terreno es sorprendente. Esta desviación se deriva directamente de un sistema económico que antepone las ganancias privadas a todo lo demás. La instrumentalización de la IA como arma de guerra no es una casualidad, sino la consecuencia de una arquitectura tecnológica diseñada sin salvaguardias, en consonancia con un sistema económico que socializa las pérdidas y privatiza las ganancias. Este dominio duplica la asimetría geopolítica: el mercado de la IA es un monopolio de un puñado de empresas estadounidenses, diseñado para excluir y someter a las culturas y sociedades del Sur global.

Estamos atravesando un punto de inflexión histórico en el que los sistemas de IA se están convirtiendo en agentes autónomos capaces de influir en la economía, las elecciones y los conflictos armados. Esta capacidad de actuar debe permanecer bajo una supervisión humana rigurosa, y los desarrolladores deben asumir la responsabilidad legal de los actos generados. La IA es un bien común global que no puede seguir siendo privilegio de un oligopolio. El enfoque promovido por AI for Good es una táctica de captación normativa que busca neutralizar el control democrático.

Ya es imprescindible romper con el ciclo de promesas tecnófilas incumplidas. La autorregulación ya no puede considerarse una solución viable; es una estrategia para proteger los intereses privados. Debemos iniciar negociaciones multilaterales para establecer un marco regulatorio internacional vinculante. Este marco debe exigir una transparencia absoluta (en cuanto a los algoritmos, los datos, los sesgos y el consumo energético), establecer mecanismos de responsabilidad legal y garantizar la soberanía digital de los Estados, en particular los del Sur global. Además, cualquier inteligencia artificial dotada de autonomía (IA que actúe sin control humano) debe seguir estando subordinada a una supervisión humana rigurosa e irrevocable, al tiempo que se consagra el principio de que los desarrolladores asuman su parte de responsabilidad jurídica por los actos generados por sus sistemas. La gestión de la inteligencia artificial es un bien común mundial que no puede seguir siendo privilegio exclusivo de unas pocas empresas. Si no recuperamos el control ahora, corremos el riesgo de permitir que se arraiguen prácticas de gestión opacas, en las que las máquinas decidan, los poderosos dominen y el derecho internacional pierda toda su relevancia.

Para salir de la pasividad, es imprescindible incorporar la regulación de la IA al proyecto de tratado vinculante sobre las empresas transnacionales y los derechos humanos, que actualmente se está negociando en el Consejo de Derechos Humanos de la ONU. Las iniciativas voluntarias, como el Pacto para el Futuro, se limitan a advertencias sin alcance jurídico, lo que deja vía libre a la impunidad de las empresas transnacionales. Obligar a estas entidades a rendir cuentas legalmente por los delitos facilitados por sus tecnologías es la única vía realista. Ya no basta con consultar a expertos designados por las empresas; es hora de someter a los gigantes digitales a un marco de responsabilidad penal, administrativa y civil, tanto nacional como internacional, en el que sus beneficios ya no puedan disociarse de sus repercusiones sobre los derechos humanos y la soberanía de los Estados. Sin ese vínculo con el tratado vinculante sobre las empresas transnacionales, cualquier discurso sobre la IA «al servicio del bien» seguirá siendo un insulto para las poblaciones víctimas de la violencia tecnológica y una capitulación ante la omnipotencia del mercado.Pierre Patelli, economista del Centro Europa-Tercer Mundo (CETIM)

(1) https://www.newarab.com/news/activists-disrupt-amazon-boss-un-over-ai-services-israel