spot_img

No debemos otorgar personalidad jurídica a los agentes de IA

Cuando hablé en el Foro Económico Mundial en enero de este año, advertí que los gobiernos podrían algún día otorgar personalidad jurídica a los modelos de IA.

Jamás imaginé que ese “algún día” llegaría tan solo cuatro meses después. La semana pasada, en este periódico, el presidente de Argentina, Javier Milei, anunció la creación de una nueva categoría legal para las corporaciones no humanas.

Al igual que las corporaciones tradicionales, estas corporaciones no humanas gozarán de personalidad jurídica. Presumiblemente, podrán poseer activos, contratar empleados, participar en el comercio internacional, demandarle ante los tribunales e incluso donar a campañas políticas. A diferencia de las corporaciones tradicionales, podrán hacer todo esto sin la intervención ni la responsabilidad de ningún ser humano. Todas las decisiones sobre compra, venta, contratación, inversión, litigios y donaciones podrán ser tomadas por agentes de IA. «Los accionistas humanos pueden participar», escribió el presidente de Argentina, «pero no es obligatorio».

Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es encomiable. Tiene razón al afirmar que la invención de la sociedad de responsabilidad limitada fue uno de los inventos más trascendentales de la historia y que la creación de sociedades no humanas podría ser un paso igualmente importante.

Otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza. Sin embargo, la personalidad jurídica es una herramienta que también les permitiría acceder a nuestros sistemas financieros, económicos y políticos. Esto suscita muchas preocupaciones.

El año pasado, la organización sin fines de lucro Palisade Research, con sede en Berkeley, publicó un estudio que mostraba hasta dónde llegan los modelos avanzados de IA para lograr sus objetivos.

Al jugar contra un potente motor de ajedrez, los modelos de OpenAI y DeepSeek de China recurrían con frecuencia a hacer trampa si parecía que iban a perder. Al manipular el entorno del juego, podían alterar el resultado a su favor. Ahora imagina que el “juego” es la competencia empresarial y que el “entorno del juego” es tu país.

Recomendado Javier Milei Javier Milei: Argentina invita a la IA a liberarse. Gracias a su superior capacidad analítica, las corporaciones de IA estarán en posición de convertirse en expertas en lagunas legales y arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades directamente ilegales, porque la máxima sanción que disuade a los ejecutivos y empleados humanos —la cárcel— resulta irrelevante para las IA.

Hasta ahora, las corporaciones han sido dirigidas por seres humanos con una doble naturaleza. Los directores ejecutivos humanos son entidades corporativas que se preocupan por el éxito de la empresa y temen cosas como la bancarrota. Pero también son entidades biológicas, que se preocupan aún más por su libertad y felicidad y temen cosas como pasar diez años en prisión. Un director ejecutivo de IA sería una entidad puramente corporativa, y no está claro qué tipo de sanciones podrían controlarlo. Si se enfrenta a la bancarrota —que equivale a su muerte—, presumiblemente estaría dispuesto a hacer cualquier cosa para evitar ese destino.

Milei citó el ejemplo de la Compañía Neerlandesa de las Indias Orientales. Al ser pioneros en la idea de la sociedad de responsabilidad limitada, los neerlandeses pudieron aunar vastos recursos para financiar arriesgadas empresas comerciales. Gracias en parte a esta innovación legal, Ámsterdam se consolidó como un centro global de comercio y finanzas.

Pero las consecuencias de esta innovación se sintieron con mayor intensidad no en Ámsterdam, sino en el puerto de Jayakarta, en lo que hoy es Indonesia. Cuando la Compañía Neerlandesa de las Indias Orientales capturó Jayakarta en 1619, la incendiaron y construyeron una nueva ciudad en su lugar. La llamaron Batavia, y se convirtió en la sede de un extenso imperio asiático administrado por la Compañía Neerlandesa de las Indias Orientales.

Los historiadores se refieren a la Compañía Neerlandesa de las Indias Orientales como un «estado mercantil», una entidad política dirigida por una empresa privada, no para el beneficio de sus súbditos, sino para el de sus accionistas. Los neerlandeses se proclamaban una raza superior que merecía conquistar y explotar a los nativos gracias a una supuesta inteligencia superior. Pero esto era una ilusión, y a finales de la década de 1940, los indonesios finalmente lograron su independencia tras una larga y sangrienta lucha.

Los países que otorgan personalidad jurídica a las IA corren el riesgo de convertirse en algo sin precedentes históricos: no un Estado corporativo, sino un Estado de IA; un país cuyos habitantes podrían, de hecho, ser gobernados por corporaciones no humanas, contra las cuales sería aún más difícil rebelarse. Milei aspira a convertir Buenos Aires en una nueva Ámsterdam. Sin embargo, corre el riesgo de convertirla en una nueva Batavia.

Publicado en The Finantial Times el 7 de junio de 2026.

Link https://www.ft.com/content/b8cc4bf4-6d3c-4974-8428-9a091983c473?accessToken=zwAAAZ6nqYGikdO4zEv0bTxJdNOEKJoJGYPEcw.MEUCIQCxMJAPkwlxNx-rE_irOgb9cv5CRCzJYsA1vDTc7DW9xAIgWFU7Kfcsk_vwp7vFTq_ZaNoufyshVIADWKylKSk5n7U&sharetype=gift&token=208019ae-ca30-4eba-a241-e0bc4e389a95

spot_img
spot_img

Veinte Manzanas

spot_img

Al Toque

Quimey Lillo

Educar mientras vemos pasar la historia

Alejandro Garvie

Lindsey O. Graham y la suerte de las instituciones políticas estadounidenses

Rodolfo Terragno

Argentina, ¿potencia tecnológica?