El papa insistió en su rechazo a otorgar derechos y personalidad jurídica a entes autónomos, a contramano del proyecto del Presidente y Federico Sturzenegger.
León XIV y Javier Milei: el debate por la responsabilidad ante la inteligencia artificial
Imagen ilustrativa con IA.La llegada del papa León XIV a la Argentina vuelve a poner en primer plano una discusión sobre la inteligencia artificial que también interpela al gobierno de Javier Milei. Mientras el pontífice reclama mecanismos claros de rendición de cuentas, la administración libertaria impulsa empresas operadas por agentes de IA sin personal humano.
Una de las temáticas más recurrentes en los discursos del papa es la inteligencia artificial. A días de su llegada a la Argentina, volvió sobre el tema: rechazó otorgar derechos o personalidad jurídica a los sistemas de IA y reclamó mecanismos claros de rendición de cuentas.
En la Argentina, en cambio, el Gobierno promete no regular preventivamente la tecnología e impulsa un esquema de empresas operadas por agentes de IA que responden con su propio patrimonio. Si bien hubo promesas de último momento para que los responsables sean humanos, el proyecto aún espera definición en el Senado.
Durante el encuentro de la International Catholic Legislators Network, celebrado el 21 de agosto, León XIV advirtió que la innovación puede convertirse en un instrumento de “colonialismo ideológico o económico”. El 30 de octubre, ante científicos e investigadores reunidos en el Vaticano, reiteró su preocupación. “En la actualidad, algunos proponen conceder a estos sistemas derechos, o incluso la personalidad jurídica. Tal enfoque corre el riesgo de ocultar la responsabilidad humana y dejar a quienes sufren daño a enfrentarse a una entidad sin rostro”.
En el medio, el 23 de septiembre, Milei pronunció su discurso ante la Asamblea General de la ONU y prometió no regular de manera preventiva, ofrecer “responsabilidad limitada para las empresas que operen con agentes de IA” y otorgar beneficios fiscales al sector. Letra E ya analizó el choque entre ambos y su costado patagónico, con los data centers, el agua y el trabajo como ejes de tensión.
La visita papal y su discurso de la semana pasada vuelven a poner el foco en una pregunta que el Gobierno no termina de responder: cuando algo sale mal, ¿a quién se le reclama?
Milei no rechaza cualquier norma, sino la regulación preventiva. Su posición, repetida ante la Cámara de Comercio de Estados Unidos, es que no debe haber regulaciones previas, aunque admite las posteriores. Según el mandatario, son los Estados los que agitan el miedo a la tecnología para ofrecer control a cambio de seguridad.
Si se acepta esa lógica, casi todo el peso recae en lo que ocurre después del daño: la demanda, la reparación, el juez. Por eso no es casual que León XIV haya pedido mecanismos claros de rendición de cuentas, de modo que las decisiones sobre la IA puedan examinarse, cuestionarse y reparar los perjuicios que causen. También él mira el después.
El proyecto de nueva Ley General de Sociedades, impulsado por el ministro de Desregulación y Transformación del Estado, Federico Sturzenegger, crea en su artículo 14 la sociedad automatizada: una compañía que funciona con algoritmos autónomos o agentes de IA, sin personal humano para su operación ordinaria, y que responde ante terceros con su patrimonio.
El ministro defendió la figura en la cámara alta. Negó que elimine la responsabilidad civil y legal, y sostuvo que el régimen no difiere del de las sociedades anónimas.
El 19 de agosto, Patricia Bullrich , jefa de bloque de La Libertad Avanza en el Senado, anunció en comisión que buscaban endurecer la responsabilidad de estas sociedades “con responsables físicos”. El proyecto, sin embargo, sigue sin tratamiento. Un mes después de aquel anuncio, Milei volvió a ofrecer al mundo responsabilidad limitada.
Para Agustín Tarelli, abogado y coordinador del Centro Interinstitucional de Ciencia de Datos, el problema excede la discusión regulatoria y toca los fundamentos del derecho porque el derecho necesita de personas humanas.
“El fenómeno jurídico es esencialmente un fenómeno humano. Las sociedades comerciales, las personas jurídicas, son una ficción de un ordenamiento jurídico, pero sí o sí están en un marco que requiere del humano para funcionar, por una cuestión de la manifestación de la voluntad, que es la llave del acto jurídico”, explicó.
En esa lectura, la voluntad, con intención, libertad y discernimiento, es inseparable del derecho. Por eso, trasladar al mundo de los agentes de IA estructuras pensadas para personas plantea un problema conceptual antes que un problema técnico.
“El derecho es esencialmente cultura. Hay un autor argentino que hay que reivindicar, que es Carlos Cossio, ideólogo de la escuela egológica, que entendía que el derecho es conducta humana en interferencia intersubjetiva. Hay derecho cuando hay interrelaciones humanas entre las personas. Entonces me parece que eso es fundamental para comprender el fenómeno jurídico”, sostuvo.
La apuesta antirregulatoria del Gobierno también recibe cuestionamientos desde la teoría económica. Para Tarelli, la regulación no es un obstáculo abstracto, sino una respuesta clásica ante fallas de mercado.
“La regulación, hasta para la teoría económica mayoritaria, es necesaria ante fallas de mercado. Cuando tenés una falla de mercado, tiene que estar el Estado para regular, para que sea eficiente, porque si hay una falla de mercado no vas a estar en presencia de lo que es un mercado de competencia perfecta, en la que tenés un precio de equilibrio, y no hay excedentes vacantes", planteó.
Y añadió una lectura política del impulso oficial: “¿Qué es lo que está detrás de esta tendencia de la antirregulación? Básicamente es la potencia del negocio de un mercado hiperconcentrado, como es el de las Big Tech, que justamente está protegiendo sus intereses. Sin soslayar, la disputa geopolítica en especial en relación con el desarrollo de los modelos de frontera".
Ante la pregunta sobre qué pasa cuando un sistema de IA causa un daño, Tarelli recalcó que el derecho ya resolvió situaciones análogas en otras revoluciones tecnológicas: “Esto es muy similar a otras disrupciones tecnológicas, aunque la presente revolución 4.0 es una disrupciones sin antecedentes, en especial, por su velocidad. Pero ocurrió en su momento con la fábrica, la máquina de vapor, y el derecho fue generando teorías para eventualmente hallar soluciones a estos problemas”, recordó.
“Por ejemplo, con la Revolución Industrial surge todo lo que es la teoría del riesgo creado. Si alguien se sirve de una máquina peligrosa para generar un beneficio y esa máquina riesgosa genera un daño, el dueño de esa máquina, que se beneficiaba con lo que generaba esa máquina, va a ser responsable. Esta es la teoría del riesgo creado, que aparte es una responsabilidad objetiva: corroborado el daño, hay responsabilidad; no hace falta probar la culpa o dolo de nadie”.
El tema todavía no apareció en la agenda pública de la visita de León XIV a la Argentina, que se extenderá del 8 al 11 de noviembre. Pero el pontífice lo instaló apenas dos días después de ser elegido, en mayo de 2025, cuando explicó su nombre ante los cardenales: la Iglesia debía responder a “otra revolución industrial” y a los desarrollos de la IA, como León XIII lo había hecho con la encíclica Rerum novarum.
Un año después, Magnifica humanitas bajó esa idea a un pedido político, con marcos jurídicos y vigilancia independiente. En octubre dio un paso más: según el papa, los principios éticos ya se conocen y lo que falta, quizás el desafío más urgente, son instituciones capaces de aplicarlos.
En octubre, la Pontificia Academia para la Vida organizó un encuentro con el Future of Life Institute. Participaron Max Tegmark, Stuart Russell, Gary Marcus y Valérie Pisano, presidenta de Mila, el instituto canadiense fundado por Yoshua Bengio.
Russell reclamó abandonar la carrera hacia máquinas con capacidades superiores a las humanas; Pisano pidió leyes y tratados internacionales. El relato oficial argentino atribuye el temor a los Estados, pero en esa sala las advertencias venían también de la propia comunidad científica.
León XIV alentó a los Estados que se reunirán en Ginebra a dar pasos concretos hacia la prohibición de las armas autónomas letales. La Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales será del 16 al 20 de noviembre y podría retomar negociaciones hacia un instrumento vinculante. Será cinco días después de que el papa deje la Argentina, el 11 de noviembre.
Argentina votó a favor de la primera resolución de la ONU sobre armas autónomas letales en 2023 y, desde 2017, se había opuesto a los sistemas totalmente autónomos; en 2025, sin embargo, se abstuvo en las votaciones más recientes
Esa posición seguramente sea una referencia cuando el país que recibirá al papa discuta, días después, el futuro de esas armas. La discusión sobre quién controla la tecnología y quién responde por sus consecuencias ya dejó de ser una cuestión exclusivamente técnica. También interpela a las instituciones, al derecho y a las decisiones políticas del Gobierno.
