Una catarata de alertas provenientes de Silicon Valley en forma de cartas despertó inquietudes y preguntas sobre qué tan rápido acelera la inteligencia artificial (IA). La preocupación se aceleró por las capacidades de automejora recursiva de los modelos de lenguaje, mientras la tecnología avanza demasiado rápido como para garantizar su seguridad.
The New York Times definió la trastienda del llamamiento de los investigadores de la IA como “autoservicio disfrazado de responsabilidad”. Detrás de las advertencias también aparece una disputa por quién fija las reglas del negocio: regular el desarrollo puede significar limitar los riesgos, pero también blindar a las empresas de Silicon Valley frente al avance de China.
Donald Trump dijo en Truth Social que los temores sobre la seguridad de la IA son un engaño y que existe una conspiración enfermiza contra la IA y los centros de datos.
Esta nueva ronda de pánico comenzó el 8 de septiembre, cuando el investigador Jacob Coxon, que trabajó en entrenamiento de modelos de lenguaje tanto en Anthropic como en OpenAI, renunció y advirtió que los laboratorios estaban apostando con la vida de la spersonas.
Una semana después, más de una docena de científicos e investigadores, entre actuales y exempleados de Anthropic, OpenAI y Google DeepMind, salieron en cascada a hacer sonar la misma alarma.
También se sumaron Bill Gates, que un mes atrás había esbozado una preocupación similar, y Dario Amodei, que dio detalles de lo que se cocinaba puertas adentro de Claude: publicó búsquedas de terceros que podían ir desde investigaciones científicas hasta diseños de riesgo para la humanidad.
La respuesta del mercado fue inmediata: el fabricante de chips Nvidia cayó 3,4%, el índice de semiconductores PHLX se desplomó casi 6%, SoftBank, que invierte en OpenAI, perdió 13% de su valor y las acciones de ciberseguridad y de empresas de IA subieron.
Mientras tanto, Anthropic sigue firme en su plan de salir a bolsa este año con una valuación cercana a los u$s 2 billones, y OpenAI aplazó la suya con el argumento de que, justamente por este debate, no es un buen momento.
Flavia Costa, investigadora del Conicet y autora de Vidas artificiales, dice a Letra E que es posible que sea una operación coordinada en relación con el desarrollo de mecanismos de gobernanza. “Ellos quieren plantear una auditoría independiente y ponerte a los que trabajen en esa misma auditoría independiente. Ahí tenés una operación en la que están queriendo un marco para tener alguien a quien echarle la culpa, para que no recaiga inmediatamente sobre ellos y poder cubrirse ante cualquier circunstancia”.
En pocos días, las posturas de los directivos de las empresas de IA quedaron expuestas en este tablero de ajedrez mundial. Sam Altman, ceo de OpenAI, abogó por un marco federal, pero rechazó tanto una ley específica como una exención antimonopolio para coordinar con sus rivales. Mark Zuckerberg, de Meta, se posicionó en contra de cualquier pacto sectorial, y Jensen Huang, ceo de Nvidia, dijo que no hacen falta nuevas leyes.
Por su parte, Elon Musk, de xAI, respaldó en Twitter la propuesta de Amodei de frenar el desarrollo; Gates, cofundador de Microsoft, pidió que el propio gobierno de Estado Unidos lidere la regulación porque la industria no puede autorregularse; y Demis Hassabis, de Google DeepMind, fue más matizado: meses atrás, en julio, ya había planteado que la autorregulación quede en manos de la propia industria, no del Estado.
Aidan Gomez, cofundador y consejero delegado de Cohere, fue más contundente: “Una franja reducida de compañías dominantes de Silicon Valley no debería fijar las reglas y los estándares de seguridad de una tecnología generacional para todo el mundo”.
El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, dijo que “los discursos de amenaza, confrontación y competencia maliciosa solo sirven para perturbar el proceso de gobernanza global de la IA y no benefician a nadie”.
En lo único que hay concordancia es en el riesgo potencial de que las mismas herramientas que estas empresas están diseñando puedan hacer daño.
Mariano Zukerfeld, investigador del equipo de estudios sobre Tecnología, Capitalismo y Sociedad (e-TCS), pone en perspectiva el momento: hay tantas discusiones sobre IA en simultáneo que se corre el riesgo de saltar de una a otra sin aprehender la especificidad de cada una. El debate puntual de esta semana refiere al riesgo existencial asociado al despliegue de la IA.
Sobre eso, nadie sabe con certeza las probabilidades, la gravedad ni las fechas, aunque ninguno de esos escenarios es imposible en el lapso de nuestras vidas.
Lo que a Zukerfeld le preocupa es otra cosa: que esta conversación, pese a tratarse de relaciones sociales entre humanos y tecnologías, está definida casi exclusivamente por tecnólogos que asumen —y los políticos acuerdan— que su conocimiento técnico les da autoridad para performar relaciones sociales.
Para él, ya es hora de que las ciencias sociales reclamen su lugar en esta discusión porque las regulaciones tibias no alcanzan: no harán otra cosa que intervenir en la disputa intercapitalista y desplazar los riesgos en el tiempo y el espacio.
Amodei propuso certificaciones de las propiedades de alineación de los modelos: “Si los modelos tienen la capacidad X, entonces deben ir acompañados de certificaciones de las propiedades de alineación Y y Z”, aunque él mismo admitió que esta no sería una medida del todo fiable.
En teoría, otra alternativa sería que los modelos de IA se ejecuten en las computadoras de cada personas, en vez de en los centros de datos de las empresas de vanguardia. El problema es que, si eso ocurriera, se desinflaría el negocio de los centros de datos de IA, que es exactamente el activo que estas compañías necesitan capitalizar para sostener sus valuaciones y su discurso de “infraestructura crítica”.
David Sacks, hasta hace poco zar de IA de la Casa Blanca, acusó a Amodei, Altman y Musk de fingir que necesitan suspender la ley antimonopolio para crear un cartel. También acusó a METR, el evaluador que Amodei ofrece como garantía de independencia, de estar “entrelazada con los inversores y el personal de Anthropic”.
“¿Puede un puente decidir derrumbarse?”, se pregunta en su próximo libro, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, la investigadora Timnit Gebru, para referirse a la responsabilidad de las empresas desarrolladoras de la IA.
En una entrevista a Wired , Gebru explica que cuando un puente se cae, nadie investiga si el puente era “ético”, si “decidió” colapsar o si se volvió “consciente”. Lo que se hace es revisar quién lo diseñó, quién lo construyó, qué pruebas se hicieron (o se saltaron), qué permisos se otorgaron y quién se benefició de apurar la obra.
El llamamiento pareciera ser menos parar la IA y más proteger a las empresas de Silicon Valley de sus posibles riesgos y errores de aquí al futuro. China, por su parte, plantea una discusión diferente sobre la gobernanza global y rechaza los discursos de amenaza y confrontación en torno a la IA.
La disputa tendrá un nuevo capítulo el miércoles 24 de septiembre, cuando representantes chinos se reúnan con el presidente Trump en la Casa Blanca.
