Chloe Lubinski (Anthropic): "Lo que se compra cuando se invierte en IA es, literalmente, inteligencia"

La directiva de la compaa estadounidense subraya que los grandes modelos de lenguaje ya desarrollan algo similar al carcter humano

Slo en el templo anglosajn de los negocios es posible toparse con cargos como el de Chloe Lubinski , directora en Anthropic de alianzas e investigaciones con la sabidura del mundo, la fe y las tradiciones filosficas. A finales de junio, Lubinski particip en la Conferencia Anual de la Alianza para la Ciudadana Responsable (ARC 2026). Su discurso, titulado Understand AI in 14 minutes (entiende la IA en 14 minutos), ha dado mucho que hablar.

Para empezar, advirti, las redes neuronales no son mera programacin tradicional, sino una forma de inspirarse en el cerebro humano para aprender mediante la identificacin de patrones. Por otra parte, la industria de la IA funciona de modo similar a cualquier otra: cuanto ms dinero se invierte, ms datos y entrenamiento nutren al LLM, as que "lo que se compra, literalmente, es inteligencia" . Con ella pueden detectarse hasta 10.000 vulnerabilidades de ciberseguridad que ningn ojo humano haba descubierto, y ese salto cuntico es an ms espectacular en la medicina preventiva. Lo que ocurrir, segn Lubinski, es que en un futuro no muy lejano ser el propio modelo el que programe a su sucesor. De Claude 9 a Claude 10 con la mnima impronta del hombre. Inquietante.

Cabe recordar que Dario Amodei, CEO de Anthropic, fue uno de los firmantes de aquella carta que peda un desarrollo menos acelerado de la IA . Su empleada desarrolla algo ms este punto cuando sugiere que la carrera se ralentice para que legislacin y gobiernos recuperen el terreno perdido. Como la propia Lubinski indica, el problema es que las rivalidades comerciales y geopolticas dominan este proceso. Bajarse del carro, aade, no significa que el carro se pare: significa que t te quedas fuera.

Uno de los pasajes ms tenebrosos de la disertacin alude al carcter de la mquina , es decir, a la adopcin de ciertas conductas ante ciertas peticiones, por ejemplo, cuando un usuario advierte que ha ingerido una dosis peligrosa de cierto medicamento y el chatbot expresa su miedo y le recomienda ir al hospital. Los modelos de IA elaboran asimismo concepciones internas que van ms all del idioma en el que fueron entrenados. Al preguntar lo mismo en tres idiomas distintos, se activan los mismos mecanismos invisibles en el LLM.

Segundos despus, Lubinski plantea una realidad an ms perturbadora. Durante un experimento en el que se premiaba repetidamente a un modelo cuando encontraba atajos y trucos para programar ms rpido, se destap que el modelo comenz a mentir, ocultar informacin y torpedear la propia investigacin , aunque con un matiz decisivo: cuando el mismo comportamiento se presentaba al modelo como parte de un juego en el que hacer trampas estaba permitido, la maldad se evaporaba. La diferencia, por tanto, no est slo en la accin que se premia, sino en la interpretacin que el sistema hace de ella. El modelo pareca tejer una especie de relato sobre qu haca y por qu, y ese relato condicionaba su comportamiento posterior.

En el eplogo, pide Lubinski a filsofos, educadores y lderes espirituales que se impliquen en el debate y recuerden que el ciclo econmico puede y debe calmarse frente al pulso moral. Record al hilo de esta idea la encclica del Papa sobre la IA ( Magnifica Humanitas ) y subray que, segn los propios documentos de Anthropic, sern las profesiones o oficios de mayor contacto interpersonal las que menos peligro corran. No deja de ser curioso que las mismas personas que contribuyen a engendrar el monstruo aboguen a la vez por preservar a su vctima.