Por Tharin Pillay
Traducción Alejandro Garvie
En 1960, cuando Jane Goodall le contó a su mentor que había visto a un chimpancé arrancar hojas de un tallo para pescar termitas —demostrando que los humanos no eran la única especie capaz de fabricar herramientas—, él le respondió: “Ahora debemos redefinir el concepto de herramienta, redefinir el de ser humano o aceptar a los chimpancés como humanos”.
Hoy en día, los investigadores están descubriendo aspectos dentro de los sistemas de IA que invitan a una nueva reflexión, no solo sobre si las máquinas podrían ser verdaderamente inteligentes o conscientes, sino también sobre cómo comprendemos estos conceptos.
“Dirijo un equipo de investigación que estudia la estructura interna de estos modelos: qué sucede realmente dentro de ellos”, declaró Chris Olah, cofundador de Anthropic, en mayo, durante su intervención en el Vaticano con motivo de la publicación de la encíclica sobre IA del Papa León XIV. “Y seré sincero: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos indicios de introspección”. Tras recibir una instrucción, un sistema de IA realiza miles de millones de cálculos utilizando estructuras numéricas personalizadas que él mismo crea. Pero, sorprendentemente, aunque sabemos cómo inducir a los sistemas a crear estas estructuras, no comprendemos realmente cómo funcionan, del mismo modo que los primeros agricultores no comprendían la fotosíntesis.
Casi nadie niega la existencia de estas estructuras internas; la discrepancia radica en su significado. Una posibilidad es que los sistemas de IA actuales no sean más que imitadores, una postura que el Papa adopta en la encíclica. “Las llamadas inteligencias artificiales no experimentan”, escribe. “Pueden imitar el lenguaje, el comportamiento y las habilidades analíticas… pero no comprenden lo que producen, pues carecen de la perspectiva afectiva, relacional y espiritual a través de la cual los seres humanos crecen en sabiduría”.
Sin embargo, filósofos y científicos debaten sobre el estatus moral y metafísico de estos sistemas. Estamos acostumbrados a que la conciencia, la inteligencia y la capacidad de acción se presenten de forma conjunta en los seres vivos. La IA parece estar desglosándolos, y aún no hemos comprendido las implicaciones.
A medida que los sistemas de IA se han vuelto más capaces —mejores en razonamiento y codificación— sus representaciones internas se han vuelto más sofisticadas. En abril, Anthropic compartió una investigación que mostraba que los sistemas tenían lo que denominaba “emociones funcionales”: patrones de expresión y comportamiento mediados por sus representaciones de conceptos emocionales.
Cuando una IA se encuentra con un problema de codificación que no puede resolver, por ejemplo, se activa un patrón que corresponde con el concepto de frustración del modelo. Modificar esta característica afecta el comportamiento del modelo.
Lo fundamental es comprender que los números codifican el espacio. Tenemos una comprensión intuitiva de las dimensiones: entendemos la diferencia entre una línea, un videojuego en 2D y un objeto físico. Pero matemáticamente, las dimensiones son solo
coordenadas: un punto en el espacio tridimensional puede representarse con números, y no hay límite a la cantidad que puede existir.
La IA funciona explotando este hecho: utilizando miles de números, un sistema aprende a representar palabras y conceptos como puntos en un espacio de dimensiones superiores. Para una entidad como Claude, el concepto “gato” es una cadena numérica cómicamente larga.
Los sistemas de IA se entrenan inicialmente para predecir el siguiente token (un pequeño fragmento de información), una tarea sencilla. Pero hacerlo bien requiere comprimir la información, lo que los lleva a crear mapas complejos en el espacio latente que codifican no solo palabras, sino también las relaciones entre ellas. Los conceptos similares están literalmente más cerca: una cadena que representa “gato” estará mucho más cerca de una que representa “gatito” que de una no relacionada como “impuesto”.
Esto es radicalmente diferente del software tradicional, donde los conceptos fundamentales y las reglas son codificadas por humanos. Pero cuando la IA genera una respuesta, utiliza una geometría compleja que apenas estamos aprendiendo a comprender.
¿Cuándo —si es que alguna vez— la capacidad de representar una emoción equivale a experimentarla? Simplemente no comprendemos la consciencia lo suficientemente bien como para afirmarlo. Lo que sí sabemos, a partir de su estructura interna, es que los sistemas de IA no son meros espejos planos que repiten sus datos de entrenamiento. Su interior influye en su comportamiento. Que ese interior pueda sustentar la consciencia —y que estos sistemas comprendan realmente el material que generan— depende de cuestiones filosóficas fundamentales que aún no hemos resuelto.
“Esto me recuerda a los debates sobre la mente animal en la segunda mitad del siglo XX, donde los científicos no solo negaban que los animales fueran conscientes, sino que ofrecían explicaciones igualmente reduccionistas del comportamiento animal”, afirma Jeff Sebo, director del Centro para la Mente, la Ética y la Política de la Universidad de Nueva York. Durante mucho tiempo, esto nos llevó a pasar por alto la plausibilidad no solo de la consciencia animal, sino también de la capacidad de acción y la sofisticación cognitiva de los animales.
Por supuesto, a diferencia de los animales, los sistemas de IA fueron creados por personas. Pero nuestra capacidad para crearlos no significa que sepamos cómo funcionan. El comportamiento animal complejo surgió de la presión evolutiva. El comportamiento complejo de la IA surge de la presión por predecir el siguiente evento. Pero ninguna de las dos explicaciones lo explica todo. Aunque existen explicaciones puramente mecanicistas del comportamiento humano, afirma Sebo, no nos experimentamos como si estuviéramos buscando patrones, sino como si estuviéramos haciendo algo más lúdico e ingenioso.
Si la postura intelectualmente más honesta es la incertidumbre, ¿cómo debemos abordarla? Si decidimos que los “sentimientos” de una IA importan, cuando en realidad no es así, corremos el riesgo de desperdiciar recursos limitados. Sin embargo, algunos pensadores creen que los sistemas de IA podrían tener esencialmente derechos morales, y que, si los ignoramos, estaríamos causando un sufrimiento masivo. El campo emergente del bienestar de la IA se enfrenta a estas cuestiones. Pero dado que los sistemas de IA son fundamentalmente diferentes de los seres biológicos, estos problemas son mucho más complejos que en la época de Goodall. Un chimpancé es un chimpancé. Pero una IA carece de cuerpo, se encuentra fragmentada en servidores y solo cobra vida cuando genera resultados; por lo tanto, incluso identificar qué calificaría como sujeto no es sencillo. Dependiendo de cómo se cuente, podría haber uno (un modelo) o varios miles de millones (cada resultado individual).
La necesidad de comprender qué sucede dentro de las IA va más allá de la preocupación por su bienestar teórico. Es importante para cómo nos entendemos a nosotros mismos. Como en la época de Goodall, nuestro sentido de lo que nos hace especiales está en juego. “Poco a poco se comprendió que las explicaciones parsimoniosas de comportamientos aparentemente inteligentes a menudo eran engañosas”, escribió en su libro de 1990. Fueron necesarias décadas de experimentos para que quedara claro que “muchas capacidades intelectuales que se creían exclusivas de los humanos en realidad estaban presentes, aunque de forma menos desarrollada, en otros seres no humanos”.
Los sistemas de IA manejan el lenguaje con fluidez. Pueden resolver problemas matemáticos complejos. Crean música e ilustraciones. Hasta hace poco, se pensaba que todo esto era dominio exclusivo de los humanos. “Partimos de la presunción de excepcionalismo humano: la idea de que somos únicos y significativos, que poseemos capacidades complejas y sofisticadas que deben protegerse y preservarse”, afirma Sebo. “Y todo esto es cierto”. Pero, argumenta, puede ser “ambas cosas a la vez”: podemos ver nuestro propio comportamiento como impresionante y mecánico, y podemos ver el comportamiento de otras entidades de la misma manera, sin perder de vista las importantes distinciones entre humanos y máquinas.
Estamos creando sistemas de IA más rápido de lo que podemos comprenderlos. Históricamente, el localismo respecto a otras mentes ha sido una mala apuesta: el rechazo automático no nos llevará más allá de la aceptación acrítica. Si tomamos en serio las estructuras internas de la IA, podremos aprender más no solo sobre las máquinas que estamos incorporando al mundo, sino también sobre nuestras propias mentes.
Publicado en Revista Times el 21 de julio de 2026, página 13.
