Sobre su exposición en Davos.
Uno de los mejores libros que leí es “Sapiens: De animales a dioses” de Yuval Noaḥ Harari. Un libro original, audaz, divertido, bien escrito y arriesgado. De Harari leí todos sus libros y ninguno es tan potente como Sapiens. Hoy, por el impacto y las características de la inteligencia artificial, el más comentado es Nexus. Del interesante “21 lecciones para el siglo XXI” la parte que me resultó más atrayente y bien fundamentada es la relacionada con la meditación. Recomiendo esa lección. De lo mejor que leí al respecto.
Harari es muy criticado por distintos expertos cuyos campos son abordados por él: historiadores, antropólogos, sociólogos, tecnólogos, economistas. Leí, y escuché, la indignación en esos expertos. Dicen que no es original, que no es riguroso. Que copió. Que es una derivada de trabajos más ricos. Veo esas críticas como una virtud. Con Sapiens, en el peor de los casos, Harari reúne mucha información y sintetiza producción de conocimiento con originalidad y audacia. Le da un sistema.
Este enero, desde su exposición en Davos, Harari volvió a ser una referencia en la discusión. Me subo ahora al tren de los críticos indignados. La exposición de Harari fue imprecisa, vaga y, en el extremo, con falsedades que conducen a caminos peligrosos.
Creo que lo más valioso de la charla de Harari fue la explicación del salto de herramienta a agente, y los riesgos potenciales de la tecnología. A esto se le agrega la noción, en toda su charla, de que hay que tomar decisiones de regulaciones y controles sobre la IA ahora.
También es, llamémoslo así, edificante, el planteo de dilemas en los extremos del uso de IA, como por ejemplo que ya llegará el momento en que una persona se sienta “en pareja” con una IA o que una IA puede tener entidad jurídica y por lo tanto hacer juicios. Esos extremos ayudan a pensar nuevos desafíos en todos los campos a partir del nuevo paradigma tecnológico.
Algo divertido es el chiste de Harari de que las IA pueden crear nuevas religiones ya que, hasta ahora, según los humanos las religiones fueron creadas por una mente no humana o superior a la humana. Si bien realmente la IA no es ninguna entidad superior que razone, la parte de las entidades superiores que crearon religiones es original y manifiesta una predisposición humana a pensar de que hay mentes o razonamientos superiores a los de los humanos.
El problema central de la exposición de Harari es lo que da a entender sobre que la IA puede pensar. Lo que hace la IA generativa que crea textos es asimilar la predicción en el lenguaje con el pensamiento: ordenar palabras una detrás de otra y relacionadas entre todas ellas con una lógica propia del razonamiento. Confunde producir lenguaje con comprender, querer o actuar autónomamente. Y avanza con la idea de que la IA se va a adueñar de todo aquello que se hace con palabras (el sistema legal o las religiosas basadas en texto como el judaísmo, el cristianismo y el islamismo, por ejemplo). Dice, incluso, que la IA va a determinar las palabras que usan los humanos.
La IA no puede pensar. La IA es, básicamente, matemática. La inferencia que hace se basa en programación y cientos de miles de millones de datos procesados a una velocidad inaudita. Una figura que me gusta mucho es la del “loro estocástico”: la IA es un “loro estocástico”, un sistema que repite (como un loro) patrones del lenguaje que aprendió, pero sin comprender realmente lo que dice, generando respuestas de forma probabilística (estocástica). Esta idea es de un artículo llamado “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” y es de, entre otras autoras, Emily Bender, Timnit Gebru, Margaret Mitchell. Está citado en un excelente artículo del MIT Technological Review: “What is AI?” de William Douglas Heaven.
Otro problema es el supuesto de que el mundo, o la creación humana, o incluso el razonamiento y la inteligencia, está hecho principalmente de palabras. Harari se emparenta con el cineasta Nanni Moretti, quien en Palombella Rossa gritó “Las palabras son importantes” (Le parole sono importanti). Pero donde Moretti se hacía fuerte (en la degradación del uso de las palabras: quien habla mal, piensa mal y vive mal. Harari exagera y sobre carga el poder de las palabras y las aísla de su construcción, sus efectos, y su función.
El lenguaje nunca opera solo. El derecho, por ejemplo, no es texto. Es texto más coerción, legitimidad, interpretación, institución, fuerza pública y conflicto político. Reducirlo a su dimensión lingüística es confundir la norma con el orden que la hace cumplir. Lo mismo vale para la religión: no es doctrina. Es comunidad, rito, autoridad, experiencia, cuerpo, superstición y tradición. Es esperanza y miedo. En estos casos lo que sostiene al lenguaje no es más lenguaje sino prácticas, relaciones de poder y formas de vida que lo exceden y lo preceden.
Otro problema del razonamiento de Harari es tratar a la IA como “inmigrantes” (en un artículo anterior a esta exposición la trató como un “extraterrestre”). Lleva esta idea mucho más allá de la alegoría, porque asimila a la IA con inmigrantes o con extraterrestres. Pero la IA no es un ser humano. No es ni millones, ni miles, ni cientos ni un ser humano ni ningún otro ser. Son cálculos matemáticos diseñados para que funcionen matemáticamente con patrones que procuran imitar el razonamiento humano.
Otro problema es su tesis casi metafísica: “todo lo hecho de palabras será tomado por la IA”.
Para mí el principal problema de la exposición de Harari (que se repite en varias exposiciones, y que las grandes empresas de IA usan a su favor, hay que ver por ejemplo la “constitución” de Anthropic para Claude) el principal problema decía es el antropomorfismo: la tendencia a atribuir características, emociones, intenciones o formas humanas a animales, objetos inanimados, fenómenos naturales o deidades. Considerar a la IA como una entidad. Darle características humanas. O superiores a la humana. Sobre esta idea del antropomorfismo sobre la IA y sus inconvenientes recomiendo el substack de la filósofa paulista Luiza Jarovsky.
La IA es una herramienta creada por humanos y, como tal, su diseño, comportamiento y mecanismos de control son producto de decisiones, acciones y omisiones humanas. Hábiles, negligentes o malintencionadas. Que esta herramienta pueda adquirir ciertos márgenes de autonomía no cancela esa responsabilidad. La desplaza. La complica, pero no la disuelve. Atribuirle a la IA una categoría superior propia e independiente del humano no es un diagnóstico riguroso y yo creo que es negligente. Produce miedo, es terreno fértil para el abandono de la responsabilidad política y quita del debate lo que más importa: quién decide, quién controla y quién se beneficia.
Para que el cuchillo corte, una mano humana debe empujarlo, apretarlo, moverlo. Además de haberlo diseñado y construído. El cuchillo no corta solo.
Las atribuciones humanas, y la superioridad sobre lo humano, está claramente presente en Frankenstein de Mary Shelley, y sobre todo en la última versión cinematográfica del director Guillermo del Toro, que se puede ver en Netflix. Los excesos, la maldad y la miseria son ejercidos y desarrollados por los humanos. La víctima, el monstruo, es en virtudes superior a sus creadores. Y es, además, eterno.
Atribuirle características humanas a la inteligencia artificial es un camino peligroso. Hay que remarcar y tener siempre presente la diferencia. Aunque parezca tonto y sencillo. Esto es importante para que los gobiernos, las sociedades, los humanos, no abandonen la potestad de incidir sobre la IA desde el diseño, la programación, la legislación, los datos a utilizar, etc. Todo tipo de regulaciones necesarias que, de acuerdo a los objetivos que los países tengan, se les pueden poner a las IA y a las empresas de IA por el bien de las sociedades, las personas, los países y las economías.
Además los modelos de IA se irán complejizando y se vestirán cada vez más de características humanas. Se harán más atractivos para que se le atribuyan conciencia, sensibilidad y moral. La gente, quizás, tenderá a interactuar cada vez más con este tipo de modelos suponiendo que pueden experimentar emociones, sentimientos, generar ideas propias y, en el extremo, ser sujetos de derecho. Los pueden considerar pares. El peligro de las exposiciones del tipo de las de Harari es que construyen el terreno fértil para que a las IA se las considere como entidades equivalentes a seres humanos.
