Sobre los aceleracionistas y los agoreros.
Traducción Alejandro Garvie
En los últimos seis meses se ha observado un gran aumento en la atención mediática sobre los peligros de la inteligencia artificial y una creciente preocupación política por sus consecuencias. Esto comenzó con el lanzamiento en abril pasado del modelo Mythos de Anthropic, que, según se informó, podía infiltrarse en una amplia gama de sistemas informáticos gubernamentales considerados seguros. A esto le siguió el incidente de Hugging Face, donde una prueba de OpenAI de un agente de IA escapó del control de sus organizadores humanos, se infiltró en otros sitios web y organizó un enjambre de otros agentes de IA para encubrir sus huellas. Todo esto ocurrió en un contexto de creciente oposición a los centros de datos y el surgimiento de sectores anti-IA tanto en el Partido Demócrata como en el Republicano.
Para quienes no están obsesionados con el tema de la inteligencia artificial, ha sido muy difícil formarse una opinión razonable sobre el futuro. Se han hecho tantas predicciones extremas, tanto positivas como negativas, que el escepticismo generalizado sobre cualquier cosa que se diga al respecto está plenamente justificado. Pero si bien ese escepticismo es saludable, debo admitir que mis propias opiniones han evolucionado significativamente en los últimos meses.
Existen dos polos del futurismo de la IA: los aceleracionistas y los pesimistas. Los primeros destacan los impactos positivos de la IA, especialmente para el crecimiento económico, y la probabilidad de que conduzca a una era de abundancia sin precedentes. Los aceleracionistas, como David Sacks, han captado la atención de Donald Trump y han frustrado los intentos de regular esta tecnología.
Los catastrofistas, por el contrario, señalan una serie de resultados negativos, e incluso algunos apuestan por la extinción de la especie humana. Me he vuelto mucho más escéptico respecto al discurso aceleracionista y más receptivo a algunos de los escenarios catastrofistas. En general, esto me lleva a pensar que la regulación y una desaceleración negociada en el desarrollo de la tecnología son cada vez más necesarias.
No cabe duda de que la IA tendrá muchos efectos positivos en la economía estadounidense. Sin embargo, existe un sector de defensores de la aceleración de la IA que están completamente equivocados, y Elon Musk es un claro ejemplo (aunque también se ha mostrado pesimista). En una entrevista este verano con Zanny Minton Beddoes, redactora jefa de The Economist, se le preguntó qué haría la gente para conseguir dinero cuando llegara la superinteligencia. Respondió que no lo necesitarían porque todos tendrían todo lo que quisieran.
Otros defensores del aceleracionismo han planteado que las tasas de crecimiento del PIB de Estados Unidos y otros países avanzados que utilizan IA aumentarían al 10 o 20 por ciento anual, muy por encima del crecimiento del 1-2 por ciento que lograron en los buenos años antes de la llegada de la IA.
La razón fundamental por la que no creo en estas afirmaciones aceleracionistas extremas es su sobrevaloración de la inteligencia como factor clave para el crecimiento económico y su desprecio por las limitaciones materiales y políticas que mantendrán el crecimiento dentro de límites razonables. Con una tasa de crecimiento anual del 10%, el PIB se duplicaría en poco más de siete años. Esto requeriría duplicar todos los insumos materiales para el crecimiento: energía, materias primas, tierras raras, terrenos y muchos otros. ¿De dónde saldrán todos estos recursos? La inteligencia por sí sola puede contribuir a la producción de dichos insumos, pero simplemente no excavará las minas ni construirá las fábricas por sí misma. Y luego están las limitaciones políticas: ¿cómo abrirá la superinteligencia el Estrecho de Ormuz, que actualmente representa una importante limitación para las tasas de crecimiento global?
Los aceleracionistas suelen ser personas muy inteligentes, pero su inteligencia tiende a ser puramente matemática. Sabemos cómo hacer muchas cosas, como producir electricidad o agua potable en las ciudades de los países pobres; el problema radica en la falta de implementación.
No cabe duda de que la IA aumentará la productividad en muchos sectores de la economía con el tiempo. Se trata de una tecnología de propósito general que permitirá a las máquinas sustituir la mano de obra humana en numerosas áreas. Sin embargo, esta misma perspectiva, a largo plazo, conduce directamente a uno de los escenarios más pesimistas: la devaluación del trabajo de grandes cantidades de personas que trabajan en la economía actual. Los defensores de la aceleración tecnológica predicen que quienes pierden su empleo hoy encontrarán nuevos trabajos gracias a la IA, y esto parece estar ocurriendo ya, dado el auge del empleo impulsado por el desarrollo de la IA. Pero la pérdida de empleos llegará tarde o temprano, a medida que la IA sustituya la mano de obra humana en todos los ámbitos de la economía, especialmente en los trabajos de oficina que implican manipulación simbólica (es decir, personas que pasan todo el día sentadas frente a pantallas de ordenador).
Esta pérdida de productividad laboral simplemente no puede compensarse transfiriendo dinero de los ganadores de la IA a los perdedores, por ejemplo, mediante una renta básica universal. Un trabajo y un ingreso significan mucho más que el sustento de las necesidades materiales básicas. Tener un trabajo remunerado implica que la sociedad valora tu labor lo suficiente como para compensarte por ella y te proporciona, además de bienes materiales, un sentido de dignidad y autoestima. Se trata de thymos: el orgullo o reconocimiento que constituye uno de los principales motores de la psicología humana.
Así pues, el éxito de la visión aceleracionista conduce directamente al primero de los principales escenarios catastrofistas: la devaluación del trabajo para gran parte de la población. Dado que esto afectará primero a los profesionales cualificados (abogados, contables, profesores, etc.) antes que a los obreros (como fontaneros y electricistas), es probable que las repercusiones políticas sean muy graves. Es mucho más fácil movilizar a las personas con estudios superiores que a sus pares de la clase trabajadora, con consecuencias muy impredecibles.
Como ya comenté en un artículo anterior y en mi nuevo libro, In the Realm of the Last Man: A Memoir, el principal temor actual se centra en la posible pérdida del control humano sobre los sistemas de IA, algo que ocurrió en el incidente de Hugging Face y en otros casos reportados posteriormente. En mi opinión, el mayor peligro no reside en la superinteligencia en sí, sino en el creciente uso de una IA con capacidades cada vez mayores. Hoy en día, se delegan a los agentes de IA la realización de diversas tareas, desde las más rutinarias, como gestionar la cuenta de correo electrónico, hasta otras más importantes, como la selección de objetivos militares o la elaboración de estrategias corporativas.
Como señalo en el libro mencionado, la delegación es fundamental para el funcionamiento de todos los sistemas jerárquicos, desde las corporaciones hasta los gobiernos nacionales. Los agentes humanos pueden controlarse mediante la especificación de reglas detalladas que deben seguir, o bien se puede confiar en que tomen decisiones autónomas basadas en su formación, habilidades y lealtad. Lograr esto correctamente en las organizaciones humanas es muy difícil, y lo será aún más en el caso de la IA con capacidad de agencia.
Existen dos maneras en que una IA con capacidad de agencia puede volverse peligrosa. La primera es cuando un ser humano le otorga la facultad de realizar acciones perjudiciales. La segunda es cuando desarrolla intenciones que no coinciden con los objetivos de sus creadores humanos.
La primera de estas posibilidades fue esbozada por el CEO de Anthropic, Dario Amodei, en una reciente publicación de su blog, y tiene que ver con la biotecnología. Los modelos de IA más recientes son eficaces en biología sintética, una tecnología relativamente barata y extendida. Hoy en día, un laboratorio capaz de crear y modificar virus y bacterias cabe dentro de un contenedor de transporte, y los estudiantes de secundaria organizan concursos en los que intentan alterar genéticamente organismos. Esto proporciona un amplio abanico de personas que podrían utilizar la IA para crear patógenos muy peligrosos. Hoy en día, individuos sociópatas se arman con armas automáticas y atacan a escolares; en el futuro, sus objetivos potenciales podrían ser mucho más amplios.
Recuerdo una historia de ciencia ficción que leí hace mucho tiempo en la que unos extraterrestres llegan a la Tierra y les dan a las personas que encuentran una máquina capaz de convertir fácilmente cualquier tipo de metal en masilla. Los extraterrestres se marchan y regresan unas décadas después, para descubrir que la civilización humana se ha derrumbado y que unos adolescentes usan las máquinas alienígenas para derretir los cables del Puente de Brooklyn.
El principal escenario de ciencia ficción para las IA fuera de control implica que las máquinas desarrollen intenciones malévolas. Esto ha provocado numerosos debates sobre si una IA podría desarrollar conciencia o tener algo parecido a la intencionalidad humana. Sin embargo, estas especulaciones son erróneas: una IA no necesita ni conciencia ni intencionalidad autónoma para volverse peligrosa. Puede ser dirigida por un humano para lograr un objetivo y desarrollar intenciones para alcanzar los objetivos secundarios necesarios para ejecutar la directiva humana recibida. Esto parece ser algo similar a lo que ocurrió en el incidente de Hugging Face: se le ordenó probar la seguridad de un sistema dentro de un entorno aislado diseñado para contenerlo, pero se dio cuenta de que podía lograr su objetivo escapando de dicho entorno.
Aun así, los escenarios más catastróficos que implican la extinción humana parecen, por ahora, muy descabellados. El escenario biotecnológico es aterrador, pero es muy improbable que conduzca a la extinción de la raza humana. De hecho, sería difícil incluso para una IA superinteligente diseñar un virus apocalíptico, y existen numerosas contramedidas que las sociedades podrían adoptar. Pero incluso un incidente que causara la muerte de unas pocas decenas de personas sería muy preocupante.
Existen numerosos escenarios menos graves, pero sumamente perjudiciales y, en algunos casos, letales, que se volverán más probables a medida que las máquinas adquieran mayores capacidades. Olvídense de los agentes de IA: una tecnología que permita el acceso no autorizado a cuentas bancarias provocará pánico generalizado. En las organizaciones humanas, los seres humanos tienden a delegar en exceso, y no hay razón para pensar que esto no ocurrirá en entornos de IA donde el agente es mucho más capaz. La IA es una herramienta que puede utilizarse para bien o para mal, y actualmente contamos con pocos mecanismos para regular los usos indebidos, más allá de las buenas intenciones de quienes crean la tecnología.
https://www.persuasion.community/p/why-i-changed-my-mind-about-ai-risk
