Hassabis , cofundador y director ejecutivo de Google DeepMind, insta a Estados Unidos a establecer un nuevo organismo de control de la IA con la facultad de examinar los modelos más avanzados del mundo y coordinar una ralentización de toda la industria si aumentaran los peligros.
Hassabis, el premio Nobel detrás de Gemini, expone el plan en un manifiesto personal publicado el martes por la mañana, titulado “Un marco para la IA de vanguardia y el amanecer de una nueva era”.
En una entrevista exclusiva con Axios, Hassabis afirmó que ha llegado el momento de adoptar un enfoque más “sistemático” para la regulación de la IA, financiado por la industria, con personal compuesto por expertos técnicos de primer nivel y que rinda cuentas al gobierno de Estados Unidos.
Los riesgos cibernéticos actuales impulsados por la IA son “señales de alerta”, declaró a Axios, desde su base en Londres. En 18 meses, afirmó, esas capacidades —además de amenazas biológicas y nucleares mucho más graves— podrían estar presentes en modelos de código abierto, fuera del control de cualquier gobierno.
Hassabis hizo hincapié en que los riesgos provendrán de los modelos propietarios más potentes que desarrollarán los principales laboratorios en el futuro, y no solo de los modelos de código abierto. “Lo que hagamos colectivamente ahora”, escribe en su manifiesto, “determinará cómo se desarrolle la siguiente fase de la civilización”.
Hassabis pasó meses recabando discretamente apoyo para el plan, informando a la administración Trump, a otros líderes de laboratorios y a funcionarios europeos antes de hacerlo público. “Los rumores que he escuchado son muy positivos”, dijo refiriéndose a sus conversaciones con la administración, que había adoptado un enfoque de no intervención en la regulación de la IA antes del pánico provocado por Mythos .
Hassabis, un científico que goza de un respeto excepcional entre los sectores enfrentados de la IA, afirma que los demás líderes de los principales laboratorios coinciden en gran medida: “Este es el camino que debe seguir la industria”. Su cronograma es ambicioso. “Meses”, dijo, idealmente con el nuevo organismo en funcionamiento “antes de fin de año”, que normalizaría la IA inspirado en la FINRA (Autoridad Reguladora de la Industria Financiera), el organismo de control privado financiado por la industria que supervisa a Wall Street bajo la supervisión de la SEC.
Los laboratorios Frontier compartirían inicialmente sus modelos con el organismo de forma voluntaria, hasta 30 días antes de su lanzamiento, para realizar pruebas de seguridad que investiguen capacidades peligrosas, tanto cibernéticas como biológicas y de “engaño”.
Una vez que el régimen de pruebas demuestre ser “eficaz y sólido”, escribe Hassabis, la formalización “podría producirse rápidamente”. Esto significa que los modelos innovadores tendrían que superar las pruebas antes de poder implementarse en el mercado estadounidense.
Hassabis prevé un comité directivo mayoritariamente independiente, integrado por ganadores del Premio Turing y otros expertos acreditados, junto con representantes de la industria, el gobierno y el código abierto. Lo interesante es que las reglas se aplicarían a todos los modelos de última generación, “sin importar su país de origen ni si son abiertos o cerrados”, y los criterios de evaluación se actualizarían periódicamente a medida que evolucionaran las capacidades.
La represión improvisada de la administración Trump contra los modelos Mythos y Fable de Anthropic, el mes pasado, fue “una especie de llamada de atención”, dijo Hassabis, prueba de que Washington necesita algo más sólido que directivas improvisadas. Anthropic vio cómo sus modelos más potentes quedaban congelados de la noche a la mañana por una orden de control de exportaciones, y luego pasó dos semanas y media negociando su liberación sin reglas, protocolos ni planes de acción establecidos.
OpenAI, con la esperanza de evitar el mismo destino, acordó restringir el lanzamiento de GPT-5.6 a socios aprobados por el gobierno. Fue lanzado al público la semana pasada tras negociaciones y pruebas con el Departamento de Comercio.
El director ejecutivo de Anthropic, Dario Amodei, ha hecho un llamamiento a favor de una regulación vinculante, imaginando una agencia al estilo de la FAA con el poder de bloquear los modelos inseguros. Los responsables de los laboratorios Gemini y Claude coinciden ahora en que Washington debería regularlos, aunque discrepan principalmente sobre quién ostenta la autoridad.
Hassabis cree que la IA general (un sistema con todas las capacidades cognitivas del cerebro humano) está “probablemente a tan solo unos pocos años de distancia” y que nos encontramos en “las estribaciones de la singularidad”.
