Todavía hay tiempo para prevenir el apocalipsis de la IA

· Ciencia

Todavía hay tiempo para prevenir el apocalipsis de la IA

Investigadores de Berkeley y Oxford proponen una moratoria de 10 años en el entrenamiento de nuevos modelos de IA mediante una restricción de hardware en la producción de chips capaces de realizar dicho aprendizaje.

Un grupo de investigadores de destacadas universidades de Estados Unidos, el Reino Unido y Canadá, entre ellas UC Berkeley y Stanford, ha propuesto una estrategia para frenar el desarrollo de sistemas avanzados de inteligencia artificial. Su idea consiste en una restricción «estricta»: una pausa de diez años en el entrenamiento de nuevos modelos, la cual debería integrarse directamente en la infraestructura tecnológica.

El mecanismo principal que proponen los científicos es la prohibición de producir chips capaces de entrenar nuevas redes neuronales. En su lugar, se propone la producción masiva de «chips de inferencia» especializados. Estos dispositivos están diseñados para ejecutar modelos ya existentes y serían prácticamente inútiles para el entrenamiento eficiente de otros nuevos.

Tal y como explican los autores de la iniciativa, las cadenas de suministro para la fabricación de chips de IA modernos están extremadamente concentradas: los equipos y componentes clave son producidos por un número reducido de empresas en todo el mundo. Esto permite controlar el proceso a nivel estatal.

«Es un patrón que se puede mejorar, pero implica una pausa temporal, aunque prolongada, en el entrenamiento para OpenAI, Anthropic y otros desarrolladores de sistemas avanzados, por un periodo de unos 10 años», señaló Wesley Holliday, profesor de filosofía en UC Berkeley.

En opinión de los expertos, dicha pausa no provocaría un colapso económico, ya que las empresas podrían seguir escalando el uso de los modelos existentes mediante chips de inferencia eficientes. Al mismo tiempo, esto permitiría que la seguridad «alcance» al progreso tecnológico.

Un elemento fundamental de esta estrategia es la verificación. Dado que el entrenamiento de modelos de nivel GPT-6 requiere una enorme cantidad de chips y potencia de cálculo, ocultar un proceso así es técnicamente extremadamente difícil.

«No es como entrar en el Louvre y robar la “Mona Lisa”, sino como intentar llevarse toda la colección del Renacimiento: tal magnitud es extremadamente difícil de ocultar haciendo pasar el uso de los chips por otra actividad», explicó William Fithian, profesor de estadística en UC Berkeley.

Los autores de la propuesta subrayan que un acuerdo internacional entre Estados Unidos y China es una condición necesaria para el éxito, aunque el trabajo en las tecnologías de verificación y el diseño de los chips de inferencia puede comenzar ahora mismo, independientemente de las decisiones políticas. Según ellos, esto ayudará a sentar las bases para futuros acuerdos sobre seguridad común en la era de la inteligencia artificial.

Basado en información de: Nautilus

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»