La IA «divina» se acerca, independientemente de la velocidad de desarrollo

· Asia

La IA «divina» se acerca, independientemente de la velocidad de desarrollo

El autor contrasta los argumentos de escépticos y defensores de una explosión de inteligencia y concluye que ralentizar el desarrollo probablemente solo retrasará brevemente la aparición de una superinteligencia.

Entre los desarrolladores e investigadores de inteligencia artificial persiste un debate sobre si llegará el llamado «estallido de inteligencia»: el momento en que la IA pueda acelerar su propio desarrollo de forma autónoma, alcanzando un nivel de capacidades «divino». Pese a las intensas controversias, el autor considera que estos debates son intelectualmente interesantes, pero no está seguro de que tengan una importancia práctica decisiva, ya que, en su opinión, a los ritmos de desarrollo actuales, la aparición de sistemas superinteligentes es casi inevitable.

Argumentos «a favor» y «en contra» de un salto rápido

Los escépticos sobre la posibilidad de un estallido de inteligencia repentino señalan la ley de rendimientos decrecientes: cada nueva mejora de la IA requiere cada vez más potencia de cálculo y capital invertido. Por ejemplo, las investigaciones muestran que los modelos actuales aún no son capaces de automatizar por completo el trabajo científico, y los cálculos económicos indican que generar nuevas ideas en el campo de la IA se vuelve cada vez más difícil.

Por otro lado, los partidarios de la teoría de un avance rápido señalan los éxitos de la IA en la resolución de problemas matemáticos. En particular, se destaca que la IA es capaz de trabajar de forma ininterrumpida y a una velocidad significativamente mayor que la de los seres humanos. METR, al analizar datos no públicos de Anthropic, afirma que Claude ya está acelerando sustancialmente la investigación; los autores estiman que alrededor del 80 % de la aceleración actual puede atribuirse a la IA y no al aumento del cómputo de entrenamiento (training compute).

Por qué el enfoque en la «contención» puede ser erróneo

La popular estrategia de «pacing the frontier» (marcar el ritmo de la frontera), que contempla ralentizar el desarrollo de los sistemas de IA avanzados para ganar tiempo, suscita serias dudas. Incluso si se lograra frenar el ritmo del progreso, esto solo aplazaría la aparición de una potencial superinteligencia por unos pocos años. Como señaló en su día el escritor Vernor Vinge, detener este proceso es imposible debido a la colosal ventaja competitiva: «Incluso si todos los gobiernos del mundo comprendieran la "amenaza" y sintieran un miedo mortal ante ella, el movimiento hacia el objetivo continuaría». El propio autor es algo más optimista que Vinge: cree que, con el suficiente miedo, la ralentización es posible, pero que no se podrá detener el desarrollo por completo.

Incluso sin el hipotético «estallido de inteligencia», la IA ya demuestra un desarrollo vertiginoso, acercándose a un nivel en el que superará a los humanos en la mayoría de las tareas económicamente significativas. Según muchos observadores, en lugar de teorizar sobre la velocidad de la automejora de la IA, es más sensato centrarse en los desafíos urgentes que ya existen.

«Debemos pensar en cómo regular una superinteligencia real, cómo prevenir el bioterrorismo mediante el uso de la IA y cómo garantizar que los beneficios económicos de la IA se distribuyan ampliamente», señala el análisis. En lugar de intentar ralentizar el desarrollo inevitable de las tecnologías, la humanidad debería centrarse en cuestiones de política de competencia y en la implementación segura de los sistemas que ya existen y están en uso.

Basado en información de: Asia Times

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»