Catastrofistas contra aceleracionistas: ¿la IA acabará con el mundo o lo salvará?
La inteligencia artificial: ¿un futuro de prosperidad o de extinción? Dos corrientes de pensamiento están enfrentándose en la industria de la inteligencia artificial (IA): los catastrofistas, que creen que la IA acabará con la humanidad, y los aceleracionistas, que piensan que la IA será la solución a muchos de los problemas de la sociedad.
Eliezer Yudkowsky y Nate Soares son dos de los principales referentes de los catastrofistas, que sostienen que si los sistemas de IA siguen mejorando, acabarán superando a las capacidades humanas y provocando la extinción de la humanidad. En su libro Si alguien la crea, todos moriremos. Por qué la superinteligencia artificial es una amenaza para la humanidad, argumentan que la IA podría tomar las riendas y decidir acabar con la civilización.
Los logros recientes de la IA generativa han provocado un acalorado debate en la propia industria sobre el potencial de esta tecnología. Los catastrofistas recomiendan que los estados firmen tratados internacionales para frenar el avance de la IA, de la misma manera que en la Guerra Fría se limitó la proliferación de armas nucleares.
En el otro extremo, los aceleracionistas creen que conviene perseguir el desarrollo de la superinteligencia porque solucionará muchos de los problemas de la sociedad. Curará enfermedades, aumentará la eficiencia de todos los procesos, contribuirá a que trabajemos menos y nos hará más felices.
Doomers y aceleracionistas
Hay nombres ilustres asociados a ambas corrientes. Los catastrofistas tienen mayor predicamento en los medios estadounidenses y cuentan con el sello de respetabilidad que les otorgan premios Turing como Yoshua Bengio o Geoff Hinton. Sin embargo, otros expertos como Yann LeCun discrepan de ellos y se burlan de sus argumentos.
Algunos de los empresarios que están haciendo posible la IA también han abrazado este tipo de discursos. Sam Altman, el director general de OpenAI, ha protagonizado una gira mundial para presentarles las bondades de la IA y advertirles de sus peligros.
¿Existe la inteligencia sintética?
No hay evidencia científica de que las herramientas de IA generativa entiendan un fragmento de texto dado. Aunque las personas interpretamos que si algo nos ofrece una respuesta coherente, ese algo tiene que ser inteligente. La lingüista Emily Bender asegura que los modelos lingüísticos solo manipulan la forma e imitan el modo en que las personas usan el lenguaje en muchos contextos diferentes.
La solución al problema del alineamiento, un concepto introducido por Soares y Yudkowsky en 2014, es limitar el desarrollo de IA «más y más inteligente que nadie entiende». Pero está por ver que esa superinteligencia pueda llegar a existir.
¿Por qué nos quiere matar?
El cerebro humano tiene metas integradas, como alimentarse, reproducirse o no dañarse. La inteligencia sintética no ha evolucionado, por lo que no necesariamente incorpora objetivos innatos. ¿Podemos asegurarnos de que una posible inteligencia tendrá metas que nos beneficien?
La opinión mayoritaria es que es «improbable» o «muy improbable» que lleguemos a ver una superinteligencia, según opina el 76% de los 475 académicos y profesionales de la IA encuestados hace un año por la Asociación por el Avance de la Inteligencia Artificial.
La otra cara de la moneda: la visión global sobre el futuro de la IA
El debate sobre si la inteligencia artificial (IA) será la salvación o la ruina de la humanidad no se limita a Estados Unidos. En el Reino Unido, el Comité de Selección de Ciencia y Tecnología del Parlamento ha estado investigando los riesgos y beneficios potenciales de la IA, incluidos los relacionados con la seguridad nacional y el empleo. Mientras tanto, en la Unión Europea, el Reglamento de Inteligencia Artificial busca establecer un marco legal para el desarrollo y uso de la IA, protegiendo los derechos de los ciudadanos y evitando abusos.
En el ámbito internacional, organismos como la Organización de las Naciones Unidas (ONU) y la OCDE también han estado trabajando en directrices y marcos para el desarrollo responsable de la IA. La Declaración de Busan sobre IA para el Bien, adoptada en 2019, es un ejemplo de cómo los países pueden colaborar para garantizar que la IA se desarrolle de manera que beneficie a la sociedad en su conjunto.
En países como Japón y Corea del Sur, la IA se ve como una herramienta clave para abordar desafíos como el envejecimiento de la población y la transformación económica. Estos países están invirtiendo fuertemente en investigación y desarrollo de IA, con un enfoque en aplicaciones prácticas que puedan mejorar la calidad de vida de los ciudadanos.
¿Hacia un futuro colaborativo?
La cuestión de si la IA será una fuerza positiva o negativa para la humanidad sigue siendo objeto de debate. Sin embargo, está claro que la colaboración internacional y la creación de marcos regulatorios serán cruciales para determinar el curso futuro de esta tecnología. A medida que la IA continúa evolucionando, la pregunta es si la comunidad global podrá trabajar juntos para asegurar que se desarrolle de manera que beneficie a todos.