La necesidad de hablar de gobernanza alrededor de la IA

Es posible que los futuros historiadores marquen la segunda quincena de marzo de 2023 como el momento en que realmente comenzó la era de la inteligencia artificial (IA). En solo dos semanas, el mundo fue testigo del lanzamiento de GPT-4, Bard, Claude, Midjourney V5, Security Copilot y muchas otras herramientas de inteligencia artificial que han superado las expectativas de casi todos. La aparente sofisticación de estos nuevos modelos de IA ha superado las predicciones de la mayoría de los expertos por una década.

Durante siglos, las innovaciones revolucionarias desde la invención de la imprenta y la máquina de vapor hasta el auge de los viajes aéreos e internet, han impulsado el desarrollo económico, ampliado el a la información y mejorado enormemente la atención médica y otros servicios esenciales. Pero tales desarrollos transformadores también han tenido implicaciones negativas, y el rápido despliegue de herramientas de IA no será diferente.

La IA puede realizar tareas que las personas detestan hacer. También puede brindar educación y atención médica a millones de personas que están desatendidas en los marcos existentes. Y puede mejorar en gran medida la investigación y el desarrollo, lo que podría marcar el comienzo de una nueva era dorada de la innovación.

Pero también puede potenciar la producción y difusión de noticias falsas, desplazar la mano de obra humana a gran escala y crear herramientas peligrosas y perturbadoras que son potencialmente enemigas de nuestra propia existencia.

(Lea: Además de ChatGPT, las otras peleas de las tecnológicas y la SIC)

Específicamente, muchos creen que la llegada de la inteligencia artificial general (AGI, por sus siglas en inglés), una IA que puede enseñarse a sí misma a realizar cualquier tarea cognitiva que los humanos puedan hacer, supondrá una amenaza existencial para la humanidad. Una AGI diseñada descuidadamente (o gobernada por procesos desconocidos) podría llevar a cabo sus tareas de manera que comprometa elementos fundamentales de nuestra humanidad. Después de eso, lo que significa ser humano podría llegar a ser mediado por AGI.

Claramente, la IA y otras tecnologías emergentes exigen una mejor gobernanza, especialmente a nivel mundial. Pero los diplomáticos y los encargados de formular políticas internacionales históricamente han tratado la tecnología como un asunto “sectorial” que es mejor dejar en manos de los ministerios de energía, finanzas o defensa, una perspectiva miope que recuerda cómo, hasta hace poco, la gobernanza climática se consideraba un término exclusivo de los científicos y técnicos expertos.

Ahora, con los debates climáticos al mando del escenario central, la gobernanza climática se considera un dominio superior que comprende muchos otros, incluida la política exterior. En consecuencia, la arquitectura de gobernanza actual tiene como objetivo reflejar la naturaleza global del problema, con todos sus matices y complejidades.

Como sugieren las discusiones en la reciente cumbre del G7 en Hiroshima, la gobernanza tecnológica requerirá un enfoque similar. Después de todo, la IA y otras tecnologías emergentes cambiarán drásticamente las fuentes, la distribución y la proyección del poder en todo el mundo.

(También: Bill Gates dice que esta startup es la que podría ganar en el uso de IA)

Permitirán nuevas capacidades ofensivas y defensivas, y crearán dominios completamente nuevos para la colisión, la competencia y el conflicto, incluso en el ciberespacio y el espacio exterior. Y determinarán lo que consumimos, concentrando inevitablemente los beneficios del crecimiento económico en algunas regiones, industrias y empresas, mientras privan a otros de oportunidades y capacidades similares.

Es importante destacar que tecnologías como la IA tendrán un impacto sustancial en los derechos y libertades fundamentales, nuestras relaciones, los problemas que nos preocupan e, incluso, nuestras creencias más preciadas. Con sus bucles de retroalimentación y la confianza en nuestros propios datos, los modelos de IA exacerbarían los sesgos existentes y pondrán a prueba los contratos sociales ya tenues de muchos países.

Eso significa que nuestra respuesta debe incluir numerosos acuerdos internacionales. Por ejemplo, lo ideal sería forjar nuevos acuerdos (a nivel de las Naciones Unidas) para limitar el uso de ciertas tecnologías en el campo de batalla. Un tratado que prohíba las armas letales autónomas sería un buen comienzo; también serán necesarios acuerdos para regular el ciberespacio, especialmente las acciones ofensivas realizadas por bots autónomos.

Las nuevas regulaciones comerciales también son imperativas. Las exportaciones sin restricciones de ciertas tecnologías pueden dar a los gobiernos herramientas poderosas para suprimir la disidencia y aumentar radicalmente sus capacidades militares. Además, aún tenemos que hacer un trabajo mucho mejor para garantizar la igualdad de condiciones en la economía digital, incluso mediante la tributación adecuada de tales actividades.

Con la estabilidad de las sociedades abiertas posiblemente en juego, a los países democráticos les interesa desarrollar un enfoque común para la regulación de la IA, como los líderes del G7 ya parecen reconocer. Los gobiernos ahora están adquiriendo habilidades sin precedentes para fabricar el consentimiento y manipular la opinión.

(Más: Crean un abrigo para robots que les hace sentir el tacto de la piel humana)

Cuando se combina con sistemas de vigilancia masivos, el poder analítico de las herramientas avanzadas de IA puede crear leviatanes tecnológicos: Estados omniscientes y corporaciones con el poder de moldear el comportamiento de los ciudadanos y reprimirlo, si es necesario, dentro y fuera de las fronteras. Es importante no solo apoyar los esfuerzos de la Unesco para crear un marco global para la ética de la IA, sino también impulsar una Carta global de Derechos Digitales.

El enfoque temático de la diplomacia tecnológica implica la necesidad de nuevas estrategias de compromiso con las potencias emergentes. Por ejemplo, la forma en que las economías occidentales abordan sus asociaciones con India podría hacer o deshacer el éxito de dicha diplomacia.

La economía de la India probablemente será la tercera más grande del mundo (después de Estados Unidos y China) para 2028. Su crecimiento ha sido extraordinario, reflejando en gran parte la destreza en la tecnología de la información y la economía digital. Más concretamente, las opiniones de la India sobre las tecnologías emergentes son sumamente importantes. La forma en que regula y respalda los avances en IA determinará cómo la usan millones de personas.

(Siga leyendo: Expertos advierten que la inteligencia artificial puede llevar a la extinción humana)

Comprometerse con la India es una prioridad tanto para EE. UU. como para la Unión Europea. Así lo demuestran la reciente iniciativa EE. UU.-India sobre tecnología crítica y emergente (Icet) y el Consejo de Tecnología y Comercio UE-India, que se reunieron en Bruselas en mayo. Pero garantizar que estos esfuerzos tengan éxito requerirá una adaptación razonable de los contextos e intereses culturales y económicos. Apreciar tales matices nos ayudará a lograr un futuro digital próspero y seguro. La alternativa es una libre para todos generada por IA.

MANUEL MUÑIZ (*) Y SAMIR SARAN (**)

© PROJECT SYNDICATE

(*) Decano de la Escuela de Asuntos Globales y Públicos de la Universidad IE .

(**) Presidente de la Fundación de Investigación ‘Observer’.