LOS RIESGOS FUTUROS DE LA INTELIGENCIA ARTIFICIAL Reflexiones de 700 expertos del mundo.

 

…Puedes tomar la pastilla azul o la pastilla roja, y nos hemos quedado sin pastillas azules…

By Yuval Harari, Tristan Harris and Aza Raskin Mr. Harari is a historian and a founder of the social impact company Sapienship.

Mr. Harris and Mr. Raskin are founders of the Center for Humane Technology. (Traducción del la columna de opinión publicada el 24 de marzo, del 2023).

Imagina que mientras subes a un avión, la mitad de los ingenieros que lo construyeron te dicen que hay una probabilidad del 10 por ciento de que el avión se estrelle, matándote a ti y a todos los demás a bordo.

¿Aún subirías?

En 2022, más de 700 académicos y expertos principales de las principales empresas de inteligencia artificial fueron consultados en una encuesta sobre los riesgos futuros de la IA.

La mitad de los encuestados dijo que había una probabilidad del 10 por ciento o mayor de extinción humana (o desempowerment permanente y severo) de los futuros sistemas de IA.

Las empresas de tecnología que construyen los modelos de lenguaje de hoy en día se encuentran en una carrera para poner a toda la humanidad en ese avión. Las compañías farmacéuticas no pueden vender nuevos medicamentos a las personas sin someter primero sus productos a rigurosas comprobaciones de seguridad. Los laboratorios de biotecnología no pueden liberar nuevos virus al espacio público con el fin de impresionar a los accionistas con su magia.

Del mismo modo, los sistemas de IA con el poder de GPT-4 y más allá no deberían entrelazarse con las vidas de miles de millones de personas a un ritmo más rápido del que las culturas pueden absorberlos de manera segura. Una carrera para dominar el mercado no debería establecer la velocidad de despliegue de la tecnología más importante para la humanidad. Debemos avanzar a la velocidad que nos permita hacerlo bien.

El espectro de la IA ha aterrorizado a la humanidad desde mediados del siglo XX, sin embargo, hasta hace poco ha seguido siendo una perspectiva distante, algo que pertenece más a la ciencia ficción que a los serios debates científicos y políticos. Es difícil para nuestras mentes humanas comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial con la que estas herramientas desarrollan capacidades más avanzadas y poderosas. Pero la mayoría de las habilidades clave se reducen a una cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes.

Al principio fue la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje emerge el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código de computadora. La nueva maestría de la IA en el lenguaje significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir el dominio del lenguaje, la IA está tomando la llave maestra de la civilización, desde los bancos hasta los sepulcros sagrados.

¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas estén moldeadas por una inteligencia no humana, que sepa cómo explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de la mente humana, mientras sabe cómo formar relaciones íntimas con los seres humanos?

En juegos como el ajedrez, ningún humano puede esperar vencer a una computadora.

¿Qué sucede cuando lo mismo ocurre en el arte, la política o la religión?.

La IA podría devorar rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirlo y comenzar a expulsar una inundación de nuevos objetos culturales. No solo ensayos escolares, sino también discursos políticos, manifestos ideológicos, libros sagrados para nuevos cultos. Para 2028, la carrera presidencial de los EE. UU. ya no podría ser ejecutada por humanos. A menudo, los humanos no tienen acceso directo a la realidad. Estamos encerrados por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras opiniones políticas están moldeadas por los informes de los periodistas y los anécdotas de los amigos. Nuestras preferencias sexuales se ajustan por el arte y la religión. Ese capullo cultural hasta ahora ha sido tejido por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana? Durante miles de años, nosotros los seres humanos hemos vivido dentro de los sueños de otros humanos. Hemos adorado a dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas que surgieron de la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de una inteligencia no humana.

La franquicia "Terminator" mostró robots corriendo por las calles y disparando a las personas.

La Matrix" asumió que para obtener un control total de la sociedad humana, la IA tendría que ganar primero el control físico de nuestros cerebros y conectarlos directamente a una red de computadoras. Sin embargo, simplemente al adquirir el dominio personas.

"La del lenguaje, la IA tendría todo lo que necesita para contenernos en un mundo de ilusiones como Matrix, sin disparar a nadie ni implantar chips en nuestros cerebros. Si se necesita algún disparo, la IA podría hacer que los humanos aprieten el gatillo, simplemente contándonos la historia correcta. El espectro de quedar atrapado en un mundo de ilusiones ha aterrorizado a la humanidad mucho más tiempo que el espectro de la IA. Pronto finalmente nos enfrentaremos al demonio de Descartes, con la cueva de Platón, con el Maya budista. Una cortina de ilusiones podría descender sobre toda la humanidad, y es posible que nunca volvamos a poder arrancar esa cortina, o incluso darnos cuenta de que está ahí. Las redes sociales fueron el primer contacto entre la IA y la humanidad, y la humanidad perdió. El primer contacto nos ha dado el sabor amargo de lo que está por venir.

En las redes sociales, se utilizó una IA primitiva no para crear contenido, sino para curar el contenido generado por usuarios. La IA detrás de nuestras fuentes de noticias aún está eligiendo qué palabras, sonidos e imágenes llegan a nuestras retinas y oídos, basándose en la selección de aquellas que tendrán más viralidad, más reacción y más compromiso. Si bien es muy primitivo, la IA detrás de las redes sociales fue suficiente para crear una cortina de ilusiones que aumentó la polarización social, socavó nuestra salud mental y deshizo la democracia. Millones de personas han confundido estas ilusiones con la realidad. Los Estados Unidos tienen la mejor tecnología de información de la historia, sin embargo, los ciudadanos de los Estados Unidos ya no pueden estar de acuerdo en quién ganó las elecciones. Aunque ya todos estamos conscientes del lado negativo de las redes sociales, no se ha abordado porque demasiadas de nuestras instituciones sociales, económicas y políticas se han enredado con ellas. Los modelos de lenguaje grandes son nuestro segundo contacto con la IA. No podemos permitirnos perder de nuevo. ¿Pero sobre qué base debemos creer que la humanidad es capaz de alinear estas nuevas formas de IA a nuestro beneficio? Si seguimos con lo de siempre, las nuevas capacidades de la IA se volverán a usar para obtener ganancias y poder, incluso si inadvertidamente destruyen los cimientos de nuestra sociedad.

La IA realmente tiene el potencial para ayudarnos a derrotar el cáncer, descubrir medicamentos salvavidas e inventar soluciones para nuestras crisis climáticas y energéticas. Existen innumerables otros beneficios que ni siquiera podemos empezar a imaginar. Pero no importa cuánto alto sea el rascacielos de beneficios que la IA ensamble si la base se derrumba. Es hora de hacer frente a la IA antes de que nuestra política, nuestra economía y nuestra vida diaria se hagan dependientes de ella. La democracia es una conversación, la conversación se basa en el lenguaje y cuando el lenguaje mismo es pirateado, la conversación se desmorona y la democracia se vuelve inviable. Si esperamos a que el caos surja, será demasiado tarde para remediarlo.

Pero hay una pregunta que puede quedarse en nuestras mentes: ¿Si no vamos tan rápido como sea posible, el occidente no correrá el riesgo de perder ante China? No. La implementación y entrelazamiento de la IA sin control en la sociedad, desatando poderes divinos desacoplados de la responsabilidad, podría ser la misma razón por la que el occidente pierda ante China. Todavía podemos elegir qué futuro queremos con la IA. Cuando los poderes divinos se combinan con una responsabilidad y control equivalentes, podemos realizar los beneficios que la IA promete. Hemos convocado a una inteligencia extraña. No sabemos mucho sobre ella, excepto que es extremadamente poderosa y nos ofrece regalos deslumbrantes, pero también podría piratear los cimientos de nuestra civilización. Instamos a los líderes mundiales a responder a este momento al nivel de desafío que presenta.

El primer paso es comprar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo de IA y aprender a dominar la IA antes de que nos domine a nosotros.