bet betboo

Amenaza de la inteligencia artificial: la visión de Yuval Noah Harari

¿Qué te viene a la mente cuando piensas en el 7️⃣ inminente apocalipsis de la inteligencia artificial (AI)? Si eres aficionado a las clichés de las películas de ciencia ficción, puede 7️⃣ que imagines robots asesinos (con o sin acentos austriacos gruesos) sublevándose para exterminar a sus creadores arrogantes. O quizás, como 7️⃣ en The Matrix, elijas máquinas aterradoras que succionen la energía de nuestros cuerpos mientras nos distraen con una realidad simulada.

Para 7️⃣ Yuval Noah Harari, quien ha pasado mucho tiempo preocupándose por la AI en la última década, la amenaza es menos 7️⃣ fantasiosa y más sutil. "Para manipular a los humanos, no es necesario conectar físicamente los cerebros a las computadoras", escribe 7️⃣ en su nuevo y fascinante libro Nexus. "Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje para 7️⃣ manipular y dar forma a la sociedad. Ahora, las computadoras están aprendiendo a hacerlo. Y no necesitarán enviar robots asesinos 7️⃣ a dispararnos. Podrían manipular a los seres humanos para que aprieten el gatillo."

La importancia del lenguaje y la capacidad humana 7️⃣ de tejer historias

El lenguaje y la habilidad humana de tejer historias a partir de él son fundamentales en la comprensión 7️⃣ que tiene el historiador israelí, autor de cuatro libros de ciencia popular, de nuestra especie y sus vulnerabilidades. En su 7️⃣ éxito de ventas de 2014 Sapiens (publicado originalmente en hebreo en 2011), argumentó que los humanos se volvieron dominantes porque 7️⃣ aprendieron a cooperar en grandes números, gracias a una nueva habilidad para contar historias. Esa habilidad, que permitió a nuestros 7️⃣ antepasados creer en cosas completamente imaginarias, está en la raíz de nuestras religiones, economías y naciones, las cuales se disolverían 7️⃣ si nuestras facultades de tejer historias fueran alguna vez apagadas.

Sapiens ha vendido 25 millones de copias hasta la fecha, un 7️⃣ testimonio del propio talento narrativo de Harari, aunque ha tenido sus críticos. Académicos que cuestionaron su precisión y la idea 7️⃣ de comprimir 70.000 años de historia humana en 450 páginas. Sitcoms que se burlaron de los fanáticos de Harari que 7️⃣ agitan el libro como una especie de biblia moderna. El atractivo de Sapiens radica en su alcance abrumador, pero, como 7️⃣ un perfil de 2024 en el New Yorker señaló, el enfoque zoomado de Harari puede minimizar la importancia de los 7️⃣ asuntos actuales.

La era de las redes de información

Nexus podría considerarse como una respuesta a esa crítica. Aunque ejecuta su propio 7️⃣ recorrido vertiginoso a través de los milenios, saltando hacia adelante y hacia atrás en el tiempo y entre continentes, está 7️⃣ muy preocupado por lo que está sucediendo hoy.

Si las historias eran fundamentales para el esquema de Sapiens, aquí se trata 7️⃣ de redes de información, las cuales Harari ve como las estructuras básicas que subyacen a nuestras sociedades. "El poder siempre 7️⃣ proviene de la cooperación entre grandes números de humanos", escribe, y el "pegamento" que mantiene unidas estas redes de cooperación 7️⃣ es la información, la cual "muchos filósofos y biólogos" ven como "el bloque de construcción más básico de la realidad".

Pero 7️⃣ la información no siempre dice la verdad sobre el mundo. Más bien, enfatiza Harari, da lugar a ficciones, fantasías y 7️⃣ delusiones masivas, las cuales conducen a tales desarrollos catastróficos como el nazismo y el estalinismo.

¿Por qué Homo sapiens, para todos 7️⃣ sus éxitos evolutivos, es tan perennemente autodestructivo? "La culpa", según Harari, "no está en nuestra naturaleza, sino en nuestras redes 7️⃣ de información."

Su punto básico es que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 7️⃣ siempre vienen con un costo.

Al echar un vistazo a cómo la información nos ha llevado astray en el pasado, Harari 7️⃣ no tiene escasez de ejemplos en los que apoyarse. Uno de los más memorablemente grotescos es Malleus Maleficarum, escrito por 7️⃣ el fraile dominico Heinrich Kramer en la Austria de la década de 1480. Una guía para descubrir y asesinar brujas 7️⃣ de manera horrible, el libro no habría viajado lejos de no ser por la invención de la imprenta unos pocos 7️⃣ decenios antes, la cual permitió que las ideas desquiciadas de Kramer se extendieran por Europa, avivando una fiebre de caza 7️⃣ de brujas.

Harari hace hincapié en que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 7️⃣ siempre vienen con un costo. Cuando inventamos nuevas tecnologías brillantes que llevan palabras e ideas más lejos y más rápido 7️⃣ que nunca antes, mucha de la información que sale es basura o activemente peligrosa. No se ayuda al hecho de 7️⃣ que, cuando se trata de mantener el orden social, las ficciones tienden a ser agentes de unión más confiables que 7️⃣ las verdades.

Lo que es aterrador sobre la revolución de la AI no es solo que seremos abrumados por la desinformación 7️⃣ de los chatbots, o que las autoridades utilizarán para espiar nuestras vidas privadas. A diferencia de tecnologías anteriores como los 7️⃣ libros y las radios, escribe Harari: "La AI es la primera herramienta que es capaz de tomar decisiones y generar 7️⃣ ideas por sí misma." Vimos una advertencia temprana de esto en Myanmar en 2024-17, cuando los algoritmos de Facebook, encargados 7️⃣ de maximizar la participación del usuario, respondieron promoviendo propaganda de odio antir Rohingya que avivó el asesinato en masa y 7️⃣ la limpieza étnica.

Harari hace un caso sólido sobre por qué debemos considerar tales algoritmos como agentes autónomos y cómo, si 7️⃣ no tenemos cuidado, los humanos podríamos convertirnos en herramientas que la AI manipule con una fuerza cada vez más terrible. 7️⃣ A menos que tomemos medidas inmediatas, este creciente "intelecto extraterrestre", como prefiere llamarlo, podría desencadenar catástrofes que ni siquiera podamos 7️⃣ imaginar, incluida la destrucción de la civilización humana.

Esta visión pesimista de la AI no es nueva: "alarmistas" como Eliezer Yudkowsky 7️⃣ han advertido de su potencial apocalíptico durante años, e incluso la industria de la AI ha comenzado a expresar preocupaciones. 7️⃣ Lo que Harari busca agregar al debate es la perspectiva a largo plazo. Al aplicar su lente a revoluciones de 7️⃣ información anteriores y mostrar cómo diferentes formas de gobierno han reaccionado a ellas, cree que podemos prepararnos para los terremotos 7️⃣ por venir.

Nexus tiene algunas curiosas lagunas; es extraño, en una crítica de una tecnología impulsada en gran medida por corporaciones 7️⃣ centradas en el beneficio, que el capitalismo apenas se mencione en absoluto. Pero ya sea que estés de acuerdo o 7️⃣ no con el marco histórico de Harari sobre la AI, es difícil no impresionarse por la meticulosidad con la que 7️⃣ lo construye, salpicando lo que podría ser un análisis rather dry con ejemplos vívidos, como la historia de Cher Ami, 7️⃣ un paloma mensajera de la Primera Guerra Mundial, utilizada aquí para desentrañar la fundamental resbaladiza de la información. Como en 7️⃣ libros anteriores, se apoya heavily en listas ("los dos desafíos principales", "los cinco principios básicos") y binarios (verdad versus orden, 7️⃣ democracia versus dictadura), pero esto sirve para organizar su pensamiento en lugar de aburrir la escritura.

Las soluciones que propone para 7️⃣ restringir el poder de la AI van desde lo sensato (prohibir a los bots que se hagan pasar por humanos) 7️⃣ a lo risible (animar a los artistas y burócratas a "cooperar" para ayudar al resto de nosotros a comprender la 7️⃣ red de computadoras), pero Nexus opera principalmente como un diagnóstico y una llamada a la acción, y en esos términos 7️⃣ es ampliamente exitoso. Si se vende tan bien como Sapiens lo hizo, estaremos un poco mejor equipados como especie para 7️⃣ enfrentar el auge de las máquinas.