Nexus. Yuval Noah Harari. 4/5

Nexus: A Brief History of Information Networks from the Stone Age to AI by Yuval Noah Harari
My rating: 5 of 5 stars

En el mito de Faetón, el hijo de Helios, el dios del sol, quiere conducir el carro de su padre e insiste una y otra vez en hacerlo hasta que lo consigue, pero no puede controlarlo y el sol gira loco arrasando con su calor valles y montañas, hasta que Zeus lanza un rayo y el mortal cae a la tierra muerto y los dioses ponen orden de nuevo.
2000 años después Goethe escribió El aprendiz de brujo, una historia en la que un viejo brujo deja su taller al aprendiz mientras él sale, y le encarga que traiga agua, pero el aprendiz no quiere trabajar y utiliza un conjuro para que sea una escoba la que va a por el agua; pero la escoba va una y otra vez, sin parar, lo que provocar una inundación. El aprendiz la destruye con un hacha, pero la escoba se convierte en dos que traen agua, y luego en cuatro. No se produce un desastre porque vuelve el brujo y con otro conjuro pone orden de nuevo.
Moraleja: No utilices poderes o tecnologías o cualquier otra cosa que no puedas controlar.
Lo cuenta Harari en su ensayo Nexus, advirtiendo que, en realidad, nunca es un solo hombre el que utiliza mal un poder, sino un conjunto de seres humanos, y nos advierte también del peligro de pensar que un dios o un brujo nos van a solucionar el problema.

"Un multimillonario corrupto puede identificarse como un defensor de los pobres, un imbécil incompetente puede identificarse como un genio infalible y un gurú que abusa sexualmente de sus seguidores puede identificarse como un santo casto. La gente cree que conecta con la persona, pero en realidad conecta con el relato que se cuenta sobre la persona, y a menudo la brecha que se abre entre ambos es enorme". P. 50

Es poco probable que un político israelí que en sus discursos electorales detalle el sufrimiento infligido a los civiles palestinos por la ocupación israelí obtenga demasiados votos. En cambio, un político que construya un mito nacional ignorando hechos incómodos, que se centre en el pasado glorioso del pueblo judío y que embellezca la realidad siempre que sea necesario, bien podrá acceder al poder. (Esto ocurre no solo con Israel, sino con todos los países.) P. 69.

Muy interesantes las páginas dedicadas a la caza de brujas en la Europa de la Edad Moderna, en especial la figura del inquisidor Heinrich Kramer (autor del libro Malleus Maleficarum en el siglo XV). La gente no podía pensar que la creencia en brujas era una patraña cuando era una creencia compartida y predicada por las personas con más prestigio y poder.

"Las democracias mueren no solo cuando la gente carece de la libertad de hablar, sino también cuando la gente no quiere o no puede escuchar."

Harari explica muy bien en las páginas 245 y siguientes como las masacres de las que fueron víctima los rohingyas en Myanmar, fueron, en parte, causadas por el algoritmo de Facebook, no porque sus creadores quisieran provocar estas masacres, sino porque el algoritmo difundía aquello que mantenía a los usuarios pegados al ordenador, y cuanto más radical y violento era el mensaje más notaba el algoritmo que se incrementaba el tiempo dedicado por la gente a esa red social, lo que suponía más posibilidades de ingresos para la empresa, y así, por primera vez en una masacre es la inteligencia artificial la que decide qué te ofrece para que veas, siguiendo sus propios criterios y esa inteligencia artificial ha aprendido por sí misma lo que tiene que poner y lo que no tiene que poner para que tú sigas pegado a la red social (Por cierto, Amnistía Internacional llevó una campaña mundial exigiendo responsabilidades a Facebook (Meta) por estos sucesos.
"Lo acontecido en Myanmar a finales de la década de 2010 demostró que las decisiones tomadas por una inteligencia no humana son capaces de moldear acontecimientos históricos importantes. Corremos el peligro de perder el control sobre nuestro futuro. "

"Al igual que los líderes soviéticos de Moscú, las compañías tecnológicas no estaban descubriendo ninguna verdad sobre los humanos; nos estaban imponiendo un nuevo orden perverso. Los humanos somos seres muy complejos, y los órdenes sociales benignos tratan de encontrar la manera de cultivar nuestras virtudes mientras restringen nuestras tendencias negativas. Pero para los algoritmos de las redes sociales no somos más que una mina de atención. Los algoritmos redujeron la multifacética gama de emociones humanas -odio, amor, indignación, alegría, confusión- a una única categoría multifunción, la implicación. En Myanmar en 2016, en Brasil en 2018 y en tantos otros países, los algoritmos puntuaron los vídeos, publicaciones y demás contenidos sin seguir otros criterios que el de los minutos que les dedicaba la gente y el de las veces lo que compartían con otros usuarios. Una hora de mentiras o de odio puntuaba más que diez minutos de verdad o de compasión... o que una hora de sueño. El hecho de que las mentiras y el odio suelan ser psicológica y socialmente destructivos, mientras que la verdad, la compasión y el sueño son esenciales para el bienestar humano, era algo del todo incomprensible para los algoritmos. Sobre la base de este limitadísimo conocimiento de la humanidad, los algoritmos contribuyeron a crear un nuevo sistema social que fomentaba nuestros instintos más bajos, al tiempo que nos desanimaba a desarrollar el espectro completo del potencial humano." Págs. 314-315.

"Las tecnologías novedosas suelen conducir a desastres históricos no porque sean intrínsecamente malas, sino porque a los humanos les lleva un tiempo aprender a usarlas con sensatez." ... "Si la humanidad necesitó que le enseñaran lecciones tan terribles para aprender a gestionar la energía del vapor y los telégrafos, ¿Cuál será el coste de aprender a la gestionar la bioingeniería y la IA? P. 362

"Si las democracias se desmoronan, lo más probable es que no sea a causa de ningún tipo de inevitabilidad tecnológica, sino de un fracaso humano a la hora de regular con sensatez las nuevas tecnologías." P. 403

"El 9 de julio de 1955, Albert Einstein, Bertrand Russell y otros científicos e intelectuales destacados publicaron el manifiesto Russell-Einstein, un llamamiento a la cooperación entre los líderes de las democracias y de las dictaduras para evitar una guerra nuclear: "Hacemos un llamamiento -decía el manifiesto- como seres humanos a seres humanos: recordad vuestra humanidad y olvidad el resto. Si podéis hacerlo, está abierto el camino hacia un nuevo Paraíso; si no podéis, ante vosotros se muestra el riesgo de la muerte universal". Esto bien puede aplicarse a la inteligencia artificial. P. 418.

Tal vez cada imperio pueda mantener su arsenal nuclear bajo control humano y apartar a sus lunáticos de las armas biológicas. Pero una especie humana dividida en bandos enfrentados que son incapaces de entenderse tendría pocas probabilidades de evitar conflictos devastadores o de sortear las catástrofes del cambio climático. Un mundo de imperios rivales separados por un opaco Telón de Silicio también sería incapaz de regular el poder explosivo de la IA. 423.

"Si el mundo se divide en imperios rivales, digitales en este caso, es muy poco probable que la humanidad coopere con la eficacia suficiente como para superar la crisis ecológica o para regular la IA y otras tecnologías disruptivas como la bioingeniería."

Y muchas (y muy interesantes) cosas más.









View all my reviews