Yuval Noah Harari. Nexus. Ed. Debate. 2024.
“Los mecanismos de autocontrol necesitan legitimidad para funcionar. Si los humanos somo propensos al error, ¿Cómo podemos confiar en que los mecanismos de autocontrol sean infalibles? Para librarnos de este bucle en apariencia infinito, a menudo hemos fantaseado con un mecanismo sobrehumano, libre de todo error, en el que podamos confiar para identificar y corregir nuestras propias equivocaciones…”
“En la actualidad cabría esperar que la inteligencia artificial proporcionará dichos mecanismos… en eras anteriores tales fantasías adoptaron una forma diferente, la religión…”
“En el centro de toda religión se halla la fantasía de conectar con una inteligencia sobrehumana e infalible. Este es el motivo por el que estudiar la historia de la religión es tan importante para los debates actuales sobre la IA…”
“Hoy los libros sagrados como la Biblia y el Corán funcionan como una tecnología para esquivar la falibilidad humana y se han creado religiones de libro como el judaísmo, el cristianismo y el islamismo alrededor de este artefacto tecnológico…”
“En la vida cotidiana esta postura implicaba que para los rabinos con frecuencia las palabras de los textos tenían más importancia que la realidad del mundo o para ser más preciso que las palabras que aparecían en los textos sagrados se convertían en la más importante de las realidades acerca del mundo y moldeaban la vida de individuos y de comunidades enteras…”
“Hoy la tentativa de conceder toda la autoridad a una tecnología sobrehumana infalible condujo a la aparición de una institución humana nueva y poderosísima, la Iglesia…”
“Con el paso del tiempo, los problemas de interpretación hicieron que la balanza del poder entre el libro sagrado y la iglesia se inclinara cada vez más en favor de la institución. Así como la necesidad de interpretar los libros sagrados judíos reforzó a la institución rabínica, la necesidad de interpretar los libros sagrados cristianos confirió el poder a la Iglesia. Una máxima de Jesús o una epístola Paulina podía interpretarse de diversas maneras y era la institución la que decidía qué lectura era la correcta, a su vez con frecuencia, la institución se vio sacudida por disputas sobre la autoridad para interpretar el libro sagrado lo que llevó a cisma institucionales, como el que se estableció entre la Iglesia católica occidental y la Iglesia ortodoxa oriental…”
“Los europeos de la Edad Media se hallaban instalados en dicha esfera de información y sus actividades, pensamientos y emociones cotidianos se definían por medio de textos acerca de textos sobre textos…”
“Si los textos infalibles no hacían más que conducir a la aparición de iglesias falibles y opresoras, ¿cómo podía tratarse el problema del error humano? La idea ingenua de la información da por sentado que el problema puede solucionarse creando lo opuesto a una iglesia, a saber, un mercado libre de información. Tal como se ha señalado en el prólogo esto es una ilusión…”
“En 1485 el inquisidor Henry Kramer creó el libro “El martillo de las brujas”. En 1600 las autoridades de Múnich arrestaron bajo sospecha de haber practicado la brujería a la familia … Las cacerías de brujas recibieron el impulso de un océano informativo en expansión, que en lugar de representar la realidad, creó una nueva. Las brujas no eran una realidad objetiva, pero las brujas se convirtieron en una realidad intersubjetiva como el dinero. Las brujas se hicieron reales a través del intercambio de información sobre brujas…”
“De manera más específica, un mercado de ideas completamente libre puede incentivar la divulgación de atrocidades y sensacionalismo a expensas de la verdad. Lo que de verdad puso en marcha la revolución científica no fue la imprenta ni un mercado de información completamente libre, sino más bien un nuevo enfoque del problema de la falibilidad humana…”
“En cambio, una institución científica ganaba autoridad porque contaba con fuertes mecanismos de autocorrección, que denunciaban y rectificaban sus propios errores. Estos mecanismos de autocorrección y no la tecnología de la imprenta fueron el motor de la revolución científica. El proyecto científico se inicia en el momento en que se rechaza la fantasía de la infalibilidad y se procede a construir una red de información que considera que el error es inevitable…”
“La ciencia es una empresa colectiva que se basa en la colaboración institucional y no en científicos independientes o pongamos por caso en un único libro infalible…”
“Las teorías de la conspiración suelen ser muy escépticas en relación con el consenso existente, pero cuando se trata de sus propias creencias pierden todo su escepticismo y sucumben al sesgo de confirmación. El distintivo de las ciencias no es solo el escepticismo, sino el auto escepticismo y en el centro de toda institución científica encontramos un sólido mecanismo de autocorrección…”
“Las instituciones científicas alcanzan amplios consensos acerca de la exactitud de determinadas teorías como la mecánica cuántica o la teoría de la evolución, pero solo porque dichas teorías han conseguido sobrevivir a los intentos a los intensos trabajos de refutación efectuado, no solo por gente ajena, sino por miembros de la propia institución…”
“Hoy lo que hace que el mecanismo científico de autocorrección sea particularmente robusto es que las instituciones científicas no solo están dispuesta a admitir los errores y la ignorancia institucionales, sino que se afanan en exponerlos…”
“Mientras que estos mecanismos son fundamentales para la búsqueda de la verdad, resultan gravosos en lo que concierne al mantenimiento del orden. Un mecanismo auto corrector sólido tiende a generar dudas, desacuerdos, conflictos y fisuras, así como a socavar los mitos que mantienen el orden social…”
“Así pues, ¿es posible mantener mecanismos de autocorrección sólidos en instituciones que no sean disciplinas académicas? En concreto, ¿pueden darse dichos mecanismos en instituciones como las fuerzas policiales, los ejércitos, los partidos políticos y los gobiernos que se encargan de mantener el orden social?”…