“De lo que estamos
hablando es de la posibilidad de que la historia humana toque a su fin. No del
fin de la historia, sino del fin de su parte dominada por los humanos”. El
diagnóstico es sombrío. No lo dice Hegel ni Bradbury ni Fukuyama. Su autor es
el historiador israelí, Yavul Harari, el mismo de superventas como Homo Deus o 21 lecciones para el Siglo XXI. La cita pertenece a su nuevo libro,
Nexus, cuya edición en español acaba
de ver la luz.
¿Cómo llega Harari a semejante afirmación? Lo hace indagando en las
posibilidades que brinda la Inteligencia Artificial (IA) con esta
particularidad que marca un antes y un después en la relación entre los humanos
y la tecnología. Efectivamente, según Harari, estamos por primera vez frente a
una tecnología capaz de autonomizarse, de aprender de sus propios errores y de
tomar decisiones en pos de un objetivo, tal como se puede ver en los algoritmos
de Facebook, diseñados por los ingenieros para lograr que el usuario pase más
tiempo navegando en la plataforma.
El punto es que la manera de alcanzar ese objetivo resultó imprevisible incluso
para sus propios creadores. Efectivamente, los algoritmos entendieron que lo
lograrían sugiriendo a los usuarios grupos, cuentas y noticias
sensacionalistas, violentas y falsas que exacerbarían sentimientos como la
indignación y el odio. Los resultados están a la vista en prácticamente todo el
mundo y, en el mejor de los casos, contribuyeron a un debate público polarizado
e impracticable; en el peor, fueron parte esencial de sucesos horrorosos. Para
graficar este punto, el libro refiere a la persecución de los budistas sobre la
minoría musulmana en Birmania apenas unos años atrás, con miles de asesinados y
desplazados en lo que para Harari fue “la primera limpieza étnica de la
historia en la que las decisiones de una inteligencia no humana tuvieron parte
de la culpa”.
Incluso yendo un paso más allá,
el autor de Sapiens indica que
enfrentamos un escenario aun peor que el de las peores dictaduras del siglo XX.
¿Acaso se trata de que algún dictadorzuelo totalitario se sirva de la IA para
generar sistemas de vigilancia y terror más eficientes? Eso puede ocurrir,
claro. De hecho, la IA está siendo utilizada incluso en sistemas democráticos
para crear sistemas de control. Pero Harari está pensando en la posibilidad de
que una IA incluso pueda someter a las propias dictaduras a su control. La
afirmación es temeraria, pero se sigue del libro que, para Harari, la peor
dictadura creada por el Hombre es menos peligrosa que la hipótesis de una
sociedad gobernada por una inteligencia no humana.
El libro se llama Nexus porque su tema principal son las
redes que han creado los seres humanos a lo largo de la historia, redes que
están compuestas por la información que no es otra cosa que “el pegamento que
mantiene unidas las redes”. Harari parece estar pensando en este punto en todo
lo que constituye una cultura, una forma de ver el mundo, esto es, la
información que eventualmente puede utilizar la ciencia para conocer, pero
también los mitos, las ficciones, las fantasías sobre las cuales una
civilización se constituye como tal. El peligro que encuentra aquí el autor es
que, a diferencia de lo que ha sucedido a lo largo de la historia, es posible
que una IA produzca por sí misma una red que daría lugar a una nueva
civilización en la que los humanos podrían formar parte, pero sin ningún tipo
de control sobre ella.
En este punto, Harari intenta
mediar entre dos miradas presuntamente radicales acerca de la información, las
cuales, hay que decirlo, por momento aparecen como “hombres de paja”. En este
punto, las críticas que Harari recibiera en sus libros anteriores respecto a cierta
simplificación de algunas temáticas, podría sostenerse en este libro también.
Naturalmente, sabemos que todo libro de divulgación supone generalizaciones y,
con ello, pérdida de precisión, pero cuando en aras de divulgar, se tergiversa
o se crean enemigos inexistentes, el sacrificio es demasiado grande.
Dicho esto, entonces, Harari
pretende distanciarse del espíritu de Silicon Valley a quien acusa de defender
una versión ingenua de la información, aquella que sostiene que mayor
información supone mayor libertad y mayor acercamiento a la verdad. Harari da
en el blanco en ese punto, más allá de que en la descripción de esta posición
parezca estar hablando del neopositivismo vigente cien años atrás. Frente a
ello, Harari afirma que hay información que no pretende representar nada, como
las ficciones, las mentiras, los mitos, y que sin embargo son parte de nuestras
redes, esto es, de lo que somos. De aquí que para el autor lo esencial de la
información no sea representar la realidad sino conectar.
En el lado opuesto a esta visión
ingenua de la información, Harari ubica a la mirada populista representada por
figuras como Bolsonaro o Trump. Aquí la falta de precisión teórica es demasiado
grande ya que Harari define el populismo como aquella cosmovisión que considera
que no hay una verdad y que toda acción humana y toda información tiene como
motivación final alcanzar el poder. El populismo aparece así como una suerte de
relativismo nietzscheano pero su fundamento sería una mezcla entre Marx,
Foucault y todos los gobiernos de derecha de la actualidad, trazando una línea
de continuidad y una clave de lectura que, como mínimo, necesitaría mayor
justificación.
En el terreno de los pronósticos,
antes que de que, eventualmente, pudiera darse la autonomización total de la IA,
Harari plantea la posibilidad del surgimiento de un nuevo muro que dividiría al
mundo en dos o más civilizaciones, y que sería un muro de silicio, constituido
por chips y códigos informáticos. Dado que, como indicábamos antes, la misma IA
es capaz de crear toda una red de sentido, el mundo dividido de esta forma sería
incapaz de comunicarse entre sí y habría tantas realidades como redes
civilizacionales. Esto es particularmente problemático, según Harari, porque,
al igual que se da respecto al cambio climático, la solución frente al peligro
de la IA no puede ser individual ni la puede llevar adelante un solo Estado. En
este sentido, si bien no hay por qué ser original, Harari no es muy imaginativo.
De hecho entiende que la solución es el fortalecimiento de instituciones
globales y grandes acuerdos que comprometan a los Estados y, a través de ellos,
a las grandes compañías, a establecer límites claros a una tecnología cuyo
desarrollo es tan vertiginoso como imprevisible.
Para finalizar, digamos que más
allá de que Harari es profundamente crítico de esa suerte de “ingenuidad” entre
libertaria e iluminista que rodea el espíritu de Silicon Valley, es, sino
indulgente, al menos ambiguo, cuando a lo largo de todo el libro oscila entre
dos posturas en tensión. Es que, por un lado, aunque señala a Facebook,
Youtube, Google, etc., como parte del problema y advierte de las derivaciones
catastróficas de la IA, al mismo tiempo exime a las tecnologías de la
responsabilidad con un argumento de sentido común pero lo suficientemente
criticado en ámbitos académicos. Me refiero a la idea de que las tecnologías no
son ni buenas ni malas, sino que son los humanos las que las utilizan mal o
bien. ¿Se puede aplicar esta misma lógica a una IA autónoma capaz de, en
palabras de Harari esclavizar o acabar con el género humano? El autor no
responde con claridad este interrogante desde nuestro punto de vista.
Por último, cabe mencionar dos
cosas: a favor de Harari, Nexus vuelve
a acercar al gran público temáticas que, en general, son demasiado técnicas o
lejanas. Lo hace con simplificaciones y exageraciones, pero hay otros que
también simplifican y exageran, y no lo logran. Asimismo, es necesario decir
que, al igual que sucediera con los libros anteriores, Harari parece no poder
sacarse de encima el estigma de ser un autor del establishment, una suerte de
heraldo de las alarmas (y las soluciones) que las elites comprometidas desean
oír. Esto significa que aun cuando resulte crítico, los enemigos elegidos y las
salidas sugeridas no escapan de cierto lugar común dentro del hegemónico
espacio biempensante.
En la conjunción de estos dos
elementos, en este “nexo”, puede haber una clave y una garantía de un nuevo
éxito editorial.
No hay comentarios:
Publicar un comentario