Este año quiero continuar reflexionando y aprendiendo sobre el impacto de la tecnología y de la inteligencia artificial en nuestra sociedad, y qué mejor forma de hacerlo que a través de la distopia con el libro de «El Círculo» de Dave Eggers. En muchos sentidos, estamos viviendo un optimismo tecnológico con el desarrollo de a inteligencia artificial sin embargo, pocas veces nos ponemos a analizar el verdadero impacto que esto puede tener.
En el libro se presenta a «El Círculo», la empresa de tecnología más importante del mundo, que utiliza tecnología avanzada con el objetivo de transformar el mundo de manera positiva eliminando el crimen, las enfermedades y la corrupción, sin embargo es impulso hacia la perfección conduce a la deshumanización. La historia es narrada desde la perspectiva de Mae, quien empieza a trabajar en la empresa y en poco tiempo se convierte en parte fundamental del movimiento. A lo largo del libro se nos presentan varios proyectos que, en conjunto, construyen un sistema de vigilancia total: plataformas que eliminan el anonimato en Internet, millones de cámaras accesibles para cualquier persona, sistemas que localizan a cualquier individuo en minutos usando reconocimiento facial, y bases de datos que almacenan el historial completo de cada persona y sus antepasados. El paso final es Demoxie: un proyecto que obligaría a todos los ciudadanos del mundo a registrarse en El Círculo para votar, convirtiendo la participación democrática en otro mecanismo de control. Con toda esta tecnología, la vida se convierte en espectáculo. En pro de la verdad y de un mundo más seguro, poco a poco la privacidad desaparece, ya que cada persona tiene una cámara que la sigue en todo momento y cualquier persona puede acceder en tiempo real a estas imágenes. Políticos, personajes públicos y un sinnúmero de personas empiezan a hacer su vida pública y cambian su comportamiento porque saben que son observados y que todos sus movimientos pueden ser analizados constantemente.
El que una sociedad sea monitoreada en todo momento no es algo nuevo; lo hemos visto en varios libros distópicos como 1984, Un Mundo Feliz o Fahrenheit 451. Sin embargo, en este caso no se trata de un régimen totalitario o un gobierno, sino de una empresa con fines comerciales y capitalistas, donde la vigilancia es aceptada de manera voluntaria. El Círculo convence a la gente de que la vigilancia es parte fundamental del desarrollo y del beneficio de la sociedad, ya que eliminaría muchos de los problemas de nuestro mundo. La gente de todo el mundo acepta y ve como normal ser 100% transparente en todo momento.
A veces necesitamos voltear hacia la distopía para entender el impacto de la tecnología en nuestro mundo. Este libro me hizo reflexionar sobre varios temas que ya estamos viviendo. El libro plantea las consecuencias de que una empresa de tecnología tenga tanto poder y tanto acceso a la información de sus usuarios con el objetivo de mejorar nuestras vidas, y es precisamente el discurso que hemos visto en los últimos años, en particular en el tema de la inteligencia artificial. Hoy en día existe un sobreoptimismo sobre lo que puede hacer la IA, ya que, al igual que El Círculo, el mercado actual promete que la IA transformará positivamente la salud, la economía, la productividad y el medio ambiente para beneficio de todos. No dudo que el avance tecnológico tenga la capacidad de transformar positivamente, sin embargo pocas veces nos ponemos a reflexionar sobre cuál sería el costo de todo esto y qué pasaría si las cosas no van por el camino correcto. Las redes sociales nos demostraron el lado negativo de que las empresas tuvieran acceso a tanta información personal: el caso de Cambridge Analytica reveló cómo los datos de millones de usuarios de Facebook fueron utilizados para manipular elecciones, y los algoritmos diseñados para maximizar el tiempo en pantalla terminaron creando burbujas de información que alimentan la polarización. Hoy lo mismo está pasando con los asistentes de IA: las personas están tomando decisiones, compartiendo cómo se sienten y tratando de resolver sus problemas de su mano, sin detenerse a pensar en las consecuencias de entregar tanta información personal. En su momento, las redes sociales y los smartphones se vendieron como transformadores positivos, pero también nos trajeron dependencia, sesgos y polarización.
Además del uso de la información, el libro plantea una reflexión sobre el valor que tiene la privacidad para la humanidad en un mundo donde las grandes empresas tecnológicas almacenan, guardan y tienen acceso a toda nuestra información. Entiendo que muchos de los problemas que vive nuestro mundo tienen que ver con la falta de transparencia, pero podría ser igual de peligroso si todo fuera transparente, si todo se pudiera monitorear y si todo el mundo tuviera acceso a lo que ves, sientes o piensas. Por supuesto, quizás sea la visión de una persona que lleva más de cuatro décadas en este mundo y que nació, creció y fue joven en un mundo donde tus accesos a internet no dejaban rastro, no dejaban huella y donde podías ser 100% anónimo en Internet. Pero las nuevas generaciones no conocen ese mundo; lo ven como algo muy lejano y extraño. Es posible que con el tiempo aceptemos como sociedad que todo debe ser monitoreado y rastreado. Y entonces, sin darnos cuenta, estaremos viviendo dentro de El Círculo.
La privacidad es fundamental para nosotros como seres humanos. Pero el libro lo plantea desde un ángulo diferente: ¿y si la comodidad, la seguridad y las promesas de un mundo mejor que nos ofrecen a cambio terminan siendo más atractivas que nuestra propia libertad? Al final, nadie obligó a los personajes de El Círculo a renunciar a su privacidad. Lo hicieron voluntariamente, convencidos de que era lo correcto. Y lo más importante es que sus razones eran comprensibles: querían un mundo sin crímenes, sin corrupción, sin secretos que lastimaran a otros. El problema es que el camino hacia ese mundo ideal les costó todo lo que los hacía humanos.
Por eso este tipo de libros importan: no predicen el futuro, nos obligan a cuestionarlo antes de que llegue.
