Cuando una tarde del pasado verano llevé a mi hijo y a algunos de sus primos a nadar en el lago, no tenía previsto que alguien perdiera un trozo del páncreas. Los muchachos estaban practicando volteretas desde el muelle. Luego de una hora, su audacia fue en aumento a tal extremo que decidí poner punto final a aquello. Mientras deambulaban por la playa, me di cuenta de que mi sobrino, a quien llamaré Tristan, notaba la falta de su teléfono, que llevaba guardado en un estuche impermeable. Aunque la pérdida hubiese significado una mala noticia para cualquiera, para Tristan era mucho peor: el aparato es parte de un sistema de control de su diabetes tipo 1, una afección que implica que el páncreas deja de producir insulina. Hasta la década del veinte del siglo pasado, cuando los científicos descubrieron cómo extraer insulina de perros, la diabetes tipo 1 era letal a corto plazo. Incluso en las décadas siguientes, un diagnóstico significaba llevar una vida regulada con análisis diarios de glucosa en sangre, inyecciones de insulina aplicadas a horas fijas y una dieta severamente restringida. A pesar de todo ello, la enfermedad reducía la expectativa de vida de manera drástica y traía aparejado un alto riesgo de efectos secundarios que incluían ceguera, insuficiencia renal y cardíaca y amputación de miembros.
En la actualidad, la tecnología permite que Tristan viva casi como cualquier otro vigoroso muchacho de doce años. Ya en 1978, unos científicos lograron desarrollar formas más sofisticadas de insulina (sintética, sin necesidad de perros). En 1999, las compañías de tecnología médica comenzaron a producir sistemas de monitorización continua de la glucosa (CGM, por su sigla en inglés) que podían llevar un registro del nivel de glucosa en sangre mediante una sonda subcutánea. Luego, en 2017, el CGM fácilmente portátil se volvió ampliamente accesible. Estos dispositivos proporcionan una lectura en tiempo real de los niveles de glucosa en sangre. En la actualidad, el CGM envía instrucciones vía Bluetooth a una bomba que libera dosis precisas de insulina a través de una cánula. Un teléfono celular controla el sistema y proporciona información al usuario. Este sistema de varios componentes es llamado a veces “páncreas artificial” debido a su capacidad de imitar la función natural de la glándula.
Leonard Ulian, Mandala tecnológica 83, elementos electrónicos, alambre de cobre y parlantes sobre papel, 2015. Todo el arte usado con permiso.
Claro que no es lo mismo que un páncreas natural. La tecnología tiene fallas y el cuerpo humano es infinitamente cambiante, de manera tal que las personas con diabetes tipo 1 aún se esfuerzan por mantener niveles saludables de glucosa, conscientes de que los niveles altos son insanos y de que los bajos pueden resultar mortales. Es necesario ingresar manualmente cuántos carbohidratos son consumidos, y tanto el sensor como la bomba deben ser reemplazados cada pocos días, lo que vuelve a quienes padecen esta afección no solo dependientes de la insulina para vivir, sino también de los fabricantes del teléfono, la bomba, el CGM y otros varios artículos que permiten un buen uso. (Con independencia de la precariedad y el costo llamativos del suministro de insulina en Estados Unidos, donde la gente que padece diabetes a menudo suplica a extraños por una dosis de emergencia en Reddit o muere tras sus intentos por racionar su provisión). De cualquier modo, para alguien que padece diabetes tipo 1, esta tecnología es una promesa de una vida que, aunque imperfecta, resulta mucho más libre.
Eso es así hasta que una pieza del sistema se hunde en el fondo de un lago. Al verificar la pulsera de Tristan, nos pareció que un broche de plástico barato se había abierto mientras él nadaba hacia la orilla. Estábamos ante un problema serio: yo sabía por sus padres que el sistema era nuevo y que había sido aprobado recientemente por su asegurador de salud, que, para colmo, no cubría el teléfono. Durante media hora, nos sumergimos en busca de aquella cosa, pero a una profundidad de casi cuatro metros, el agua se volvía demasiado turbia y no permitía ver. Todo lo que restaba era volver a casa y contar lo ocurrido a sus padres, sin la certeza de lo que aquella pérdida significaba. Esa vez la suerte estaba con nosotros: ellos no se habían deshecho del antiguo aparato. Al cabo de un rato, el páncreas artificial estuvo de nuevo en funcionamiento y celebramos con helado bien azucarado.
Esta es una historia feliz acerca de las bondades de la tecnología, del tipo que puede transformar la vida de un niño. Se trata de una parábola tecnófila en la que un sistema artificial que combina un software móvil y un hardware automatizado literalmente se conecta con un cuerpo humano y lo ayuda a salir adelante de un modo que no hubiera sido posible de haber estado solo librado a la naturaleza. El hecho de que exista una tecnología así es, en primer lugar, un testimonio de los auténticos logros de Silicon Valley y su “ideología californiana”, que fusionó la innovación aventurada y el capitalismo empresarial en una misión de cambiar el mundo.
Parece que estamos en la antesala de una transición que puede, una vez más, transformar nuestra vida para bien o para mal.
Hoy, en varios círculos, las promesas de la ideología californiana han comenzado a lucir sospechosas. Contrariamente a las esperanzas de sus primeros entusiastas, la internet no unió a toda la humanidad en los noventa, como tampoco lo hicieron en la primera década de este siglo las redes sociales facilitadas por los teléfonos inteligentes. Desde hace tiempo, los líderes políticos en Washington, Londres y Bruselas han dejado de asociar la tecnología con visiones utópicas de armonía global. En lugar de eso, la han culpado por la distracción, la polarización, las adicciones al porno y al juego, la banalización de la cultura, la pérdida de la privacidad y del equilibrio entre la vida personal y laboral y los miedos de que la automatización pueda dejar a millones sin trabajo.
Este escepticismo creciente ha hecho poco para detener la aceleración del cambio. Los avances en inteligencia artificial parecen estar dispuestos a llevarnos al próximo punto de inflexión tecnológico muy pronto. Esto es, al menos, lo que prometen los entusiastas de la IA, y lo que sus críticos temen. La inteligencia general artificial “generativa” basada en modelos de lenguaje de gran tamaño (LLM, por su sigla en inglés) ―por ejemplo, el ChatGPT de OpenAI, Claude de Anthropic y LLaMa de Meta― está aumentando su poder rápidamente de versión en versión. Los líderes de la industria, como Dario Amodei de Anthropic, creen que una IA “agéntica” bien desarrollada puede estar a la vuelta de la esquina, es decir, que la IA puede llevar adelante acciones en el mundo real, tales como hacer las reservas para unas vacaciones o planear una boda.
Mientras tanto, las versiones especializadas de la IA están transformando varias industrias. En la farmacéutica, por ejemplo, un avance de la IA de este año ha resuelto un problema de biología molecular, que ya llevaba cincuenta años, al permitir a los científicos modelar rápidamente la forma de las proteínas en tres dimensiones. Otras aplicaciones de la IA prometen una aceleración en el desarrollo y testeo de medicamentos. En atención sanitaria, los algoritmos de IA pueden detectar distintos tipos de cáncer en etapas tempranas con alto nivel de precisión, a menudo superando a radiólogos experimentados. En la venta al menudeo, la IA ayuda a administrar el inventario y a predecir patrones de demanda, mejorando de ese modo la eficiencia de las cadenas de suministro. Y en la industria automotriz, a pesar de que los vehículos completamente autónomos aún son un objetivo por cumplir, los sistemas de IA de los automóviles ya están mejorando las condiciones de seguridad vial.
Leonard Ulian, Mandala tecnológica 83, elementos electrónicos, alambre de cobre y parlantes sobre papel, 2015.
Otros desarrollos son más inquietantes. Varias naciones ya están afinando sistemas autónomos de armamento, es decir, robots asesinos para ser usados en el campo de batalla. En materia de ingeniería genética humana, la IA está acelerando la investigación en genómica y, de ese modo, acerca el día cuando sea posible crear bebés de diseño. Y, luego, por supuesto, está el apocalipsis: algunos expertos en IA manifiestan su preocupación ante la eventualidad de que la tecnología se vuelva tan poderosa que provoque la extinción humana, y se dice que el Pentágono está considerando seriamente el riesgo de que la IA pueda de algún modo desencadenar una guerra nuclear.
Parece que estamos en la antesala de una transición que puede, una vez más, transformar nuestra vida para bien o para mal. Es un buen momento para preguntar cómo debemos responder.
En 1992, justo cuando la ideología californiana estaba tomando impulso, Neil Postman publicó Tecnópolis, un trabajo clásico de crítica cultural que explora la relación entre los humanos y nuestras herramientas. El libro comienza citando el relato de Platón sobre el mito de Thamus, un faraón egipcio. El rey es abordado por el dios Theuth, quien le presenta varios inventos, entre ellos, la escritura. Theuth sugiere que la escritura mejorará la sabiduría y la memoria de los egipcios. Sin embargo, Thamus opone el siguiente reparo:
Este invento producirá el olvido en la mente de aquellos que aprendan a usarlo, porque ya no practicarán su memoria. Su confianza en la escritura, producida a través de caracteres externos que no son parte de ellos mismos, desalentará el uso de la memoria en ellos. Has inventado un elixir no de la memoria, sino del recordatorio; y ofreces a tus discípulos la apariencia de sabiduría, no la verdadera sabiduría, pues ellos leerán muchas cosas sin instrucción y, por lo tanto, parecerá que saben muchas cosas, cuando en su mayoría son ignorantes y difíciles de tratar, puesto que no son sabios, solo lo parecen.
Al reflexionar acerca del mito, Postman observa que “toda tecnología es a la vez una carga y una bendición. No una cosa o la otra, sino esto y aquello”. La herramienta que promete expandir el conocimiento a los humanos también les roba su tradición oral. Crea nuevos ganadores ―los adeptos al mundo escrito― y nuevos perdedores: los ancianos que hasta el momento habían sido los guardianes de la memoria. Para actualizar el relato de Postman digamos que Theuth estaba poniendo en marcha una cadena de descubrimientos que, a su debido tiempo, transformarían las palabras y las imágenes en tokens digitales, y de ese modo darían lugar al ChatGPT.
Postman argumenta que la tecnología digital, que reduce todo el significado a símbolos que una máquina puede computar, tiende a cambiar nuestra forma de ver la naturaleza y a nosotros mismos. Llegamos a considerar la naturaleza como mera información que debe ser procesada, y a los seres humanos como meros procesadores de esa información. En la medida en que permitamos que la lógica de la máquina se vuelva la nuestra, nos transformaremos en “herramientas de nuestras herramientas”, según la frase de Thoreau.
El Postman de la vida real practicaba lo que predicaba, evitando las herramientas digitales tales como procesadores de texto y el piloto automático. Eligió permanecer en un mundo analógico que iba desvaneciéndose mientras él escribía. Al analizar las revoluciones tecnológicas del pasado, siempre está mirando melancólicamente hacia atrás. (Esto hace que algunas veces tenga puntos ciegos; por ejemplo, hace hincapié en las fallas de la medicina moderna, en tanto presta poca atención a sus logros). Está fascinado con la imprevisibilidad de los efectos de la innovación, y observa cómo la invención de la imprenta por el piadoso Johannes Gutenberg tuvo la consecuencia no buscada de destruir la unidad del cristianismo occidental. Con cada cambio como ese un mundo se termina:
El cambio tecnológico no es aditivo ni sustractivo. Es ecológico. Digo “ecológico” en el mismo sentido en que la palabra es empleada por los científicos medioambientales. Un cambio significativo genera un cambio total… Una nueva tecnología no agrega ni sustrae nada. Lo cambia todo.
Así como introducir o eliminar una especie puede cambiar el ecosistema de un bosque, una nueva tecnología puede rehacer el tejido completo de nuestra vida.
Ese es el tipo de cambio ecológico que Jonathan Haidt registra en su nuevo libro, La generación ansiosa: por qué las redes sociales están causando una epidemia de enfermedades mentales entre nuestros jóvenes. Haidt, un psicólogo social de la Universidad de Nueva York, reúne evidencia de un aumento de la gama de patologías sociales que comenzaron aproximadamente en 2010, justo cuando los teléfonos inteligentes y las redes sociales alimentadas por el botón de “Me gusta” se volvieron parte de la infancia y la adolescencia. Desde entonces, observa un pico en los índices de ansiedad, depresión y soledad entre los adolescentes estadounidenses. Desde 2010, los índices de suicidio han aumentado 91 % en varones jóvenes estadounidenses y 167 % en mujeres jóvenes estadounidenses, en tanto las visitas a las salas de emergencia por autolesiones han aumentado 48 % y 188 %, respectivamente.
Haidt argumenta de manera provocativa que esta “ola de sufrimiento” no solo coincide con el advenimiento de los teléfonos inteligentes, sino que surge de él. De acuerdo con sus descubrimientos, el acceso constante a las redes sociales exacerba la conciencia de la propia imagen y las vulnerabilidades de las muchachas, en tanto los aparatos con conexión a internet permiten a los muchachos replegarse hacia experiencias virtuales para escapar de los desafíos del mundo real.
Algunos críticos impugnan la interpretación que Haidt hace de estas tendencias. Pero concretamente, como padre de tres adolescentes, no dispongo de años para esperar la certeza científica. Tampoco otros padres. Solo nos queda evaluar la evidencia existente y confiar en nuestros ojos. No es necesario tener un conjunto de macrodatos para ver cuán rápida y profundamente la infancia y la adolescencia se han transformado a lo largo de la última década y media. Pero sí conlleva un considerable esfuerzo ir a contracorriente y reaccionar ante lo que vemos.
Leonardo Ulian, Atlas tecnológico 017(W) – Háblame, elementos electrónicos y alambre de cobre sobre mdf y papel, 2022.
Los impactos no se limitan a los índices de enfermedad mental. Consideremos simplemente la cantidad de tiempo que los niños pasan en los medios electrónicos. A principios de los noventa, los adolescentes estadounidenses pasaban un poco menos de tres horas al día frente a las pantallas, en especial, la televisión. Hoy, pasan entre seis y ocho horas al día, incluso más para aquellos provenientes de hogares de bajos ingresos (eso solo teniendo en cuenta el tiempo de ocio, no el uso relacionado con las tareas escolares). Hay poco misterio con respecto a los motivos. Las grandes multinacionales tecnológicas, armadas con algoritmos y gran cantidad de información, nunca antes habían logrado que los adolescentes estuvieran tan enganchados a sus productos como lo están ahora. Eso es lucrativo para ellos, pero significa un costo de oportunidad enorme para los niños, quienes son tentados a renunciar a porciones enormes de sus días y años de adolescencia en aras de las pantallas.
Por lo tanto, no alcanza con preguntarnos solamente qué están haciendo los adolescentes cuando están conectados ni si algo de lo que hacen podría ser dañino. Una pregunta igualmente importante es: ¿cuáles son las cosas que harían desconectados y no están haciendo? Basándose en lo que informa Allie Conti, Haidt cuenta la historia de Luca, un joven de Carolina del Norte:
Luca padeció ansiedad en la secundaria. Su madre lo retiró cuando tenía 12 y le permitió estudiar en línea desde su dormitorio. Los varones de generaciones pasadas que se retiraban a sus dormitorios debían enfrentar el aburrimiento y una soledad casi inimaginable, dos circunstancias que llevaban a la mayoría de los adolescentes recluidos en casa a cambiar sus hábitos o a buscar ayuda. Sin embargo, Luca halló el mundo en línea lo suficientemente vívido para alimentar su mente. Diez años más tarde, sigue con los videojuegos y navega por la red durante toda la noche. Duerme durante todo el día.
La historia de Luca es una versión extrema de comportamiento que la mayoría de los padres de varones adolescentes reconocerán. Como señaló Postman, se trata de la puesta en práctica de una dinámica que se inserta en la tecnología, una que se torna más poderosa a medida que la experiencia de estar conectado se vuelve más inmersiva. A menos que sea compensada con intereses, trabajo y amistades fuera del mundo de las redes, el mundo virtual puede absorber toda una vida.
Luca no está solo. Hay importantes comunidades en línea para los ninis (“ni estudian ni trabajan”) y los hikikomori, el término japonés que se aplica a los jóvenes que pasan la vida como ermitaños digitales en su dormitorio. Cuando se le preguntó a un usuario de Reddit por qué se había vuelto un nini, explicó: “Al crecer no tenía ningún amigo y solía faltar a la escuela para quedarme en casa y jugar con mis videojuegos. Hoy nada ha cambiado demasiado, salvo que, por supuesto, no voy a la escuela”.
Una cultura comunitaria fuerte puede resistir la presión de las tecnologías en su intento por moldear a los seres humanos de manera antihumana.
En Tecnópolis, Postman advierte acerca del advenimiento de una “tecnocracia totalitaria”. Esto parece significar una auténtica toma del poder en un sentido político en la que las élites tecnológicas controlan al resto de la población con poderosas medidas que aseguran su predominio. Treinta y dos años después de la aparición de su libro, esta distopía no se ha materializado, a pesar del crecimiento exponencial continuo del potencial informático que ha conducido a máquinas muchísimo más poderosas. Los actuales magnates tecnológicos ejercen una enorme influencia; aun así, es más probable que enfrenten una investigación antimonopolio a que se alcen con un poder dictatorial.
En tanto Tecnópolis se enfoca en la sociedad y en los sistemas, la amenaza más profunda en la actualidad puede ser su efecto en el alma de cada individuo. A medida que la realidad virtual mejora y los chatbots ―programas informáticos que simulan una conversación― de IA se vuelven más creíbles como amigos o compañeros románticos, nuestras herramientas mejoran su capacidad de acceder a nuestras más humanas necesidades de amor, propósito y aventura, en tanto nos impiden ―a través de la distracción, el hábito y la falta de autodominio― experimentar el mundo real.
Pero esto no es tan inevitable como Postman temía; no necesitamos estar a merced de nuestras herramientas ni perder las esperanzas de desarrollar nuestra capacidad para controlarlas. Resulta obvio que es necesario tomar conciencia de los modos en que la tecnología puede moldearnos, de cómo (tomando prestada la célebre frase de Marshall McLuhan) el medio puede ser el mensaje. Pero esas máximas abarcan solo parte de la verdad. Es igualmente cierto que los seres humanos tenemos libertad para usar nuestra creatividad para bien. Si lo hacemos, nuestra inventiva en tanto especie será un rasgo distintivo, no un error.
Esto es más evidente en el caso de las tecnologías médicas tales como el CGM de Tristan, que le permite disfrutar exactamente del tipo de infancia “basada en juegos” que Haidt propone como el antídoto a una “basada en el teléfono”. Existe una cierta presión de la crítica conservadora que marca el límite entre la buena y la mala tecnología en torno a los usos médicos, y celebra el progreso en el tratamiento de las enfermedades en tanto en otras áreas solo puede ver los riesgos de la aceleración tecnológica. Sin embargo, esa pequeña distinción se viene abajo en la práctica. Después de todo, Tristan puede dar peligrosas volteretas en el lago en parte gracias a la extendida disponibilidad de teléfonos inteligentes accesibles, justo aquello que impulsa las tendencias dañinas que Haidt señala. Las mismas tecnologías de lenguaje de gran tamaño que generan preocupación acerca de la IA ofrecen la promesa de futuros tratamientos aun mejores para personas con diabetes. No podemos acceder a lo bueno sin correr el riesgo de lo malo.
¿Cómo podemos, entonces, convivir bien con la tecnología? Para empezar, redoblando la apuesta a favor de la versión analógica de aquello que los productos tecnológicos a menudo prometen: comunidad. Tanto Postman como Haidt, cada uno a su manera, nos ayudan a ver que el desafío de la tecnología es colectivo. También nuestra respuesta debe ser colectiva. Los actos de desafío aislados, aunque con frecuencia son necesarios, solo nos llevan hasta cierto punto. Si, como parece, estamos enfrentando otro embate del cambio “ecológico” de Postman, debemos ser activos en promover comunidades de carne y hueso que sean lo suficientemente robustas para mantener la tecnología en su sitio. Eso puede ser tan simple como una red de padres que establecen reglas comunes para sus respectivas familias. O puede ser un círculo de amigos, una escuela, una empresa, una iglesia o una mancomunidad. Sea cual sea la forma, una cultura comunitaria fuerte puede resistir la presión de las tecnologías en su intento por moldear a los seres humanos de manera antihumana.
Leonardo Ulian, Mandala tecnológica 59 – 1+1=3, elementos electrónicos y alambre de cobre sobre papel, 2015.
Eso es lo que mi propia comunidad, el Bruderhof, está intentando hacer a pequeña escala. Adoptamos aquellas formas de la tecnología que consideramos útiles para promover la prosperidad de los individuos y de nuestra vida en común, en tanto actuamos juntos para establecer límites a aquellas formas que no contribuyen a eso. Si tenemos en cuenta el caso específico del impacto de la tecnología en la infancia, ponemos en práctica una interpretación reforzada de las ideas directrices que Haidt propone en su libro: mantener los teléfonos fuera de las escuelas. No dar teléfonos celulares a los niños hasta que, al menos, tengan la edad suficiente para conducir (Tristan es una excepción obvia, pero su hermano mayor aún no tiene teléfono y el de Tristan está limitado a funciones esenciales). Mantener a los niños lejos de las redes sociales hasta que tengan edad de votar, y en el caso de los adultos, servirse de ellas solo cuando sean una herramienta de trabajo, estudio o tareas creativas.
Ese mismo tipo de establecimiento de límites es posible en el marco de la sociedad en general. En Francia, un comité encargado por el presidente Emmanuel Macron ha propuesto recientemente prohibir los teléfonos inteligentes a niños menores de trece años y el acceso a redes sociales a niños menores de quince. Con respecto a la IA, incluso los líderes industriales están de acuerdo en la necesidad de tener una normativa más fuerte que aquella de los primeros años de la internet y las redes sociales.
Por lo tanto, las comunidades con culturas solidarias saludables son importantes tanto a nivel micro como macro. Fundamentalmente, también importan los objetivos de una comunidad al emplear la tecnología de la que dispone. El libro del Génesis, a pesar de haber sido escrito en un contexto antiguo, arroja luz sobre esto. De acuerdo con sus primeros capítulos, la humanidad es creada “a imagen” del Creador, dotada de un ingenio creativo como el del mismo Dios y encargada de actuar como su representante en el mundo. Dios coloca a los primeros seres humanos por encima del resto de la naturaleza, como sus administradores y creadores, y les encarga: “llenen la tierra y sométanla; dominen a los peces del mar y a las aves del cielo y a todos los animales que se arrastran por el suelo”.
Después de que los primeros seres humanos abandonan el paraíso, se disponen a hacer eso mismo, valiéndose de su ingenio para construir herramientas, crear estructuras y desarrollar organizaciones. Cuando usan estas tecnologías para construir adecuadamente, actuando en cumplimiento de su vocación divina, su tarea puede terminar salvando a la humanidad y a otras especies de la catástrofe. Eso es lo que hace Noé cuando construye el arca. Pero si construyen para independizarse de Dios, violando su mandato de cuidar del mundo en su lugar, sus proyectos acaban en un fracaso social. Eso es lo que sucede a los constructores de la Torre de Babel.
¿Cómo podemos hacer realidad nuestra vocación de administradores de la creación en el modo de usar la tecnología? Hay modos bastante prácticos. Basándonos una vez más en lo que mi comunidad ha aprendido, no solo necesitamos disciplinas y restricciones, sino también (y a un nivel incluso más importante) guías positivas para vivir. Hay que reemplazar lo virtual por lo real y estar presentes en el mundo físico. Hay que prestar la mayor parte de la atención a aquellos que están cerca en persona. Hay que pasar tiempo al aire libre, contemplar atardeceres y la salida de la luna. Plantar hortalizas, avistar aves, pescar o cazar. Criar cachorritos, conejos y cerdos.
Thamus tenía razón; con cada revolución tecnológica, un mundo termina. Pero un mundo también comienza. La invención de Theuth, la escritura, trajo aparejada la pérdida de las tradiciones orales, a la vez que hacía posible la redacción de la Biblia, por no mencionar las obras de Platón, Dante y Shakespeare. Hace setenta mil años, un mundo terminaba y otro comenzaba con la invención del arco y la flecha; sin duda, lo mismo volverá a suceder cuando se traspase la próxima frontera tecnológica.
No hay que tener miedo, siempre y cuando recordemos reivindicar con orgullo la libertad que pertenece a la humanidad por derecho. Debemos continuar siendo amos de nuestras herramientas. Para eso necesitamos comunidades fuertes del tipo de aquellas que muchas personas en el mundo están intentando promover (algunas se destacan en esta revista). Y necesitamos moldear y emplear nuestras herramientas al servicio de nuestra vocación humana, no para construir torres de Babel, sino arcas.
Traducción de Claudia Amengual