"Tecnología versus humanidad representauno de los últimos mapas morales que tendremos conforme la humanidad se adentra..."


Exlusiva vista previa: capítulo 1

Comienza a leer y forma parte de esta importante conversación

Lee el exclusivo PDF de vista previa: Vista previa de Tecnología versus humanidad de Gerd Leonhard


¿Cómo podrá prevalecer lo humano frente al cambio tecnológico exponencial y global?

Nuestro mundo está entrando en un periodo de cambio verdaderamente transformador, donde muchos de nosotros nos asombraremos ante la magnitud y el ritmo de desarrollos que simplemente no habíamos anticipado. Estos avances tecnológicos exponenciales ofrecen un tremendo potencial y grandes oportunidades que, a su vez, vienen acompañados de nuevas y enormes responsabilidades.

Considero que la magnitud de los cambios suscitados por acontecimientos recientes e imprevistos como el Brexit (la decisión del Reino Unido de abandonar la Unión Europea tras un referéndum en junio de 2016) será minúscula en comparación con el impacto generado por la avalancha de cambios tecnológicos que podría reestructurar tanto la propia esencia de la humanidad como cada aspecto de la vida en nuestro planeta.

En épocas pasadas, cada cambio radical de la sociedad humana había sido impulsado principalmente por un elemento clave que lo posibilitaba —desde la madera, la piedra, el bronce y el hierro, hasta el vapor, la electricidad, la automatización en las fábricas y el Internet—. Sin embargo, hoy en día puedo ver cómo confluyen toda una serie de mega-cambios (megashifts) posibles gracias a la ciencia y a la tecnología, al grado de que rediseñarán no sólo el comercio, la cultura y la sociedad, sino también nuestra biología y nuestra ética.

Permítanme ser claro sobre este libro: Tecnología versus humanidad no constituye la celebración de una revolución tecnológica que avanza rápidamente, ni tampoco un lamento por el ocaso de la civilización. Si ustedes, como yo, son aficionados al cine, entonces muy probablemente ya estarán hartos de las visiones utópicas y advertencias distópicas de Hollywood. ¡El futuro no puede construirse sobre un optimismo ciego ni tampoco sobre un miedo paralizante!

Mi objetivo a través de este libro es el de amplificar y acelerar el debate en torno a cómo podríamos asegurarnos de estar guiando, encauzando y controlando los desarrollos científicos y tecnológicos hacia la consecución de su principal propósito, que no es otro sino servir a la humanidad y fomentar su prosperidad.

Mi anhelo es dirigir la discusión más allá de los ámbitos dominados por tecnólogos exuberantes, investigadores serios y analistas reflexivos, para poder expresar una serie de inquietudes que todavía están muy lejos de ser atendidas o de ser reconocidas siquiera por la población en general. Como futurista —y cada vez más un “ahorista” (nowist) que vive en el aquí y el ahora— también tengo la esperanza de poder dotar de presencia real y de urgencia actual a un futuro que, para muchos, parece eludir nuestra comprensión y no ser digno de nuestra atención.

Este libro está intencionalmente diseñado como un apasionante detonador de discusiones alrededor de lo que considero la conversación más importante del mundo. Creo que mi papel aquí es el de incitar y catalizar el debate; por lo tanto, me he dispuesto a diseñar un manifiesto enérgico en lugar de presentar un prototipo o una guía sobre cómo hacerlo. A fin de estimular y fomentar dicho debate, desarrollaré a través de futuras conferencias, contribuciones en línea y películas, los temas esbozados en este libro

Creo que hemos de tomar distancia del debate liderado por los expertos sobre qué cosas resultan posibles y cómo podríamos lograrlas. Más bien, soy de la opinión de que debemos comenzar por una exploración más fundamental sobre qué papel queremos que estas tecnologías transformativas tengan al servicio de la humanidad: el hecho de que podamos hacerlo no significa que debamos hacerlo.

En este libro propongo lo que considero son las fuerzas impulsoras del cambio, y también he presentado una evaluación de su impacto e implicaciones potenciales. He subrayado varias cuestiones fundamentales —y en muchos casos exponenciales— que han surgido en una multitud de ámbitos científicos y tecnológicos. Sostengo que hemos de situar la felicidad y el bienestar humanos al centro de nuestra toma de decisiones y de nuestros procesos de gobierno, a fin de que estos factores definan futuras inversiones destinadas a la investigación, al desarrollo y a la comercialización científica y tecnológica pues, a fin de cuentas, la tecnología no se refiere a aquello que buscamos, sino a cómo lo buscamos.

UN PRÓLOGO DEL FUTURO

La humanidad cambiará más durante los próximos 20 años que durante los últimos 300 años

Los seres humanos tienden a extrapolar el futuro a partir del presente y también a partir del pasado. El supuesto aquí sería que todo aquello que hasta ahora nos haya resultado eficaz, tras ligeras mejorías de modo o forma, también debería sernos en buena medida útil para el futuro. Sin embargo, la nueva realidad implica que, dado el mayor impacto que están ejerciendo los cambios tecnológicos exponenciales y combinatorios (como explicaré a lo largo de este libro), es altamente improbable que el futuro sea una extensión del presente. Más bien, todo indica que será radicalmente distinto —ya que tanto el contexto de estos presupuestos como su lógica subyacente han cambiado—. Por lo tanto, en mi labor como futurista me esfuerzo por intuir, imaginar y sumergirme en el futuro cercano (unos cinco a ocho años hacia adelante) y presentar visiones sobre dicho mundo, para regresar nuevamente desde ahí al presente, en lugar de tomar el presente como punto de partida.

Empezando con un reporte de ese futuro próximo, este libro explora los retos por venir y propone un manifiesto, una llamada apasionada que nos insta a detenernos y reflexionar antes de ser arrastrados por el vórtice mágico de la tecnología y quedar fundamentalmente reducidos a ser menos, y no más, humanos. Es oportuno recordar que el futuro no es algo que simplemente nos acontezca —es algo que creamos, día tras día, y seremos responsables de las decisiones que tomemos en este preciso instante—.

humans exponential not JFC gerd leonhard

Creo que estamos viviendo uno de los momentos más emocionantes de la historia de la humanidad, y suelo ser muy optimista respecto al futuro. No obstante, es indudable que hemos de definir y llevar a cabo una aproximación más holística de la gestión de la tecnología, a fin de salvaguardar la propia esencia de lo que significa ser humano.

Nos encontramos en un punto de inflexión dentro de una curva exponencial en muchos campos de la ciencia y la tecnología, un punto en el que la duplicación de cada periodo de medición respecto al anterior se va volviendo cada vez más relevante (véase la ley de Moore). Este ritmo de crecimiento exponencial es evidente hoy en día en áreas tan diversas como el aprendizaje profundo, la genética, las ciencias de materiales y la manufactura. El tiempo requerido para cada paso de este crecimiento exponencial también está disminuyendo en muchos campos, lo que está posibilitando cambios fundamentales en todas las actividades del planeta. En términos prácticos, actualmente hemos dejado atrás aquella etapa de la curva en la que era difícil medir la presencia de algún cambio, es decir, ya no estamos avanzando dando pequeños pasos de 0.01 a 0.02 o de 0.04 a 0.08.

Por fortuna, tampoco hemos llegado aún al punto en el que dichas duplicaciones se hayan vuelto tan grandes como para superar nuestra comprensión o para impedirnos actuar. Poniendo esto en perspectiva, considero que en la mayoría de los ámbitos nos encontramos ahora en un nivel de rendimiento relativo de aproximadamente cuatro; sin embargo, el siguiente incremento no será uno lineal de cuatro a cinco, ¡sino un paso exponencial de cuatro a ocho! Es ahora cuando los incrementos exponenciales están empezando realmente a importar, y la tecnología hoy en día está impulsando cambios exponenciales en todos los sectores de nuestra sociedad, desde los transportes, las comunicaciones y los medios, hasta la medicina, la salud, la comida y la energía.

Observen los cambios recientes de los que estamos siendo testigos en la industria automotriz —a lo largo de los últimos siete años hemos evolucionado de los automóviles eléctricos que ofrecían un rango de menos de 50 millas a los últimos modelos de Tesla y el BMWi8, que aseguran un rendimiento de más de 300 millas con una única carga—. También hemos pasado de un puñado de centros de carga al sorprendente hecho de que en la ciudad de Nueva York ya existen más estaciones de vehículos eléctricos (VE) que gasolineras. Aproximadamente cada mes surge un nuevo avance relativo a la eficiencia de las baterías, que en décadas pasadas constituía una de las principales limitaciones para la adopción de vehículos eléctricos. Dentro de poco cargaremos nuestros vehículos eléctricos sólo una vez por semana, luego una vez por mes, y finalmente quizá sólo una vez al año y, así las cosas, ¡parece bastante probable que muy pocas personas sigan interesadas en autos de lujo enormes, con motores de gasolina buenos pero viejos!

Presten ahora atención a la disminución incluso más dramática de los costos de secuenciación del genoma humano, que ha pasado de unos $10 millones USD en el 2008 a aproximadamente $800 USD hoy en día. Imaginemos qué podría ocurrir cuando supercomputadoras más poderosas pasen a formar parte de la nube y estén a disposición de cualquier instalación o laboratorio médico: el costo de la secuenciación del genoma individual podría reducirse rápidamente hasta situarse por debajo de los $50 USD. Imaginen ahora los perfiles genómicos de unos dos mil millones de personas cargados en una nube segura (¡ojalá de forma anónima!) para ser usados con fines de investigación, desarrollo y análisis —una actividad que en gran parte fuera realizada por inteligencia artificial (IA) operando en esas mismas supercomputadoras—. Las posibilidades científicas resultantes arrasarían con cualquiera de nuestros sueños y, simultáneamente, traerían consigo retos éticos de enormes dimensiones: incrementos impresionantes de la longevidad entre aquellos que pudieran costearlo, la capacidad de reprogramar el genoma humano, y —potencialmente— el fin del envejecimiento, e incluso de la muerte. ¿Será acaso que los ricos vivirán por siempre, mientras los pobres no podrán siquiera permitirse pastillas para la malaria?

exponential change cost decline jfc red gerd leonhard

Desarrollos exponenciales como éstos sugieren que seguir imaginando el futuro de forma lineal probablemente nos dirija a supuestos catastróficamente erróneos sobre la magnitud, la velocidad y los impactos potenciales del cambio. Quizá esto explique en parte por qué tantas personas no parecen comprender la creciente preocupación en torno al triunfo de la tecnología sobre la humanidad —todo parece tan lejano y, por ahora, relativamente inocuo, pues nos encontramos sólo en el punto cuatro de esta curva—. Cuestiones como la creciente pérdida de privacidad, el desempleo tecnológico, o la descualificación humana, todavía no parecen suficientemente próximas —pero esto está destinado a cambiar muy rápidamente—.

También es importante ser conscientes de que los cambios más grandes ocurrirán como consecuencia de la innovación combinatoria, es decir, por la explotación simultánea de múltiples mega-cambios y elementos disruptivos (como explico en el capítulo 3). Por ejemplo, en dicho capítulo también discutiré la práctica cada vez más común entre las compañías que combinan big data y el Internet de las cosas (Internet of Things, IoT) junto con IA, la movilidad y la nube, a fin de crear nuevas ofertas extremadamente perturbadoras.

Basta decir que nada ni nadie podrá salvarse de los cambios que se avecinan, independientemente de que estos cambios sean realizados de buena voluntad, ignorando o descuidando la consideración de posibles consecuencias indeseadas, o bien, con claros fines dañinos. Por un lado, estos avances tecnológicos inimaginables podrían mejorar nuestras vidas de forma dramática, promoviendo en grado sumo la prosperidad humana (véase el capítulo 9, en torno a qué podrían significar exactamente la felicidad y la prosperidad en el futuro); por el otro, es probable que algunos de estos cambios tecnológicos exponenciales pongan en riesgo el propio tejido de la sociedad y, en última instancia, que cuestionen nuestra propia humanidad.

En 1993, el informático y afamado autor de ciencia ficción, Vernor Vinge, escribió: “Dentro de 30 años tendremos los medios tecnológicos necesarios para crear una inteligencia sobrehumana. Poco después, la era humana habrá llegado a su fin. ¿Podría evitarse semejante progresión? Y, de ser ineludible, ¿podrían dirigirse estos eventos a fin de sobrevivir?”.

hellven JFC gerd leonhrd

¡Bienvenidos a HellVen!

Cada vez resulta más claro que el futuro de las relaciones humano-máquina depende en gran medida del sistema económico que las crea. Estamos enfrentando lo que me gusta llamar retos HellVen (i.e. una mezcla de hell/heaven – infierno/cielo) (#hellven). Estamos avanzando a máxima velocidad hacia un mundo semejante al estado de Nirvana, en el que ya no sería necesario trabajar para ganarse el sustento, donde los problemas serían solucionados por la tecnología, y donde gozaríamos de una especie de abundancia universal —referida en ocasiones como la economía Star Trek—.

No obstante, el futuro también podría marcar el inicio de una sociedad distópica orquestada y vigilada por supercomputadoras, bots interconectados y agentes de software súper-inteligentes —máquinas y algoritmos, cíborgs y robots— o, mejor dicho, por sus dueños. Un mundo donde los seres humanos no aumentados serían, en el mejor de los casos, tolerados como meras mascotas o como un estorbo necesario y, en el peor escenario, serían esclavizados por una camarilla de dioses cíborg; una sociedad obscura que estaría descualificada, desensibilizada, desencarnada y completamente deshumanizada.

 “Vivirás para ver los horrores cometidos por los hombres más allá de tu comprensión” Nikola Tesla

 ¿Acaso esta visión es paranoica?

Consideremos ahora lo que muchos de nosotros ya estamos presenciando en nuestras propias vidas: tecnologías digitales ubicuas y de bajo costo que han hecho posible delegar nuestros pensamientos, nuestras decisiones y nuestros recuerdos a dispositivos móviles cada vez más baratos y a las nubes inteligentes detrás de ellos. Estos “cerebros externos” están mutando rápidamente de conocer-me, a representar-me, hasta ser-yo. De hecho, ya han comenzado a convertirse en una copia digital de nosotros mismos —y, si esto todavía no les resulta preocupante, imaginen el poder que tendría este cerebro externo multiplicado hasta 100 veces en los próximos cinco años—.

¿Tengo que desplazarme por una ciudad desconocida? Imposible sin GoogleMaps. ¿No sé qué cenar esta noche? TripAdvisor me lo dirá. ¿No tengo tiempo para contestar mis correos? El nuevo asistente inteligente de Gmail lo hará por mí.

En lo que respecta a la convergencia hombre-máquina, no hemos llegado al punto de una tierra en la que permanezcamos en casa mientras nuestros dobles cíborg viven nuestra vida por nosotros, como en la película Identidad sustituta (Surrogates, 2009) de Bruce Willis. Tampoco tenemos aún la posibilidad de comprar synths (i.e. humanoides sintéticos) semejantes a los humanos que pudieran realizar una gama de tareas y brindarnos compañía, como se observa en la serie televisiva de la AMC del 2015 Humans— pero tampoco estamos muy lejos de ello—.

Gerd_illustrations_27_5_16_v3-07-1

En este libro explicaré por qué considero improbable que ocurra este escenario distópico. Al mismo tiempo, sostendré que en este momento nos enfrentamos a algunas decisiones fundamentales en lo que respecta a determinar y planear hasta dónde permitiremos que la tecnología impacte y configure nuestras vidas, las vidas de nuestros seres queridos, y la vida de las generaciones futuras. Algunos expertos podrían afirmar que ya hemos rebasado el punto en el que podríamos haber prevenido estos cambios, y que ésta no es sino la siguiente etapa dentro de nuestra evolución “natural”. Discrepo radicalmente de esta postura, y explicaré la forma en que, a mi modo de ver, los humanos podrían salir victoriosos del choque que se avecina entre el hombre y las máquinas.

La tecnología y la humanidad están convergiendo, y nos encontramos en un punto de inflexión

Al comenzar a escribir este libro y mientras daba forma a los temas de mis conferencias, hubo tres palabras que surgieron y sobresalieron —exponencial, combinatorio y recurrente—.

1. Exponencial. La tecnología está progresando exponencialmente (i.e. a un ritmo de 1-2-4-8-6 en lugar de 1-2-3-4-5). Si bien es verdad que las leyes básicas de la física podrían impedir que los microchips fueran mucho más pequeños de lo que ya lo son hoy en día, el progreso tecnológico en general todavía se ajusta a la ley de Moore. La curva de rendimiento sigue creciendo exponencialmente en lugar de hacerlo de la forma gradual o lineal en que los humanos tienden a comprenderlo y esperarlo. Esto representa un enorme reto cognitivo para nosotros: mientras la tecnología crece exponencialmente, los humanos (eso espero) siguen siendo lineales.

2. Combinatorio. Los avances tecnológicos están siendo combinados e integrados. Una serie de avances innovadores, como serían la inteligencia de las máquinas y el aprendizaje profundo, el IoT y la edición del genoma humano, están empezando a converger y a amplificarse entre sí. Su aplicación ya no queda reducida a dominios individuales específicos —más bien, están generando ondas a lo largo y ancho de una infinidad de sectores—. Por ejemplo, algunas tecnologías avanzadas de edición del genoma humano como CRISPR-Cas9, podrían permitirnos finalmente derrotar el cáncer y aumentar dramáticamente la longevidad. Estos desarrollos pondrían de cabeza toda la lógica de la atención sanitaria, de la seguridad social, del ámbito laboral e, incluso, del propio capitalismo. (Nota: el siguiente gráfico está inspirado en Frank Diana).

3. Recurrente. Tecnologías como la IA, la informática cognitiva y el aprendizaje profundo, podrían en cierto momento dar pie a avances recurrentes (i.e. auto-amplificadores). Por ejemplo, ya estamos siendo testigos de los primeros ejemplos de robots que pueden reprogramarse y actualizarse a sí mismos, o que son capaces de controlar la red eléctrica gracias a la que funcionan, lo que podría conducir a lo que se ha llegado a denominar una explosión de inteligencia. Algunos, como el catedrático de Oxford, Nick Bostrom, consideran que esto podría resultar en el surgimiento de súper-inteligencia —sistemas de IA que un día podrían llegar a aprender más rápido que los propios seres humanos, aventajándoles en casi todos los aspectos—. Si podemos diseñar IAs con un CI de 500, ¿qué podría impedirnos diseñar otras con un CI de 50,000? Y, ¿qué ocurriría si lo hiciéramos?

Afortunadamente, la súper-inteligencia recurrente todavía no se vislumbra en el horizonte inmediato. Sin embargo, incluso si estos retos aún no están presentes, ya estamos enfrentándonos a algunas cuestiones que escalan con rapidez, como serían el constante rastreo de nuestras vidas digitales, la vigilancia predeterminada, la pérdida de habilidades de nuestros hijos, la privacidad decreciente, la pérdida del anonimato, el robo de identidad digital, la seguridad de datos, y muchas más. Por esta razón estoy convencido de que aquí y ahora es cuando se están sentando las bases para el futuro —positivo o distópico— de la humanidad.

Gerd Leonhard techvshuman IoT lost man technology humanity JFC yellow

Nos encontramos en una encrucijada decisiva: hemos de actuar con mucha más previsión, desde una postura resueltamente más holística y a través de una gestión mucho más robusta, conforme desplegamos tecnologías que, por su parte, podrían ejercer en nosotros un poder infinitamente mayor del que podríamos siquiera imaginar.

Ya no podemos adoptar una actitud pasiva de “esperar y ver”, si queremos seguir en control de nuestro destino y de los desarrollos que podrían perfilarlo. Más bien, hemos de dedicar igual atención tanto a qué significaría ser o seguir siendo humanos en el futuro (i.e. aquello que nos define como humanos) como al desarrollo de tecnologías infinitamente más poderosas que transformarán a la humanidad para siempre.

A su vez, hemos de tener cuidado de no dejar estas decisiones simplemente en manos del “libre mercado”, de inversores de capital de riesgo o de tecnólogos corporativos, ni de las organizaciones militares más poderosas del mundo. El futuro de la humanidad no tiene por qué ajustarse al paradigma genérico de una era industrial donde todo se reduzca a crecimiento y rentabilidad a toda costa, ni tampoco tiene por qué seguir cierto imperativo tecnológico obsoleto que cumplió su propósito en la década de los ochenta. Ni Silicon Valley, ni las naciones con mayor auge tecnológico del mundo, tienen por qué convertirse en el “control de misión para la humanidad” simplemente porque la tecnología genere una ingente cantidad de nuevas fuentes de ganancias e ingresos descomunales.

Afortunadamente, considero que en este preciso momento todavía nos encontramos en el punto 90/10: 90% de las sorprendentes posibilidades presentadas por la tecnología podrían resultar beneficiosas para la humanidad, mientras que el 10% restante podría ya ser problemático o negativo. Si podemos mantener este equilibrio, e incluso llevarlo a un 98/2, realmente valdría la pena el esfuerzo. Al mismo tiempo, ese inquietante 10% (incluso si hasta ahora en su mayor parte ha sido fortuito) podría rápidamente inflarse hasta un 50% o más si no acordamos el modo exacto en que deseamos que estas tecnologías estén al servicio de la humanidad. Es claro que nos encontramos en un momento en el que no podemos simplemente “seguir empujando y ver qué pasa”.

La inteligencia artificial y la edición del genoma humano constituyen los dos principales factores de cambio

La primera entre las principales fuerzas en el ámbito de las tecnologías exponenciales es la IA, que puede definirse simplemente como la creación de máquinas (software o robots) inteligentes y capaces de autoaprendizaje —i.e. máquinas pensantes más semejantes a los humanos—. Se ha proyectado ampliamente la capacidad de la IA de crecer al doble de velocidad que el resto de todas las demás tecnologías juntas, superando así la ley de Moore y el crecimiento de la potencia informática en general.

“Por mucho, el mayor peligro de la inteligencia artificial es que las personas concluyen con demasiada rapidez que ya la han comprendido”. — Eliezer Yudkowsky

De la mano de la IA se encuentra el segundo factor de cambio (game changer), a saber, la ingeniería del genoma humano: alterar el ADN para acabar con algunas o todas las enfermedades, para reprogramar nuestros cuerpos e, incluso, probablemente, para acabar con la muerte. En efecto, la IA será un elemento crítico que posibilitaría semejante reprogramación.

Ambos factores de cambio y sus vecinos científicos tendrán un impacto enorme en lo que los humanos pueden y podrán hacer en menos de 20 años. En este libro, en aras de la brevedad, me enfocaré particularmente en la IA y en el aprendizaje profundo, dado que son entidades inmediatamente relevantes para nuestro futuro, así como por su rol de habilitadores del desarrollo de otros factores de cambio, como la edición del genoma humano, la nanotecnología y las ciencias de materiales.

¿Asemejándonos a Dios?

El Dr. Ray Kurzweil, actual director de ingeniería de Google, es una gran influencia en el pensamiento futurista en general y en mi propia obra en particular, aunque también se trata de alguien cuyas posturas tendré que retar constantemente en este libro. Kurzweil predice que las computadoras superarán el poder de procesamiento de un cerebro humano para el año 2025, y que una sola computadora podría igualar el poder de todos los cerebros humanos juntos para el año 2050.

Kurzweil sugiere que estos desarrollos anunciarán la llegada de la así llamada singularidad tecnológica (Singularity), el momento en que las computadoras finalmente triunfen y sobrepasen a los cerebros humanos en términos de potencia informática. Éste es el momento en el que la inteligencia humana podría volverse cada vez menos biológica, donde sería posible que las máquinas pudieran trascender su programación original de forma independiente y, probablemente, de forma recurrente —un momento decisivo en la historia humana—.

A finales del 2015, Ray Kurzweil dijo esto a su público en la Singularity University: “Conforme evolucionamos nos asemejamos cada vez más a Dios. La evolución es un proceso espiritual. En el mundo hay belleza, amor, creatividad e inteligencia —todo proviene del neocórtex—. Así que expandiremos el neocórtex del cerebro hasta hacernos más divinos”.

mobiles and neocortex sky gerd leonhard futurist yellow

Si bien considero bastante acertada la afirmación de que —con Dios o sin él— las computadoras llegarán a tener la capacidad del cerebro humano, a diferencia del Dr. Kurzweil, no creo que debamos renunciar gustosamente a nuestra humanidad a cambio de la posibilidad de obtener una inteligencia no biológica ilimitada. Más bien, me parece un muy mal negocio, una degradación en lugar de una optimización, y en este libro explicaré por qué creo encarecidamente que no deberíamos tomar ese camino (vean mis videos sobre la singularidad tecnológica).

Ahora mismo, en el 2016, las computadoras simplemente no cuentan con la suficiente potencia como para materializar la visión de Kurzweil. Considero que los chips son todavía demasiado grandes, las redes todavía no tienen la velocidad suficiente, y el sistema eléctrico en general no podría sostener la demanda de máquinas que requirieran tanta potencia. Obviamente, éstos son meros obstáculos temporales: cada día nos enteramos de importantes descubrimientos científicos y, además, es innegable que hay numerosos avances no publicados que están ocurriendo en secreto en laboratorios de todo el mundo.

Debemos estar preparados para la singularidad tecnológica, manteniéndonos abiertos pero críticos, científicos pero humanistas, aventureros y curiosos pero también precavidos, y con una mentalidad tanto emprendedora como colectiva.

La ciencia ficción está convirtiéndose en hechos científicos

Muy pronto, las máquinas serán capaces de realizar tareas que antes sólo eran del dominio exclusivo de trabajadores humanos —tanto obreros como trabajadores de cuello blanco— como la comprensión del lenguaje, el reconocimiento complejo de imágenes, o el uso de nuestro cuerpo de maneras altamente flexibles y adaptativas. Sin duda, para ese momento dependeremos de las máquinas en cada aspecto de nuestras vidas. También es muy probable que seamos testigos de una rápida fusión de hombre y máquina a través de nuevos tipos de interfaces, como la realidad aumentada (RA), la realidad virtual (RV), hologramas, implantes, interfaces cerebro-computadora (ICC), y partes corporales diseñadas por medio de nanotecnología y biología sintética.

De ser posibles acciones como la introducción de nanobots en nuestro torrente sanguíneo, o de implantes de comunicación en nuestros cerebros, ¿quién decidiría entonces lo que es humano? Si (como me gusta decirlo) la tecnología no tiene ética (y probablemente no debería tenerla), ¿qué ocurrirá con nuestras normas y contratos sociales, con nuestros valores y nuestra moral, en el momento en el que las máquinas gestionen todo por nosotros?

En el futuro cercano, a pesar de lo que aseveran los evangelistas de la IA, opino que la inteligencia de las máquinas no incluirá ni inteligencia emocional ni cuestiones éticas, dado que las máquinas son cosas —son duplicadores y simuladores—. Empero, llegará un momento en el que las máquinas serán capaces de leer, analizar y posiblemente comprender nuestros sistemas de valores, nuestros contratos sociales, nuestra ética y nuestras creencias —pero no podrán nunca EXISTIR en el mundo o SER parte de él como nosotros lo hacemos (lo que algunos filósofos alemanes denominan Dasein)—.

Gerd_illustrations_12_5_16_v5-58

Pero, independientemente de esto, ¿viviremos en un mundo en el que los datos y los algoritmos se impondrán sobre los androritmos, por encima de todo aquello que nos hace humanos? (Más adelante en este libro definiré exactamente lo que es un androritmo).

De nueva cuenta, las duplicaciones sucesivas de 4 a 8, a 16 y a 32, son radicalmente diferentes a nivel de su impacto que los incrementos de 0.1 a 0.8. Éste constituye uno de los retos más arduos de hoy en día: hemos de imaginarnos un mañana exponencialmente distinto, y debemos convertirnos en administradores de un futuro cuya complejidad podría ampliamente rebasar la comprensión humana actual. En cierto modo, hemos de volvernos exponencialmente imaginativos.

Gradualmente, luego súbitamente

Para mí, esta línea del libro Fiesta (The Sun Also Rises) de Ernest Hemingway describe perfectamente la naturaleza del cambio exponencial: “¿Cómo llegaste a la quiebra? De dos maneras. Gradualmente, luego súbitamente”.

Cuando pensamos en crear nuestro futuro, es esencial que comprendamos estos dos memes gemelos: por un lado, “exponencialmente” y, por otro, “gradualmente, luego súbitamente”, pues ambos encierran mensajes clave en este libro. Veremos cada vez más los humildes comienzos de lo que podría ser una enorme oportunidad o una enorme amenaza. Y luego, repentinamente, o bien habrá desaparecido y habrá quedado en el olvido, o bien, estará aquí, ahora, y mucho más grande de lo que habíamos imaginado. Pensemos en la energía solar, en los vehículos autónomos, en las monedas digitales, y las blockchain (cadenas de bloques): a todas les tomó mucho tiempo materializarse, pero luego súbitamente nos encontramos con que están aquí y que están rugiendo. La historia nos dice que los que se adaptan con demasiada lentitud o que no logran prever los momentos clave sufrirán las consecuencias.

waves of disruption gerd leonhard JFC

Conformarnos con aguardar y ver qué pasa muy probablemente significaría esperar hasta volvernos irrelevantes, o simplemente ser ignorados, volvernos obsoletos y desaparecer. Por lo tanto, debemos buscar otra estrategia para definir y conservar lo que nos hace humanos en este mundo de rápida digitalización.

Tiendo a pensar que los mercados no se autorregularán ni tratarán estas cuestiones a través de una “mano invisible”. Más bien, los mercados abiertos, tradicionalmente regidos por el crecimiento y la rentabilidad, sólo aumentarán los retos enfrentados por la humanidad frente a la tecnología, puesto que estas mismas tecnologías presumiblemente generarán oportunidades por el valor de billones de dólares al año. El hecho de reemplazar las cualidades, interacciones e idiosincrasias humanas por tecnología representa una oportunidad de negocio demasiado grande como para ser cuestionada. Por poner un ejemplo, Peter Diamandis, un miembro de la junta directiva de una compañía de California bajo el acertado nombre de Human Longevity Inc., (Longevidad Humana Inc.), con frecuencia declara que el incremento de la longevidad podría crear un mercado global de unos $3.5 billones de USD. Estas nuevas e irresistibles fronteras tienen mucha probabilidad de superar cualquier mínima inquietud sobre el futuro de la humanidad.

Más allá del control de misión

En última instancia estamos hablando sobre la supervivencia y la prosperidad de la especie humana, y creo que no sería correcto poner todo en manos de inversores de capital de riesgo, de los mercados bursátiles y de la milicia, ni que dirigieran esta cuestión por cuenta propia.

Es innegable que en el futuro cercano seremos testigos de duras batallas entre paradigmas y visiones opuestas del mundo, con sus enormes intereses económicos, enfrentándose entre sí en una especie de contienda de humanistas contra transhumanistas. Ahora que el petróleo y otros combustibles fósiles están dejando de ser la fuerza impulsora de los intereses políticos y militares, los Estados Unidos y China ya se encuentran al frente de una frenética carrera armamentística. Las nuevas guerras serán digitales, donde la batalla por el liderazgo ocurrirá en puntos de inflexión exponenciales como serían la IA, la modificación del genoma humano, el IoT, la seguridad cibernética y la guerra digital. Europa (incluyendo a Suiza, donde resido, y especialmente en ella) se encuentra en cierta forma atrapada en un punto medio, más preocupada por cuestiones que muchos considerarían sublimes, como son los derechos humanos, la felicidad, el equilibrio, la ética, y el bienestar sostenible y colectivo. Como explicaré después, creo que, de hecho, el abordaje de estas inquietudes constituye nuestra gran oportunidad aquí en Europa.

Ya existen tribus globales de líderes de opinión, emprendedores en serie, científicos, inversores de capital de riesgo y toda una variedad de gurús tecnológicos (y, sí, futuristas también), todos ellos dedicados a la promoción de un abandono rápido, voluntario y total del humanismo. Estos tecno-progresistas nos instan a “transcender la humanidad” y aceptar el siguiente paso de nuestra evolución que, por supuesto, es la fusión de la biología y la tecnología, alterando y aumentando nuestras mentes y nuestros cuerpos, hasta volvernos realmente sobrehumanos, erradicando las enfermedades (algo bueno) e incluso la muerte —una búsqueda seductora pero, con todo, bizarra—.

Gerd_illustration-21

El interés por esta noción del transhumanismo ha ido creciendo y, a mi modo de ver, constituye uno de los desarrollos más inquietantes que he podido observar durante mis 15 años como futurista. La idea de procurar la felicidad humana buscando transcender completamente a la humanidad a través de medios tecnológicos, resulta algo francamente ilusorio.

A modo de contexto, presento a continuación dos posturas contrastantes relativas a este concepto, expuestas, por un lado, por el defensor del transhumanismo y candidato presidencial de los Estados Unidos en 2016, Zoltan Istvan y, por el otro, el filósofo Jesse I. Bailey:

El protagonista. Istvan escribió en su novela de 2013, The Transhumanist Wager (La apuesta transhumanista):

“El código audaz del transhumanismo se levantará. Éste es un hecho indiscutible e innegable. Está embebido en la naturaleza no democrática de la tecnología y en nuestro propio avanzar evolutivo y teleológico. Se trata del futuro. Somos el futuro, querámoslo o no. Y este futuro debe ser moldeado, guiado y manejado correctamente a través de la fuerza y la sabiduría de los científicos transhumanistas, respaldados y favorecidos por sus naciones y sus recursos. Debe ser apoyado de tal manera que logremos una transición exitosa hacia él sin sacrificarnos a nosotros mismos —ya sea por su poder abrumador o por miedo a sacar partido de dicho poder. Deben invertir sus recursos en la tecnología. En nuestro sistema educativo. En nuestras universidades, industrias e ideas. En lo más fuerte de nuestra sociedad. En lo más brillante de nuestra sociedad. En lo mejor de nuestra sociedad. Para que de esta forma alcancemos el futuro”.

El humanista. Desafiando esta postura, Bailey escribió en The Journal of Evolution and Technology (Revista de Evolución y Tecnología):

Sostengo que, al amenazar con desdibujar la muerte como la posibilidad fundacional del Dasein (la existencia humana), el transhumanismo plantea el peligro de ocultar la necesidad de desarrollar una relación libre y auténtica con la tecnología, con la Verdad, y en definitiva, con el propio Dasein. Los transhumanistas suelen defender una de dos afirmaciones: o bien el cuerpo que habitamos ahora será capaz de vivir cientos de años, o bien, nuestra consciencia podrá ser descargada en múltiples cuerpos. Cualquiera de estas posturas (de formas diferentes, sutiles pero importantes) aliena la experiencia humana de aspectos centrales de la finitud encarnada. Heidegger reconoce el ‘ser-para-la-muerte’ como un elemento central de la llamada a la autenticidad y evitar perderse en el ‘uno’ (dominado por el marco tecnológico); al amenazar nuestra consciencia respecto a nuestra propia moralidad, el transhumanismo amenaza con ocluir el llamado a la autenticidad, de la misma forma en que ocluye la necesidad de ésta”. (The Journal of Evolution and Technology, vol. 24, núm. 2, julio 2014, pp. 44–62)

Resulta claro que el determinismo tecnológico no es la solución, y también que la ideología imperante en Silicon Valley —que sostiene “¿por qué no sencillamente inventamos cómo salir de esto, nos divertimos en grande, y ganamos muchísimo dinero mientras mejoramos la vida de miles de millones de personas con estas nuevas tecnologías?”— podría resultar simplemente tan perezosa —y peligrosa— como el ludismo.

Como un contraste respetuoso de las visiones más bien cartesianas o reduccionistas de algunos transhumanistas sobre el futuro de la humanidad (i.e. ampliamente simplificadas y reducidas a concebir el mundo —y a las personas— como una máquina gigante), este libro se esforzará por esbozar una mentalidad y una filosofía de la era digital a las que en ocasiones me he referido como humanismo exponencial. Creo que por medio de esta filosofía podemos encontrar una vía equilibrada de avance, misma que nos permitirá adoptar la tecnología sin convertirnos en tecnología, usándola como un medio y no como un fin.

Para salvaguardar el futuro de la humanidad, debemos destinar al fomento de ésta tanta energía como la que invertimos en el desarrollo tecnológico.

Considero que si queremos un mundo que siga siendo un buen lugar para los seres humanos, con todas sus imperfecciones e ineficiencias, hemos de destinar una cantidad significativa de recursos (monetarios y de todo tipo) a la definición de qué implicaría en realidad una nueva clase de humanismo exponencial. No bastará con invertir en tecnologías que prometan hacernos sobrehumanos —pues no tardaremos en estar sobre los hombros de máquinas cuyo funcionamiento ya ni siquiera comprendemos—.

good evil human technoloy techvshuman jfc gerd leonhard

Si no tomamos una postura más proactiva en estas cuestiones, me preocupa que una explosión exponencial, desenfrenada e incontrolada de inteligencia en la robótica, en la IA, en la bioingeniería y en la genética, acabará conduciendo al menosprecio de los principios básicos de la existencia humana, puesto que la tecnología no posee ética —pero una sociedad sin ética está condenada—.

Esta dicotomía está surgiendo por doquier: prácticamente todo lo que pueda ser digitalizado, automatizado, virtualizado y robotizado probablemente lo será y, no obstante, hay algunas cosas que no deberíamos intentar digitalizar ni automatizar —porque definen lo que somos como humanos—.

Este libro explora hacia dónde podrían dirigirnos las tecnologías exponenciales y convergentes durante los próximos diez años, subrayando lo que está en riesgo, y explorando qué podemos hacer hoy al respecto. Independientemente de sus convicciones filosóficas o religiosas, probablemente concuerden con que la tecnología ya ha entrado en nuestras vidas cotidianas de una manera tan amplia, que cualquier progreso exponencial futuro ciertamente exigirá un nuevo tipo de conversación sobre la dirección hacia la que estos avances nos están llevando y por qué.

Así como la tecnología está literalmente a punto de entrar en nuestros cuerpos y en nuestros sistemas biológicos, ha llegado la hora de una asamblea tribal —quizá la conversación más importante que la tribu humana pueda llegar a tener—.

¡Gracias por leer este manifiesto, y espero que participen activamente de esta conversación! Siempre pueden enviarme un ping con comentarios, retroalimentación o preguntas.

Gerd Leonhard, Zúrich, Suiza, julio 2016

TOP2016 capgem gerd leonhard talking engaged top8 _MG_1290 copy final

(Para realizar órdenes al por mayor, favor de contactar The Futures Agency, books@thefuturesagency.com)

 Nota: este texto ha sido editado y no es idéntico a los contenidos del libro.

Conclusiones y mensajes clave de Gerd

Lee la ‘Hoja de respuestas’ de TVH (donde explico los mensajes clave en mi sitio FuturistGerd)

A continuación encontrarán algunos de los mensajes clave presentados en “Tecnología versus humanidad”, adaptados y ampliados para que sean claros. Muchos de estos memes constituyen todavía una obra en curso, por lo que irán siendo ampliados en futuras conferencias, charlas y presentaciones. Manténganse conectados suscribiéndose a mi newsletter aquí. ¡Gracias!


Cosas muy, muy breves (última actualización: septiembre 29, 2016)

1) Adoptar la tecnología sin convertirnos en ella. El aumento humano radical a través de medios tecnológicos será una degradación en lugar de una optimización. La tecnología es exponencial, pero los humanos son lineales (y deberían seguir siéndolo). Mientras la tecnología es exponencial, los humanos (deberían) seguir siendo lineales.

2) Todo lo que pueda ser digitalizado, automatizado, virtualizado y robotizado probablemente lo será, y todo aquello que no pueda ser digitalizado o automatizado se volverá extremadamente valioso (i.e. nuestras cualidades exclusivamente humanas).

3) El cambio tecnológico exponencial es #hellven (simultáneamente el cielo y el infierno). ¿Seremos hacedores de herramientas o seremos hechos por las herramientas?

4) La tecnología no tiene ética, pero nuestra sociedad depende de ella. El hecho de que podamos hacerlo no significa que debamos hacerlo.

5) La tecnología no se refiere a aquello que buscamos, sino a cómo lo buscamos: el medio no debería convertirse en el fin. Sin embargo, la tecnología nos invita cada vez más a “olvidarnos de nosotros mismos”.

6) La eficiencia nunca debería ser más importante que la humanidad, pues no todo lo que puede ser automatizado debería serlo; pero la felicidad no puede ser automatizada.

7) La humanidad cambiará más durante los próximos 20 años que durante los últimos 300 años (sí, en serio). Es hora de decidir qué queremos ser.

8) Para salvaguardar el futuro de la humanidad, debemos invertir en la felicidad humana y su continua prosperidad tanto como lo hacemos en el desarrollo de nuevas herramientas y tecnologías. ¡Las tecnologías exponenciales requieren de una humanidad exponencial; todo gran algoritmo requiere de un gran androritmo!

9) Nos encontramos en el punto de inflexión de la evolución tecnológica exponencial y combinatoria: a nuestro alrededor, la ciencia ficción se está convirtiendo en hechos científicos: el futuro cada vez llegará más gradualmente, y luego súbitamente. Hemos de avanzar a través de una sabia combinación de precaución y proacción.

10) El futuro inmediato claramente se trata sobre la tecnología, pero el futuro más amplio la trasciende.

11) Ahora resulta claro que, en efecto, “el software se está comiendo el mundo” (Marc Andreessen, 2011), pero también me preocupa cada vez más la posibilidad de que el “software está engañando al mundo”.

12) Silicon Valley y China no deberían convertirse en el “control de misión para la humanidad”. Necesitamos un Consejo Global de Ética Digital, que trascienda la agenda de inversores y de la milicia.

13) Así como la paz no se reduce a la ausencia de guerra, el progreso no es meramente la presencia de tecnología (en otras palabras, la tecnología no es el salvador de la humanidad: ¡somos nosotros mismos!).

14) El futuro no es simplemente algo que ocurrirá mañana: ¡el futuro es algo que ya ha ocurrido hoy, pero no nos dimos cuenta!

Cosas más largas

1. Hay dos tipos de felicidad —una pasajera, y una profunda—. La tecnología es buena para la primera, mas no para la segunda. La tecnología sobresale en cuanto al placer hedonista; sin embargo, para una felicidad más eudaimónica y una satisfacción más completa, hemos de buscar en otro lugar. La eudaimonía , i.e. una felicidad más profunda, que implica lo que llamo CORE (creatividad, originalidad, reciprocidad y empatía), es lo que define a la humanidad.

2. A menudo parece como si los algoritmos estuvieran invadiendo cada vez más lo que en el libro llamo androritmos —esos patrones humanos impredecibles que dan lugar a descubrimientos, a invenciones y a la cultura—. Las tecnologías exponencialmente invasivas están amplificando esta tendencia: ¿estamos acaso dirigiéndonos hacia seres humanos aumentados e implantados, apoyados por robots y (dentro de poco) por cíborgs?

3. Todos hablan sobre la transformación digital, pero se trata de sólo uno de los diez mega-cambios relativos a la tecnología que cambiarán por completo el juego humano. Existe otro signo menos documentado de la tormenta que se avecina, a saber, la creciente ola de lo que llamo “obesidad digital” (hay un capítulo entero dedicado a esto en mi libro).

4. No tardaremos en percatarnos de la urgente necesidad de un Código de Ética Digital a fin de evitar que la tecnología prolifere sin control (¿quizá hacia el desarrollo de una súper-inteligencia de las máquinas?), erosionando seriamente la identidad humana. Los transhumanistas parecen acoger el cambio irreversible (y, claramente, yo no lo hago; lean el capítulo al respecto en el libro). Quienes queramos permanecer en el “equipo humano” deberemos ofrecer una poderosa conversación a modo de respuesta, ¡y tenemos que hacerlo pronto!

Algunas citas clave y literales del libro (próximamente)

Algunos eslóganes cautivadores de Gerd

La peor forma de inventar el futuro es predecirlo (Gerd Leonhard, inspirado en Peter Drucker).

El futuro es como una caja de chocolates: antes de que te des cuenta ya sólo queda uno (Gerd Leonhard, actualizando una escena de Forrest Gump).


Sobre los 10 mega-cambios:

El futuro choque entre hombre y máquina se intensificará a un grado exponencial a través de los efectos combinatorios de lo que he llamado mega-cambios (visiten el nuevo micrositio, aquí):

1. Digitalización
2. Movilización
3. Pantallización
4. Desintermediación
5. Transformación
6. Inteligización
7. Automatización
8. Virtualización
9. Anticipación
10. Robotización

Más al respecto, aquí

Technology vs Humanity


Revisen los últimos links de medios sobre Gerd y el tema TechvsHuman
Para realizar órdenes al por mayor, contactar con Steve Wells
Por correo