Por qué el futuro no nos necesita

Autor: Bill Joy*

Leí este artículo en abril del año 2000 publicado en la revista Wired. Quizá lo leí unos días antes, me encontraba aún viviendo en Vancouver, Canadá. Laboraba para entonces como asistente en el laboratorio de computación Oakridge Vancouver Community College. Ya en México, aún en el año 2000, en una empresa de desarrollo de software, traduje este artículo y lo puse a disposición de mis compañeros vía interna en la empresa. Contacté al asistente de Bill Joy y me proporcionó el teléfono del representante legal, al cual nunca pude encontrar. La intención era publicar el artículo de manera pública (respetando los derechos de autor), por el interés que para entonces tenía y, a mi parecer, sigue teniendo. Han pasado ya más 13 años de aquello y es hasta hoy, al releerlo, que constato su actualidad. Sus advertencias no han envejecido. Aquí está el artículo. Julio C. Palencia.

Las tecnologías con mayor empuje en el siglo XXI –-robótica, ingeniería genética y nanotecnología– amenazan con convertir a los seres humanos en una especie en peligro de extinción.

Mi implicación en el desarrollo de las nuevas tecnologías ha estado siempre acompañada de preocupaciones de orden ético desde el primer día. Sin embargo, no es hasta el otoño de 1998 que no he tomado conciencia de los graves peligros que nos hacía correr el siglo XXI. Los primeros síntomas de este malestar profundo aparecieron el día en que me encontré con Ray Kurzweill, el inventor dueño de un éxito legítimo, de muchas cosas extraordinarias, entre ellas el primer aparato que permitía leer a los ciegos.

Ray y yo interveníamos en la conferencia Telescom de George Gilder. Acabadas nuestras intervenciones conocí a Ray por casualidad en el bar del hotel, donde me encontraba conversando con John Searle, un filósofo de Berkeley especializado en la conciencia. Fue entonces que Ray se aproximó y que se inició una conversación alrededor del tema que, desde entonces, no ha cesado de preocuparme.

No pude asistir a la intervención de Ray, ni al debate que le siguió, en el que John y él estaban invitados. Y he aquí (en el bar) que re-emprendían el debate donde lo habían dejado. Ray afirmaba que el progreso en materia de tecnología iba a experimentar una aceleración cada vez más rápida y que estábamos destinados a convertirnos en robots, a fusionarnos con las máquinas o alguna cosa parecida. Sosteniendo que un autómata no está dotado de conciencia, John rechazaba estas ideas.

Este género de discusiones me eran relativamente familiares, los robots dotados de sensaciones quedaban en el dominio de la ciencia-ficción. Y, allí, ante mis ojos, un individuo que presentaba todas las garantías de seriedad afirmaba con toda convicción la inminencia de tal perspectiva. Estaba anonadado. Sobretodo conociendo la capacidad cierta de Ray de no sólo imaginar el futuro sino de inventarlo de una manera concreta. Que hubiese llegado a ser posible rehacer el mundo apoyándose en las nuevas tecnologías, como la ingeniería genética o la nanotecnología, no era una sorpresa para mí. Al contrario, inscribir en un futuro próximo un escenario realista de robots “inteligentes”, esto era lo que me dejaba perplejo.

Este género de descubrimientos vitales pierden pronto su estímulo. Casi cada día, una noticia nos informa de un avance suplementario en un dominio u otro de la tecnología o de la ciencia. En esta ocasión la predicción se salía de cualquier escenario imaginado por mi. Allá en aquel bar de hotel, Ray me remitió a una serie de pruebas extraídas de su libro La Era de las Máquinas Espirituales, entonces a punto de aparecer. En esta obra, trazaba las grandes líneas de una utopía visionaria: una utopía según la cual, uniéndose a la tecnología robótica, el ser humano se convertiría en una criatura inmortal. Al hilo de las páginas, mi sentimiento de malestar fue creciendo: no sólo Ray, con toda seguridad, minimizaba los peligros de una vía como aquella, sino que reducía del mismo modo la importancia de sus potenciales efectos devastadores.

Fue entonces que fui trastornado por un pasaje que exponía un escenario distópico:

“UN NUEVO DESAFIO PARA LOS LUDITTAS”

“Admitamos que los investigadores en informática consiguen desarrollar máquinas inteligentes capaces de superar al ser humano en toda cosa. Desde aquel momento, el conjunto del trabajo sería probablemente asegurado por sistemas automatizados tentaculares de organización rigurosa, los cuales volverían superfluo todo esfuerzo humano. En este caso, hay dos posibilidades: o bien se deja a estas máquinas dueñas enteramente de sus decisiones, libres de toda supervisión humana, o bien la hipótesis del mantenimiento de la supervisión humana.

Frente a la perspectiva de unidades dejadas enteramente dueñas de ellas mismas, en la medida en que no podemos anticipar su comportamiento, nos guardaremos de toda especulación sobre un desenlace posible. Hay, sin embargo, que señalar que desde entonces, el destino de la humanidad quedaría en sus manos. El argumento según el cual el género humano jamás tendrá la ingenuidad de abandonarse totalmente a las máquinas no está garantizado. Nuestro propósito no es adelantar un escenario donde el hombre dará deliberadamente plenos poderes a las máquinas, sino otro donde ellas mismas tomaran el poder de autoridad. De hecho, lo que tememos es una cada vez más rápida dependencia de las máquinas por parte del género humano, que no quedará otra elección que aceptar en bloque sus decisiones. A medida que la complejidad de las sociedades y de los problemas a los que ha de hacer frente vaya creciendo, y a medida que los dispositivos sean más “inteligentes” un número cada vez mayor de decisiones les serán confiadas. La razón es simple: se obtendrán mejores resultados. Se puede incluso imaginar que, en un momento dado, las decisiones a tomar para la gestión del sistema alcanzaran un grado de complejidad tal que escaparán a las capacidades de la inteligencia humana. Este día, las máquinas habrán tomado efectivamente el control. ¿Detenerlas? Ni se planteará, dado nuestro grado de dependencia, esto sería suicida.

“La opción alternativa sería servirse de las máquinas para controlar al hombre. Si en una tal hipótesis, el individuo lambda conserva la dirección de ciertos aparatos personales tales como su coche o su ordenador, el de los sistemas de gran envergadura serían monopolio de una elite restringida, como ocurre de hecho hoy en día, pero mayor. Con la evolución de las técnicas, esta elite ejercerá sobre las masas un control reforzado. Y, puesto que en este estadio la mano de obra humana no será necesaria, las masas mismas serán superfluas. No serán más que un fardo inútil entorpeciendo al sistema. Si la elite en cuestión es cruel, puede decidirse simplemente a exterminar a la humanidad. Si la elite se comporta humanamente, puede recurrir a la propaganda y a otras técnicas sicosociales o biológicas para provocar una caída de las tasas de natalidad  de tal magnitud que el grueso de la humanidad acabará por extinguirse. La elite podrá entonces imponer sus puntos de vista  al resto del mundo. Estando, la elite, constituida por demócratas de corazón tierno, pueden tomar el papel de granjeros, criando con benevolencia al resto de la humanidad. Sus pastores velarán que todas las necesidades materiales sean satisfechas, a que una educación sea garantizada a todos los niños en un clima sicológicamente sano, a que cada uno se ocupe con pasatiempos higiénicos, si alguien está descontento que siga el “tratamiento” destinado a “arreglar” su problema. Bien entendida, la vida estará tan vacía de sentido que será conveniente someter a los individuos a manipulaciones biológicas o sicológicas, ya sean destinadas a erradicar toda veleidad de poder, sean destinadas a sublimar esta sed de poder en algún pasatiempo inofensivo. En una sociedad como esa, estos seres humanos manipulados vivirán quizás felices; pero la libertad les será totalmente extraña. Les habrán reducido al rango de animales domésticos”.

El autor de este pasaje es Theodore Kraczynski, alias Unabomber, pero no se descubría hasta el final de la página. Lejos de mis ideas está exaltar sus méritos. En diecisiete años de campaña terrorista, sus bombas han matado a tres personas y han herido a muchas otras. Una de las gravemente heridas fue mi amigo David Gelenter, uno de los investigadores informáticos más brillantes de nuestra época, un verdadero visionario. Además, como muchos de mis colegas, yo había sentido que podía ser la víctima siguiente.

Los actos de Kraczynski son criminales y, a mis ojos, la marca de una locura asesina. Estamos claramente en presencia de un “luddita”. Sin embargo esta simple constatación no invalida su argumentación. Me cuesta, pero he de admitirlo: en este pasaje preciso, su razonamiento es digno de atención. He sentido la necesidad imperiosa de tomar al toro por los cuernos.

La visión distópica de Kraczynski expone el fenómeno de las consecuencias involuntarias, problema bien conocido en la creación y uso de toda tecnología. Este fenómeno nos lleva directamente a la Ley de Murphy en virtud de la cual “todo lo que pueda salir mal, saldrá mal” (se trata en realidad de la ley de Finagle, aserción que, naturalmente, da de golpe la razón a su autor). El uso inmoderado de los antibióticos a generado un problema que, entre todos los otros de este tipo, es quizás el más grave, la aparición de bacterias antibiótico-resistentes, infinitamente más peligrosas. Efectos similares han sido observados cuando, para eliminar al mosquito de la malaria, se ha recurrido al DDT, este animal se ha vuelto resistente al producto destinado a destruirlo. Además los parásitos ligados a esta enfermedad han desarrollado genes multi-resistentes.

La causa de un número tan grande de imprevistos parece clara: los sistemas que entran en juego son complejos, suponen una interacción entre ellos y las numerosas partes concernidas les reenvían una retroalimentación. La menor modificación de un sistema tal provoca una onda de choque de consecuencias imprevisibles. Esto es más cierto desde que el hombre interviene en los procesos.

Comencé a hacer leer a mis amigos el pasaje de Kraczynski citado en La Era de las Máquinas Espirituales, les tendía el libro de Kurzweill, les dejaba tomar conciencia de la cita y observaba su reacción una vez descubrían quien era el autor. Por la misma época, descubrí el libro de Hans Moravec, Robot: Madre Máquina o la Mente Trascendente. Moravec, eminencia entre las eminencias en las investigaciones en robótica, a participado en la creación de uno de los más grandes programas mundiales en este tema, en la Carneige Mellon University. Robot me ha proporcionado material suplementario para probar a mis amigos. Este insistía de una manera sorprendente en el sentido de las tesis de Kraczynski. A continuación un ejemplo:

A corto término (principio del siglo XXI).

“Una especia biológica sobrevive muy raramente al encuentro con una especie rival que presente un grado de evolución superior. Hace diez millones de años, América del Norte y del Sur estaban separadas, el istmo de Panamá estaba entonces sumergido. Como en Australia hoy en día, América del Sur estaba poblada de mamíferos marsupiales, concretamente, el equivalente de las ratas, los ciervos y los tigres, todos equipados con la bolsa ventral. Cuando el istmo unió las dos Américas, unos pocos miles de años fueron suficientes para que las especies de mamíferos placentados, dotados de metabolismos, sistemas reproductores y nerviosos ligeramente más eficaces, desplazasen y eliminasen la casi totalidad de los marsupiales del sur.

En un contexto de liberalismo sin freno, robots que presentasen un grado de evolución superior no dejarían de modificar al hombre del mismo modo que los placentados de América del norte modificaron a los marsupiales del sur (igual como el hombre a afectado a multitud de especies). Las industrias de la robótica librarán una feroz competición en la carrera por la materia, la energía y el espacio, aumentando de paso sus beneficios para situarse a un nivel inalcanzable a los hombres. Desde este momento, incapaz de cubrir sus necesidades, el hombre biológico se verá situado fuera de la existencia.

Nos queda sin duda una reserva de oxígeno, en la medida en que no vivimos en un contexto de liberalismo sin frenos. Los gobiernos regulan ciertos comportamientos colectivos, priorizando mediante el impuesto.

Con una tal regulación, ejercida juiciosamente, las poblaciones humanas podrán beneficiarse ampliamente del trabajo de los robots, por un buen plazo de tiempo.”

Un ejemplo clásico de distopía, y hay que tener en cuenta que Moravec sólo está calentando motores. Más adelante, explica como en el siglo XXI, nuestra tarea principal consistirá en “velar para asegurar la cooperación indefectible de las industrias de la robótica” votando leyes que las obliguen a ser “amables”. Además recuerda que “una vez modificado en robot superinteligente no-conducido” el hombre puede revelarse como un ser extremadamente peligroso. La tesis de Moravec es que en un tiempo, los robots nos sucederán: para él, la humanidad está claramente destinada a la desaparición.

La tesis de Moravec es que en un tiempo, los robots nos sucederán: para él, la humanidad está claramente destinada a la desaparición.

Dicho esto se imponía una conversación con mi amigo Danny Hillis. Danny Hillis ha alcanzado la celebridad como presidente de la Thinking Machines Corporation, que ha fabricado un superordenador paralelo extremadamente potente. A pesar de mi título actual de Jefe Científico de Sun Microsystems, yo soy más un arquitecto de ordenadores que un científico en el sentido estricto, y respeto a Danny por su conocimiento de la información y de las ciencias físicas y sentido común mesurado. Por otra parte Danny es un futurólogo respetado, alguien que ve a largo plazo, hace cuatro años que ha creado la Long Now Foundation, que trabaja actualmente sobre un reloj construido para durar diez mil años. El objetivo es llamar la atención sobre la propensión de nuestra sociedad de examinar los eventos sólo sobre un número de años lamentablemente corto (ver “Test of Time”, Wired 8.03, p 78) http://www.wired.com/wired/archive/8.03/eword.html?pg=2.

He volado pues a Los Angeles especialmente para hablar con Danny y su mujer, Pati. Según una rutina, ya muy ensayada, les he facilitado las ideas y los pasajes que yo consideraba tan peligrosos. La respuesta de Danny –referencia clara al escenario del hombre fusionado con la máquina imaginado por Kurzweill- a aflorado prontamente, y me ha sorprendido: Los cambios serán progresivos, se ha contentado en decir, y nos acostumbraremos a ellos.

Pero en definitiva, esto no me asombraba más que lo que sigue. En el libro de Kurzweil, había encontrado una cita de Danny que decía “amo a mi cuerpo, como todo el mundo, pero si un cuerpo de silicio me permite vivir hasta 200 años, lo tomo”. Ni el proceso en sí mismo, ni los riesgos que entraña parecían inquietarle lo más mínimo, contrariamente a lo que sucedía conmigo.

A fuerza de hablar de Kurzweil, de Kraczynski y de Moravec y de darle vueltas a sus ideas en mi cabeza, me acordé de una novela que había leído hacia casi 20 años antes. La White Plague, de Frank Herbert, en ella un investigador en biología molecular es poseído por la locura después de la muerte insensata de toda su familia. Para vengarse, fabrica y difunde unos bacilos de una peste desconocida y altamente contagiosa que mata a gran escala, pero de modo electivo (afortunadamente Kraczynski, es matemático y no investigador en biología molecular). Otro recuerdo era el de Borg de “Star Trek”: Un enjambre de criaturas mitad biológicas, mitad robóticas, que se distinguen por una neta propensión a la destrucción. Entonces, puesto que las catástrofes tipo “Borg” son clásicas en la ciencia-ficción, ¿porqué no me había inquietado tanto como estas distopías en el tema de la robótica?, ¿Y porqué razón los demás no se inquietaban ante estos escenarios pavorosos?

La respuesta a esta cuestión reside sin duda en nuestra actitud frente aquello que es nuevo, es decir en nuestra tendencia a la familiaridad inmediata y a la aceptación incondicional de las cosas. Si los avances tecnológicos no son más que sucesos rutinarios, o casi, será necesario mirar las cosas de frente: las tecnologías más cruciales del siglo XXI –-la robótica, la ingeniería genética y la nanotecnología– representan una amenaza diferente de las tecnologías anteriores. Concretamente, los robots, los organismos genéticamente modificados y los “nanorobots” tienen en común un factor desmultiplicante: son capaces de auto-reproducirse. Una bomba explota sólo una vez; un robot, por el contrario, puede proliferar y escapar rápidamente a todo control.

Después de veinticinco años, mi trabajo versa esencialmente sobre las redes informáticas, donde la posibilidad de enviar y recibir mensajes crea la posibilidad de una reproducción no controlada. Si, en un ordenador o en una red informática, la duplicación puede provocar daños, la consecuencia última será, en el peor de los casos, una puesta fuera de servicio  del aparato o la red, o un bloqueo del acceso a esta red. Pero la auto-reproducción incontrolada en el dominio de estas tecnologías más recientes nos hace correr un peligro mucho más grave: el de una substancial degradación del mundo físico.

Además, cada una de estas tecnologías nos hace  contemplar su promesa secreta, y la visión que nos ofrece no es otra que la cuasi inmortalidad presente en los sueños de robot de Kurzweil. La ingeniería genética permitirá pronto encontrar los tratamientos adecuados para tratar, incluso erradicar la mayor parte de las  enfermedades, las nanotecnologías y la nanomedicina permitirá tratar el resto. Combinadas las unas y las otras podrán prolongar nuestra esperanza de vida y mejorar su calidad de una manera significativa. No queda menos esperar que, actuando estas diversas tecnologías, una secuencia de pequeñas etapas –-sensatas cuando son tomadas aisladamente– se acabe desembocando en una acumulación masiva de poder y, por este hecho, en un peligro indudable.

¿Qué diferencia hay con el siglo XX?  Ciertamente, las tecnologías ligadas a las armas de destrucción masiva (NBQ) –-nuclear, biológica y química– eran pujantes, y el arsenal hacía pesar sobre nosotros una amenaza extrema. Sin embargo la fabricación de ingenios atómicos suponía, al menos durante un tiempo, el acceso a materiales raros –-incluso inaccesibles– así como a información altamente confidencial. Además los programas de armamento biológico y químico exigían a menudo actividades a gran escala.

Las tecnologías del siglo XXI (GNR) –-genética, nanotecnología y robótica– son portadoras de un poder tal que tienen la capacidad de engendrar variedades diferentes de accidentes y abusos totalmente inéditos. Circunstancia agravante es que estos accidente y abusos están al alcance de individuos aislados o de grupos restringidos. En efecto estas tecnologías no precisan ni el acceso a instalaciones de gran envergadura, ni a materiales raros; la única condición para poder recurrir a ellos es la posesión del saber requerido.

En consecuencia la amenaza a la que nos enfrentamos hoy día, no se limita únicamente a las armas de destrucción masiva. Hay que añadir la de la adquisición de unos conocimientos, que por ellos mismos, permiten esta destrucción a gran escala. El potencial de aniquilamiento se multiplica por la auto-reproducción.

No me parece irrazonable afirmar que habiendo tocado las cumbres del mal absoluto, nos aprestemos a superar estos límites. Sorprendente y temible, este mal se extiende más allá del arsenal devastador patrimonio de los estados nación, para caer, hoy en día, en manos de extremistas aislados.

Nada, en la manera en que me he involucrado en el mundo de los ordenadores, me hacía presagiar que asuntos tales se presentarían un día ante mí.

Mi motor ha sido siempre el de plantear preguntas y buscar respuestas. A la edad de tres años como ya leía, mi padre me inscribió en la escuela elemental, donde, sentado en las rodillas del director, le leía historias. Comencé la escuela anticipadamente, me evadía entre los libros, tenía una sed de aprender increíble. Formulaba tantas preguntas que a menudo perturbaba el espíritu de los adultos.

Adolescente, me interese por las ciencias y las tecnologías. Tenia la idea de hacerme radioaficionado, pero no disponía de dinero suficiente para pagarme el material. La estación del radioaficionado era el internet de entonces: muy compulsivo y siempre solitario. Aparte de las consideraciones financieras, mi madre paró el tema: nada de encerrarse en uno mismo, yo ya era suficientemente asocial.

En el instituto descubrí los grandes autores de ciencia-ficción. Recuerdo especialmente  a Have Spacesuit Will Travel de Heinlein, y él Yo Robot de Asimov, con sus “tres reglas de la robótica”. Las descripciones de los viajes en el espacio me encantaban. Deseaba un telescopio para observar las estrellas, pero no tenía suficiente dinero para comprarlo o para construírmelo yo mismo, escrutaba, a modo de consolación, los libros prácticos sobre el tema. Volaba alto, pero con el pensamiento.

El jueves por la noche, era día de bolera. Mis padres iban a hacer sus partidas y nosotros, los chicos, nos quedábamos solos en la casa. Era el día de “Star Trek”, de Gene Roddenberry, estábamos en la época de los episodios originales. Esta serie televisiva me marcó profundamente. Llegué a aceptar su idea de que el hombre tenía un porvenir en el espacio, a la occidental, con sus héroes invencibles y sus aventuras extraordinarias. La visión de Roddenberry de los siglos futuros reposaba sobre valores morales sólidos, expresados en unos códigos de conducta como “la primera directiva”: No interferir en el desarrollo de civilizaciones menos avanzadas en el plano tecnológico. Esto ejercía sobre mi una fascinación sin límites; en la dirección de este futuro no encontrábamos robots, sino seres humanos con una ética. Y yo hice, parcialmente mío, el sueño de Roddenberry.

En el instituto mi nivel de matemáticas era excelente, y cuando fui a la Universidad de Michigan para preparar mi licenciatura de ingeniero, me inscribí inmediatamente en matemáticas superiores. Resolver problemas matemáticos era un bello desafío, pero con los ordenadores descubrí una cosa netamente más interesante: Una máquina en la que se podía introducir un programa para resolver un problema, y la máquina verificaba rápidamente si la solución era buena. El ordenador tenía una idea clara de lo que era exacto e inexacto, de lo verdadero y de lo falso. ¿Mis ideas eran esencialmente justas? La máquina me lo podía decir. Todo esto era muy seductor.

Por suerte, conseguí un trabajo en la programación de los primeros superordenadores, descubrí las extraordinarias capacidades de las nuevas unidades que permitían, gracias a la simulación numérica, elaborar conceptos de alta tecnología. Llegué a la Universidad de Berkeley, a mediados de los años 70, para seguir mi tercer ciclo, empecé a penetrar en el corazón de las máquinas para inventar mundos nuevos, me acostaba tarde, los días en que me acostaba. Resolviendo problemas. Redactando los códigos que esperaban ser escritos.

En The Agony and the Ecstasy, la biografía novelada de Miguel Angel, Irving Stone describe con un realismo conmovedor como el escultor “percibe el secreto” de la piedra, deja que sus visiones guíen el cincel para liberar las estatuas de su caparazón mineral. Del mismo modo en mis momentos de euforia más intensos, era como si el programa surgiese de las profundidades del ordenador, Una vez acabado en mi espíritu tenía el sentimiento de que estaba en la máquina, esperando el momento de su liberación. Desde esta óptica, no pegar ojo en toda la noche me parecía un precio irrisorio a pagar para darle la libertad, para que mis ideas tomasen forma.

Pasados algunos años, en Berkeley, comencé a mandar algunos programas que había concebido –-un sistema Pascal de instrucciones, utilidades UNIX, así como un editor de texto llamado VI (que para mi sorpresa todavía se utiliza pasados 20 años)– a personas igualmente equipadas con pequeños PDP-11 y de miniordenadores VAX. Estas aventuras en el país del software dieron lugar finalmente a la versión Berkeley del sistema operativo UNIX, la cual, en el plano personal, produjo un suceso desastroso: la demanda fue tan grande que no terminé nunca mi doctorado. Por el contrario fui reclutado por DARPA para poner en internet la versión Berkeley del sistema UNIX, e igualmente corregirla para hacerla fiable y capaz de hacer correr aplicaciones de investigación de gran envergadura. Todo ello me entusiasmó locamente y fue muy gratificante.

Y, francamente, no veía en ninguna parte la sombra de un robot, ni allí ni en ninguna parte.

Finalmente al inicio de los años 80, las versiones de UNIX conocieron un gran éxito, y pronto, lo que fue en su inicio, un pequeño proyecto personal, encontró su financiación y se dotó de miembros. Entonces, como ahora en Berkeley, es menos problema el dinero que los metros cuadrados. Teniendo en cuenta la envergadura del proyecto y los miembros necesarios, el espació faltaba. Aparecieron entonces los otros miembros fundadores de Sun Microsystems, y aproveché la ocasión para unir nuestras fuerzas. En Sun, las jornadas interminables fueron cotidianas hasta la aparición de las primeras estaciones de trabajo y de PC y tuve el placer de participar en la elaboración de tecnologías punteras en el dominio de los microprocesadores y de las tecnologías internet como Java y Jini.

Con todo esto, creo, que dejo claro que no soy un luddita, bien al contrario. Yo siempre he tenido la búsqueda de la verdad científica en la más grande estima, y siempre he estado convencido de la capacidad de la gran ingeniería de engendrar el progreso material. La revolución industrial a mejorado nuestra vida de un modo extraordinario en el curso de los últimos siglos y, en cuanto a mi carrera, mis votos han sido siempre producir soluciones útiles a problemas reales.

No he quedado decepcionado. Mi trabajo ha tenido repercusiones inesperadas, y su utilización a gran escala ha superado mis sueños más locos. H aquí que durante 20 años me he roto la cabeza en producir ordenadores suficientemente fiables para mí (está todavía lejos), y para intentar acrecentar la comodidad de utilización (un objetivo más lejano todavía hoy). Así pues, si ciertos progresos se han conseguido, los problemas que subsisten parecen todavía descorazonadores.

Sin embargo, aunque con conciencia de los dilemas morales ligados a las consecuencias de ciertas tecnologías en terrenos como la investigación en armamento, lejos de mí la idea de que un día podrían surgir en mi propio sector. O al menos, tan prematuramente.

Atrapado en el vértice de una transformación, es sin duda difícil ver el impacto real de las cosas. El estar en el terreno de las ciencias o de las tecnologías incapacita para evaluar las consecuencias de tus invenciones parece ser un defecto extendido entre los investigadores, en la borrachera del descubrimiento y de la innovación. Inherente a la investigación científica, el deseo natural de saber nos quema tanto después de tanto tiempo que evitamos marcar una pausa para reflexionar sobre esto: El progreso en el origen de la tecnología cada vez más innovadora y más pujante, puede salirse de nuestras manos y desencadenar un proceso autónomo.

He llegado a la conclusión que no es ni en el trabajo de los investigadores en informática, ni en el de los diseñadores de ordenadores o de los ingenieros a los que se debe el avance significativo en las tecnologías de la información, sino al de los investigadores en física. Al principio de los años 80, los físicos Stephen Wolfram y Brosl Hasslacher me iniciaron en la teoría del caos y de los sistemas no lineales. En el curso de los años 90, conversaciones con Danny Hillis, el biólogo Stuart Kauffman, el premio Nobel de física Murray Gell-Mann, y otros me han permitido descubrir los sistemas complejos. Más recientemente, Hasslacher y Mark Reed, ingeniero y físico de pulgas, me han iluminado sobre las posibilidades extraordinarias de la electrónica molecular.

En el cuadro de mi propio trabajo, siendo el conceptualizador de tres arquitecturas de microprocesador –-Sparc, Pico Java y MAJC– y además de diversas de sus implementaciones, tengo el beneficio de una plaza para verificar personalmente el buen fundamento de la Ley de Moore. Durante decenios esta ley nos ha permitido estimar con precisión la tasa exponencial de perfeccionamiento tecnológico en materia de semiconductores. Hasta el año pasado tenía el convencimiento de que hacia el 2010, se alcanzarían ciertos límites físicos, y que por este hecho, la tasa de crecimiento caería. A mi parecer ninguna señal indicaba que una nueva tecnología aparecería suficientemente pronto para mantener el crecimiento sostenido.

Pero los recientes progresos conmovedores y rápidos, en el terreno de la electrónica molecular –-donde los átomos y las moléculas aisladas toman el papel de los transistores litográficos–, así como en el sector de las tecnologías a escala “nano” que van ligadas, parecen indicar que tendremos que mantener o acrecentar la tasa de crecimiento anunciada por la Ley de Moore durante aún 30 años. Así en el horizonte del 2030, debemos estar capacitados para producir, en cantidades grandes, unidades un millón de veces más potentes que los ordenadores personales de hoy en día… Suficientemente potentes para realizar los sueños de Kurzweil y de Moravec.

La combinación de esta formidable potencia informática por parte del progreso realizado en el campo de la manipulación en el terreno de las ciencias físicas y por otra parte los descubrimientos cruciales en el campo de la genética, tendrán como consecuencia liberar un despliegue en el que el poder de transformación será fenomenal. Estas acumulaciones permiten vislumbrar una completa redistribución de cartas para lo bueno y para lo malo. Los procesos de duplicación y de desarrollo, hasta ahora circunscritos al mundo físico, están hoy en día a la puerta del hombre.

Creando programas y ordenadores no he tenido nunca la sensación de desarrollar ni una sola máquina inteligente. Teniendo en cuenta la gran fragilidad tanto del software como del hardware y de las capacidades de reflexión claramente nulas que muestra una máquina, yo siempre había situado esta posibilidad en un futuro muy lejano, incluso como simple posibilidad.

Pero hoy en día con la perspectiva de una potencia informática alcanzando a la humana en el horizonte del 2030, toma forma una nueva idea: aquella de que quizás trabajo en la elaboración de útiles capaces de producir una tecnología que podrá substituir a nuestra especie. En este punto ¿cuáles son mis sentimientos? Un profundo malestar. He luchado durante toda mi carrera para conseguir programas fiables, la posibilidad de un futuro no tan alentador de lo que algunos quisieran imaginar me parece hoy día más que probable. Si he de creer en mi experiencia personal, tenemos la tendencia a sobrestimar nuestra capacidad de creadores y conceptualizadores.

Dada la potencia temible de estas nuevas tecnologías, ¿no deberíamos preguntarnos sobre los mejores métodos de coexistir con ellas? Y si, en un término más o menos largo, pueden amenazar nuestra especie, ¿no deberíamos avanzar con la más grande prudencia?

El sueño de la robótica es, primeramente, conseguir que máquinas “inteligentes” hagan el trabajo en nuestro lugar, de modo que, retornando al Edén perdido, podamos vivir una vida de ocio. En su versión del hecho, en Darwin Among the Machines, George Dyson  nos pone en guardia: “en el juego de la vida y de la evolución, tres jugadores se sientan en la mesa: el ser humano, la naturaleza y las máquinas. Yo me alineo claramente al lado de la naturaleza. Pero la naturaleza, temo que esté del lado de las máquinas”. Moravec le da la razón en este punto, pues de declara convencido de nuestras pocas posibilidades de supervivencia en caso de un encuentro con la especie superior de los robots.

“en el juego de la vida y de la evolución, tres jugadores se sientan en la mesa: el ser humano, la naturaleza y las máquinas. Yo me alineo claramente al lado de la naturaleza. Pero la naturaleza, temo que esté del lado de las máquinas”.

¿En que horizonte un robot “inteligente” de este tipo puede ver la luz del día? El próximo salto delante de las capacidades informáticas parece ser que podría ser en el 2030. Una vez que un primer robot inteligente es puesto a punto, sólo queda franquear un pequeño paso para crear una especie entera, dicho de otra manera para crear un robot inteligente capaz de duplicarse, de fabricar copias elaboradas del mismo.

Un segundo sueño de la robótica, cree que, poco a poco, nuestra tecnología robótica nos substituirá y que, gracias a la transferencia de la conciencia, accederemos casi a la inmortalidad. Es precisamente a este proceso que, según Danny Hillis, nos hemos de habituar, y es que el que igualmente expone Kurzweil en The Age of Spiritual Machines (esto se empieza a ver con la implantación en el cuerpo humano de dispositivos informáticos, como atestigua la cobertura informativa de Wired 8.02 http://www.wired.com/wired/archive/8.02/full.html).

Pero si nos transformamos en extensiones de nuestras tecnologías, ¿cuáles serán las posibilidades de seguir siendo nosotros mismos, e incluso de seguir siendo seres humanos? Me parece que una existencia de robot no tiene nada en común con una existencia de ser humano en el sentido que le queramos dar, que en ningún caso los robots serán nuestros hijos y que siguiendo esta vía nuestra humanidad podría perderse.

La ingeniería genética promete una revolución agrícola con aumento de cosechas y disminución del uso de pesticidas, nos promete crear unas decenas de miles de especies inéditas de plantas, bacterias, virus y animales; nos promete reemplazar, o al menos complementar, la reproducción con la clonación, producir medicinas para innumerables enfermedades, aumentar nuestra esperanza de vida y nuestra calidad de vida; y mucho más… mucho más de otras cosas. Hoy en día no somos totalmente conscientes: estos profundos cambios en el terreno de la ciencia biológica van a intervenir continuamente y van a poner en cuestión todas las nociones que tenemos de la vida.

Tecnologías como la clonación humana en particular, nos sensibiliza en cuestiones fundamentales de ética y de moral que se plantean. Usar la ingeniería genética para una reestructuración del género humano en varias especies distintas, por ejemplo, pone en peligro la noción de igualdad, componente esencial, por sí misma, de nuestra democracia.

Teniendo en cuenta la potencia formidable que encierra la ingeniería genética, no es de extrañar que cuestiones fundamentales de seguridad limiten su uso. Mi amigo Amory Lovins a firmado recientemente, en colaboración con Hunter Lovins, un editorial que proporciona un punto de vista ecológico sobre un cierto número de estos peligros. Entre sus preocupaciones figura que “la nueva botánica dirige el desarrollo de las plantas según su prosperidad, no siguiendo la evolución natural, sino desde el punto de vista de la rentabilidad económica” (ver A Tale of Two Botanies, página 247 o http://www.wired.com/wired/archive/8.04/botanies.html) Amory Lovins trabaja desde hace años en las relaciones energía/recursos estudiando los sistemas creados por el hombre según el método llamado “wole system view”, una aproximación global que permite a menudo encontrar soluciones simples e inteligentes a problemas que, examinados bajo un ángulo diferente, pueden parecer delicados.

Algún tiempo después de haber leído el editorial de los Lovins, he descubierto en la edición del 19 de noviembre de 1999 del New York Times una nota tratando sobre los organismos genéticamente modificados  en la agricultura, firmada por Gregg Easterbrook bajo el título “Alimentos del futuro: Un día la vitamina A estará integrada en vuestro grano de arroz. Salvo en caso de victoria de los Ludditas”.

¿Serán Mory y Hunter Lovins ludditas? Evidentemente no. Nadie duda, imagino, de los posibles beneficios del arroz dorado, con su vitamina A integrada en la medida en que se desarrolle respetando los potenciales peligros derivados de franquear las barreras entre las especies.

Como atestigua el editorial de los Lovins, la vigilancia de los peligros inherentes de la ingeniería genética se están reforzando. En gran medida, la población tiene conocimiento de alimentos a base de organismos genéticamente modificados y expresa malestar frente a ellos, parece contraria a su circulación sin una etiqueta adecuada.

Pero la ingeniería genética ha recorrido ya un buen camino. Como lo señalan los Lovins, la USDA ya ha autorizado la venta ilimitada de una cincuentena de productos agrícolas genéticamente modificados. Así es que, hoy en día, más de la mitad de la soja y un tercio del maíz del mundo contienen genes transferidos, surgidos del cruce con otras formas de vida.

En este contexto no faltan las grandes apuestas, mi principal temor en el dominio de la ingeniería genética es que esta tecnología pueda dar el poder de desencadenar una “peste blanca”  –militarmente, accidentalmente o por un acto terrorista deliberado.

Las numerosas maravillas de la nanotecnología fueron originalmente imaginadas por el premio Nobel de física Richard Feynman, en un discurso en 1959, publicado seguidamente bajo el título “There’s plenty of room at the bottom”. A mediados de los años 80, un libro me impresionó mucho, se trataba de Engines of Creation de Eric Drexler. En esta obra el autor describe en términos vibrantes como la manipulación de la materia al nivel de átomo puede permitir construir un futuro utópico con profusión de bienes materiales, en el cual cada cosa o casi podría ser producida a un coste irrisorio, y donde, gracias a la nanotecnología y a la inteligencia artificial, cualquier enfermedad o problema físico podrá ser resuelto.

Siguiendo la huella del primer libro, otro libro, esta vez titulado por Drexler Unbounding the future: The Nanotechnology Revolution, imaginaba los cambios susceptibles de ocurrir en un mundo dotado de “ensambladores” a nivel molecular. Gracias a estos micromotores, y por precios increíblemente bajos sería posible producir energía solar, reforzar las capacidades del sistema inmunitario para sanar enfermedades, desde el cáncer a un simple resfriado, limpiar el ambiente completamente, Concretamente estos “ensambladores” tendrían la capacidad de producir  en serie no importa que producto por un precio que no excedería al de la madera, hacer los viajes en el espacio más factibles que los cruceros transoceánicos de hoy en día, o incluso restablecer las especies desaparecidas.

Recuerdo la impresión favorable que la lectura de Engines of Creation me dejó de las nanotecnologías. Al cerrar este libre el hombre tecnológico que soy fue ganado por un sentimiento de paz, en el sentido de que dejaba augurar un progreso fenomenal. Este progreso era no sólo posible sino quizás ineludible. Si la nanotecnología estaba en nuestro futuro, entonces la solución de una multitud de problemas que se me planteaban no revestían el mismo carácter de urgencia. Ya llegaría el futuro utópico de Drexler en su momento, mientras había que aprovecharse un poco de la vida aquí y ahora. Teniendo en cuenta esta visión, trabajar sin relajarse tanto de día como de noche no tenía mucho sentido.

El sueño de Drexler ha sido igualmente para mí una fuente de francas diversiones. Me sorprendí más de una vez sorprendiendo a aquellos que no habían oído hablar nunca de las virtudes extraordinarias de la nanotecnología. Después de haberlos despabilado con las descripciones de Drexler, les asignaba una pequeña misión de mi creación: “recurriendo a los métodos nanotecnológicos, produzcan un vampiro. Para obtener puntos suplementarios deberán crear el antídoto”.

Las maravillas en cuestión llevaban en ellas peligros reales, y de estos peligros tengo una conciencia muy aguda. Como dije en 1989 en una conferencia “no podemos sobrepasar límites en nuestra disciplina sin tomar en consideración las condiciones éticas”. Pero las conversaciones que tuve a continuación con físicos me han convencido: según toda verosimilitud la nanotecnología era un sueño, o en todo caso no sería operativa inmediatamente. Poco tiempo después, me instalé en Colorado, donde había montado un equipo de concepción y diseño de altas tecnologías, antes de que mi interés me llevase a los programas destinados a internet, prioritariamente sobre las ideas que originaron el lenguaje Java y el protocolo Jini.

Y después, el último verano, Brosl Hasslacher me lo ha anunciado: La electrónica a escala “nano” era ya realidad. Esta vez si, podemos hablar de golpe de efecto, en todo caso para mí, pero también para mucha gente, esta información hizo sopesar mi punto de vista sobre el tema de la nanotecnología. Me traslado a Engines of Creation. Me trasladó de nuevo al trabajo de Drexler 10 años después, estaba consternado ante el poco caso que había hecho de una larga sección del libro titulada “esperanzas y peligros”, donde figuraba un debate alrededor del tema de la nanotecnología como potencial ingenio de destrucción. De hecho, escribiendo ahora estas “puestas en guardia”, estoy sorprendido de la aparente ingenuidad de sus propuestas preventivas; estimo hoy en día los riesgos como infinitamente más graves que en el momento de publicar esta obra (Drexler, habiendo anticipado y expuesto muchos problemas técnicos y políticos ligados a la nanotecnología, creó el Foresight Institute a finales de los 80, para ayudar a la sociedad a prepararse para las tecnologías de punta, en particular, la nanotecnología).

Según todas las posibilidades, el descubrimiento capital que nos llevará a los “ensambladores” se producirá en los próximos 20 años. La electrónica molecular, el dominio más reciente de las nanotecnologías, donde las moléculas aisladas constituyen los elementos del circuito, deberá evolucionar rápidamente y proporcionar colosales beneficios en el curso del decenio próximo, provocando así una inversión masiva y creciente en todas las nanotecnologías.

Desgraciadamente, como para la tecnología nuclear, el uso de las nanotecnologías con fines destructivos es significativamente más fácil que su uso con fines constructivos. Tienen aplicaciones militare y terroristas muy claras. Además, no hay que estar animado por pulsiones suicidas para liberar un “nanodispositivo” de destrucción masiva, su vocación puede ser la destrucción selectiva, con único objetivo, por ejemplo, una zona geográfica precisa o un grupo de individuos genéticamente distintos.

Una de las consecuencias inmediatas de comercios como el de  fausto, dando acceso al inmenso poder que confieren las nanotecnologías, es la amenaza temible que hace pesar sobre nosotros: una posible destrucción de la biosfera, indispensable para la vida.

Drexler lo expone en los términos siguientes:

“Plantas con hojas más eficaces que nuestros captadores solares actuales podrían vencer a las plantas reales e invadir la biosfera de un follaje incomestible. “Bacterias” omnívoras resistentes podrían vencer a las verdaderas bacterias, diseminarse en el aire como polen, reproducirse rápidamente y, en el espacio de unos días, reducir a nada la biosfera. “Replicadores” peligrosos podrían volverse demasiado resistentes, demasiado pequeños y demasiado prontos a reproducirse para poder ser detenidos –en todo caso si no nos anticipamos. Ya hemos hechos suficiente daño domesticando virus y drosophilas.

“Esta amenaza, los expertos en tecnología la han llamado “gray goo problem” (problema gris y gelatinoso). Si nada indica que nubes de replicadores incontrolados formarán automáticamente una masa gris y gelatinosa, esta apelación indica que replicadores dotados de una tal pujanza devastadora serían más dañinos que una simple especie de mala hierba.

“El ‘gray goo problem’ deja aparecer claramente una cosa: tratándose de ensambladores y de su reproducción no podemos permitirnos ciertos accidentes”.

Acabar engullidos en una masa gris y viscosa sería sin duda un final deprimente para nuestra aventura sobre la tierra, mucho peor que el simple fuego o el hielo. Además, podría sobrevenir a continuación de un simple, ¡hop!, incidente de laboratorio.

Es particularmente el poder de auto-reproducción en el terreno de la genética, la nanotecnología y de la robótica (GNR) lo que debería motivarnos para hacer una alto en el camino. La auto-reproducción es el “modus operandis” de la ingeniería genética la cual utiliza la maquinaria de la célula para duplicar sus propias estructuras y constituye el riesgo de “gray goo” número uno subyacente a las nanotecnologías. Los escenarios en la línea de Borg, de robots enloquecidos, reproduciéndose y mutando para sustraerse  a las restricciones éticas impuestas por sus creadores son hoy día clásicos de libro y película de ciencia-ficción. No está excluido que en definitiva, el fenómeno de la auto-reproducción se revela más fundamental de lo que creemos, y que de hecho, su conducción será más difícil, incluso imposible. Un artículo reciente de Stuart Kauffman publicado en Nature, titulado “Autorreproducción: incluso los péptidos se meten”, se recrea en un descubrimiento que establece que un polipéptido de 32 aminoácidos tiene la capacidad de “autocatalizar su propia síntesis”. En este momento, incluso evaluando mal  el valor exacto de una tal capacidad, Kauffman observa que esto puede abrir una vías de síntesis molecular auto-reproductiva sobre una base significativamente más extensa que la establecida por los pares de bases de Watson-Crick.

Realmente, hace unos años que estamos alertados sobre los peligros inherentes a una vulgarización de los GNR, un saber que por sí solo hace posible la destrucción masiva. Pero estas advertencias han sido poco difundidas, y los debates públicos no han estado a la altura del hecho. No sacamos ningún provecho desechando una sensibilización del público.

Las tecnologías nuclear, biológicas y químicas (NBQ) utilizadas en las armas de destrucción masiva del siglo XX, tenían y quedaban restringidas a una vocación prioritariamente militar, eran desarrolladas en los laboratorios del Estado. En contraste violento, las tecnologías GNR del siglo XXI se distinguen por los usos claramente comerciales y son casi exclusivamente desarrolladas por empresas del sector privado. En la era de los negocios triunfantes, la tecnología –-flanqueada por la ciencia, en el papel de sirvienta– está en trance de producir toda una gama de invenciones, por así decirlo, mágicas, fuentes de beneficios portentosos, sin punto de comparación con lo que hemos conocido hasta ahora. Acariciamos los sueños de estas nuevas tecnologías en el seno de un sistema que en lo sucesivo será indiscutido, con motivaciones financieras y presiones concurrentes: un capitalismo planetario.

“Es la primera vez en la historia de nuestro planeta que una especie, sea cual sea su naturaleza, se convierte en un peligro para ella misma –-y para la mayor parte de las otras– a través de sus propios actos deliberados.

En la era de los negocios triunfantes, la tecnología –-flanqueada por la ciencia, en el papel de sirvienta– está en trance de producir toda una gama de invenciones, por así decirlo, mágicas, fuentes de beneficios portentosos, sin punto de comparación con lo que hemos conocido hasta ahora

“Esto podría ser la progresión clásica, inherente a numerosos mundos: un planeta, recién formado, gira plácidamente alrededor de su estrella, la vida aparece dulcemente; una procesión calidoscópica de criaturas evoluciona; la inteligencia emerge, acrecentando de una manera significativa la capacidad de sobrevivir (en todo caso hasta cierto punto); y después la tecnología es inventada. Se abre paso la idea de que existen ciertas cosas tales como las leyes de la naturaleza, que son verificables experimentalmente, y que la comprensión de estas leyes permite tanto crear la vida como suprimirla, en una escala sin precedentes tanto en un caso como en otro. La ciencia les confiere poderes inmensos. En un instante, inventan máquinas capaces de cambiar la faz de la tierra. Ciertas civilizaciones van más lejos, determinan lo que es bueno hacer y lo que no hay que hacer, y atraviesan victoriosamente las eras peligrosas. Otras, menos afortunadas, son menos prudentes y perecen”.

Debemos estas líneas a Carl Sagan, describiendo en 1994 en “Pale Blue Dot” su visión del futuro de la especie humana en el espacio. No es hasta hoy me doy cuenta de que su visión era tan penetrante, y como me falta su voz y continuará faltándome cruelmente. De todas sus contribuciones, sirviéndose de una elocuencia digna de elogio, el buen sentido no era la menos; una cualidad que, al igual que la humildad, parece faltar a muchos eminentes promotores de las tecnologías de siglo XXI.

Recuerdo, cuando era niño, mi abuela se declaraba ferozmente opuesta al recurso sistemático a los antibióticos. Enfermera desde antes de la primera guerra mundial, se distinguía por una actitud llena de buen sentido que le hacía decir que, salvo absoluta necesidad, los antibióticos eran malos para la salud.

No era que ella se opusiese al progreso. En casi 60 años pasados en la cabecera de la cama de los enfermos, fue testigo de muchos avances; mi abuelo, diabético, aprovecho largamente las mejoras de los tratamientos que aparecieron durante su vida. Pero, estoy seguro, igual que muchos individuos ponderados, vería sin duda una prueba de extravagante arrogancia nuestros intentos de concebir una “especie de sustitución” robótica, cuando, evidentemente, tenemos ya dificultades en hacer funcionar cosas relativamente simples y tantas dificultades que nos generamos nosotros mismos.

Pienso ahora que ella tenía conciencia del orden de lo viviente, y de la necesidad de conformarse y respetarlo. Parejo a este respeto viene una necesaria humildad, humildad de la que, con nuestra presunción de inicios del siglo XXI, carecemos para nuestro gran peligro. Anclado en un respeto como este, el punto de vista del buen sentido tiene frecuentemente la razón, antes de ser científicamente demostrado. La evidente fragilidad y las insuficiencias de los sistemas creados por la mano del hombre deberían incitarnos a hacer una pausa; la fragilidad de los sistemas sobre los que yo he trabajado personalmente me recuerda efectivamente, este deber de humildad.

Deberíamos sacar enseñanzas de la fabricación de la primera bomba atómica y de la carrera de armamentos que desencadenó. No fuimos muy brillantes en aquella época, y los paralelismos con la situación actual son turbadores.

El esfuerzo que se realizó para la fabricación de la primera bomba atómica fue dirigido por un brillante físico llamado Julius Robert Oppenheimer. Aunque poco inclinado a la política por naturaleza, este hombre tomó, sin embargo, conciencia aguda de aquello que consideraba una gran amenaza: la que hacía pesar sobre la civilización occidental el Tercer Reich, Un peligro tanto más legítimo, en tanto que Hitler estaba, quizás, en camino de poseer un arsenal nuclear. Galvanizado por esta preocupación, seguro de su espíritu brillante, de su pasión por la física y de su carisma de líder, Oppenheimer se trasladó a los Alamos y condujo un esfuerzo rápido y concluyente al frente de un ramillete de espíritus grandes, esfuerzo que, en poco tiempo, permitió inventar la bomba.

Lo que es sorprendente, es que este esfuerzo prosiguió tan naturalmente desde entonces como no lo había sido el impulso inicial. En una reunión efectuada poco después de la victoria de los aliados en Europa, en la que participaron ciertos físicos se trató que quizás hacía falta detener este esfuerzo, Oppenheimer se declaró en contra y a favor de proseguirlo. La razón invocada era un poco curiosa: no era el miedo a las pérdidas terribles que produciría la conquista de Japón, sino el hecho de que esto daría a las Naciones Unidas, entonces a punto de ser creadas, una gran ventaja poseyendo armamento nuclear. Más plausiblemente la continuación del proyecto se explica por la aceleración dinámica del proceso: el primer ensayo atómico, Trinity, estaba al alcance de la mano.

Se sabe que, en la preparación de este primer ensayo, los físicos estaban en un impase sobre un gran número de los peligros posibles. Su creencia inicial, sobre la base de un cálculo de Edward Teller, era que una explosión atómica no incendiaba la atmósfera. Una estimación revisada y corregida estimó esta amenaza de destrucción del planeta a una probabilidad de uno frente tres millones (Teller pretende que ulteriormente él llegó a descartar totalmente el riesgo de incendio de la atmósfera). Oppenheimer se inquietó lo suficientemente del impacto en Trinity como para poner a punto una posible evacuación de la parte sudeste de Nuevo México. Y, era seguro, que existía la amenaza de una carrera de armamentos nucleares.

Menos de un mes después de este primer ensayo concluyente, dos bombas destruyeron Hiroshima y Nagasaki. Algunos científicos sugirieron en vano, antes de lanzar efectivamente la bomba sobre ciudades japonesas, de limitarse a hacer una demostración. Prevaleció que, una vez la guerra estuviese acabada, las posibilidades de control del armamento se acrecentarían. El recuerdo de la tragedia de Pearl Harbour aún vivo en las memorias americanas, hizo muy difícil al presidente Truman ordenar una simple demostración de la potencia de las armas, sino más bien actuar como se hizo; el deseo de acabar la guerra y de ahorrar las vidas que una invasión del Japón habría fatalmente producido, era demasiado atrayente. No es menos cierto que el factor preponderante  era probablemente más simple: como declaró ulteriormente el físico Freeman Dyson, “la razón por la que se lanzó es muy simple, nadie fue lo suficientemente valiente, o tan avisado, como para decir no”.

Es importante considerar el estado de shock en que se encontraban los físicos a la mañana siguiente del bombardeo de Hiroshima, el 6 de agosto de 1945. Sufrieron olas de emociones sucesivas: primero un sentimiento del deber cumplido ante el buen funcionamiento de la bomba, enseguida un sentimiento de horror ante el número de muertos, y finalmente un sentimiento agudo de nunca más, en ningún caso, otra bomba debía ser lanzada. No tardó mucho el nuevo lanzamiento sobre Nagasaki, solamente tres días después de Hiroshima.

En noviembre de 1945, tres meses después de los bombardeos nucleares, Oppenheimer, resueltamente alineado con las posiciones del cuerpo científico se expresaba en estos términos: “nadie puede pretenderse científico si está convencido del carácter intrínsecamente benéfico del conocimiento del mundo para la humanidad, ni del poder que ello confiere. Servidos sólo de este poder para divulgar estos conocimientos y deben estar prestos a asumir plenamente sus consecuencias”.

Inmediatamente, junto con otros, Oppenheimer trabajó en el informe Acheson-Lilienthal, el cual, para retomar los términos de Richard Rhodes en su reciente obra “Visions of Technology”, “permitía impedir una carrera de armamentos atómicos clandestina, sin recurrir a un gobierno mundial armado”; su sugerencia consistía en que los estados-naciones renunciaran al armamento nuclear en provecho de una instancia supranacional.

Esta posición desembocó en el plan Baruch, que fue sometido a las Naciones Unidas en junio de 1946, pero que no fue nunca adoptado (quizás porqué, como sugiere Rhodes, Bernard Baruch había “insistido en cargar el plan con medidas coercitivas” llevándolo desde ese momento a un fracaso ineluctable, incluso sí “de todos modos, habría sido inevitablemente, o casi, rechazado por la Rusia estalinista”). Otras tentativas para promover etapas significativas de globalización de la potencia nuclear, intentando evitar una carrera de armamentos, encontraron la hostilidad conjunta tanto de los medios políticos como de los ciudadanos americanos, desconfiados de los Soviéticos. Fue así como muy deprisa, la posibilidad de evitar una carrera de armamentos se desvaneció.

Es particularmente el poder de autoreproducción en el terreno de la genética, la nanotecnología i de la robótica (GNR) lo que debería incitarnos a hacer una alto en el camino. La autoreproducción es el “modus operandis” de la ingeniería genética la cual utiliza la maquinaria de la célula para duplicar sus propias estructuras y constituye el riesgo de “gray goo” número uno subyacente a las nanotecnologías

Dos años más tarde, parece ser que Oppenheimer franqueó otra meta. En 1948 se expresaba en estos términos: “En el sentido más estricto de la palabra, que ninguna trivialidad, ningún humor ni ningún sobreentendido podrá lavar, los físicos han pecado. Y este pecado quedará como un peso sobre ellos para siempre.”

En 1949, los Soviéticos hicieron estallar una bomba atómica. A partir de 1955, los EUA procedieron a ensayos de bombas de hidrógeno lanzables desde aviones. La URSS hizo lo mismo. La carrera de armamentos fue iniciada.

Hace aproximadamente 20 años, en el documento titulado The Day After Trinity, Freeman Dyson ha resumido la actitud de ciertos científicos que nos condujeron al abismo nuclear:

“Yo, personalmente, he sentido esta fascinación de las armas atómicas. Para un investigador, el poder de atracción es irresistible. Sentir esta energía que abrasa las estrellas, allí, en la punta de tus dedos, liberarla y sentirse el dueño del mundo. Hacer milagros, catapultar al espacio millones de toneladas de rocas. Era una cosa que daba una ilusión de poder sin límites, y, de un cierto modo, todos nuestros males destilan de él. Esta cosa, llamémosla arrogancia tecnológica, es más fuerte que nosotros, no percibímos el poder inaudito del espíritu, es irresistible.

Hoy en día, como entonces, los inventores de nuevas tecnologías y los depositarios de un futuro imaginado (colocados esta vez, en un contexto de competencia planetaria, por la perspectiva de ganancias financieras considerables, a pesar de peligros evidentes) estamos poco preocupados en examinar a que podría parecerse una tentativa de vida en un mundo que no es otra cosa que el resultado realista de aquello que estamos en trance de inventar y de imaginar.

A partir de 1947, The Butlletin of Atomic Scientist hace figurar en su cubierta un reloj del “Juicio Final”. Este barómetro refleja las variaciones de la situación internacional, dando a lo largo de 50 años una estimación de la amenaza nuclear relativa que pesa sobre nosotros. Quince veces se han movido las agujas de este reloj. Marcando la medianoche menos nueve minutos, indican hoy en día la amenaza real del arsenal atómico. La reciente entrada de la India y del Pakistán en el club de las potencias nucleares ha supuesto un duro golpe al objetivo de la no-proliferación, como nos indica el movimiento de las agujas, las cuales, en 1998, se han aproximado a la hora fatídica.

En este momento, ¿cuál es el alcance preciso de la gravedad de este peligro que pesa sobre nosotros, no sólo en términos nucleares, sino teniendo en cuenta el conjunto de estas tecnologías? ¿Cuales son concretamente los riesgos de extinción que nos amenazan?

El filósofo John Lesli, que ha reflexionado sobre la cuestión, evalúa el riesgo mínimo de extinción de la especie humana en el 30%. Por su parte, Ray Kurzweil, estima que “nuestra capacidad de superar es superior a la mediana”, precisando más adelante que a él “siempre se le reprocha el ser optimista”. No sólo tales estimaciones son poco comprometidas, sino que descartan los acontecimientos, múltiples y horribles, que preludiaran la extinción.

Frente a tales aserciones, ciertos personas dignas de crédito sugieren simplemente desplazarse lejos de la Tierra, y esto en el menor plazo. Colonizaremos la galaxia por medio de las sondas espaciales de Von Neumann, que, saltando de un sistema estelar a otro, se autorreproducirán. Superar esta etapa será un imperativo incontestable en los 5 millardos de años por venir (especialmente sí nuestro sistema ha de sufrir un impacto cataclísmico en la colisión de nuestra galaxia con la de Andrómeda, prevista para dentro de tres millardos de años); pero si aceptamos las palabras de Kurzweil y Moravec, esta migración podria ser necesaria hacia mediados de siglo.

¿Cuáles son las implicaciones morales en juego?. Si para sobrevivir la especie nos hace falta abandonar la Tierra en un futuro tan próximo, quien asumirá la responsabilidad de todos los que quedarán en espera (de hecho la mayor parte)? Incluso cuando estemos desperdigados por las estrellas, ¿no es verosímil que traeremos nuestros problemas con nosotros o que nos daremos cuenta a posteriori de que nos han seguido? El destino de nuestra especie sobre la Tierra parece inextricablemente conectado al de toda la galaxia.

Otra idea consiste en construir una serie de escudos preventivos contra las diversas tecnologías de riesgo. La iniciativa de defensa estratégica propuesta por la administración Reagan, pretendía ser un escudo de este tipo para detener la amenaza de un ataque nuclear de la Unión Soviética. Pero como observó Artur C. Clarke, en el secreto de las discusiones alrededor del proyecto “si bien es concebible, mediante costos formidables, construir sistemas de defensa locales que no dejen pasar más que algunos centenares de misiles balísticos, la idea propagada de un paraguas cubriendo los EUA en su totalidad era esencialmente una tontería. Luis Alvarez, quizás el más grande investigador de física experimental de este siglo, me remarcó que, los promotores de proyectos de este tipo, eran individuos extremadamente brillantes, pero desprovistos de buen sentido”.

“Cuando leo en mi bola de cristal, prosigue Arthur C. Clarke, no excluyo la posibilidad de que pueda ponerse a punto una defensa integral en un siglo o dos. Pera la tecnología que esto supondría, generaría ‘subproductos’ tan temibles que, desde entonces, nadie perdería el tiempo en cosas tan primitivas como los misiles balísticos.”

En Engines of Creation, Eric Drexler, proponía la construcción de un escudo nanotecnológico activo –una especie de sistema inmunitario para la biosfera– que nos protegería de los “replicadores” peligrosos de todo tipo, susceptibles de haberse escapado de los laboratorios, donde han de nacer eventualmente invenciones maravillosas. Pero el escudo que nos propone es por sí mismo extraordinariamente peligroso: efectivamente, nada podría impedir el desarrollo de problemas “autoinmunes” y de atacar de este modo la misma biosfera.

Dificultades parecidas van a la par con la construcción de escudos destinados a protegernos de la robótica y de la ingeniería genética. Estas tecnologías son demasiado potentes para que puedan predecirse todos los detalles, además, incluso con el despliegue de los escudos defensivos serán inevitables, los efectos colaterales serán al menos tan temibles como las tecnologías de las que nos han de proteger.

En consecuencia, todas estas posibilidades son, o bien poco deseable, o bien irrealizables o las dos cosas a la vez. La única alternativa realista, a mi parecer, es renunciar a ellas, restringir la investigación en los dominios tecnológicos que son demasiado peligrosos, poniendo límites a nuestra investigación de ciertos saberes.

Si, ya lo sé, el saber es una cosa benéfica, y lo es incluso tratándose de la investigación de nuevas verdades. Aristóteles abre la Metafísica con este máxima tan simple “Todos los hombres desean por naturaleza saber”. Después de largo tiempo, hemos reconocido como un valor fundamental de nuestra sociedad el libre acceso a la información, y convenido que los problemas surgen cuando se intenta limitar y poner frenos al desarrollo. Últimamente hemos llegado a poner el conocimiento científico en un pedestal.

Pero si, de ahora en adelante, a pesar de los precedentes históricos aportados, el libre acceso y el desarrollo ilimitado del saber hace claramente pesar sobre nosotros la amenaza de la extinción, entonces el buen sentido exige que estas convicciones sean revisadas de nuevo, aunque sean fundamentales y bien arraigadas.

Nietzsche, a fines del siglo XIX, no nos ha advertido solamente de que “Dios ha muerto”, sino también que “ (….) La fe en la ciencia, esta fe que es incontestable, no puede haber tenido su origen en semejante cálculo de utilidad, al contrario se ha formado a pesar de la demostración constante de inutilidad y de peligro que residen en la ‘voluntad de verdad’, en la ‘verdad a cualquier precio’”. Es precisamente este peligro –-las consecuencias de nuestra búsqueda de la verdad– que nos amenaza hoy en día con todo su peso. La verdad que busca la ciencia puede incontestablemente pasar por un substituto de Dios si es susceptible de conducirnos a la extinción.

Si, en tanto que especie, podemos ponernos de acuerdo sobre nuestras aspiraciones, sobre hacia donde vamos y sobre la naturaleza de nuestras motivaciones, entonces construiremos un futuro significativamente menos peligroso. Entonces podremos comprender aquello que no solamente es posible, sino deseable de renunciar. De otro modo, imaginamos fácilmente una carrera de armamento girando alrededor de las tecnologías GNR, como la que se produjo en el siglo XX alrededor de las NBQ. El peligro mayor reside quizás aquí, en la medida en que, una vez lanzada la máquina es muy difícil pararla. Esta vez, al contrario de la época del proyecto Manhattan, no estamos en guerra, cara a un enemigo implacable que constituye una amenaza para nuestra civilización; esta vez, estamos callados por nuestros hábitos, nuestros deseos, nuestro sistema económico y por la carrera del saber.

Desearíamos, lo creo, que nuestro camino estuviese inspirado en valores colectivos, éticos y morales. Si en el curso de los últimos milenios, hemos adquirido una sabiduría colectiva más profunda, entonces iniciar un diálogo con este fin será más fácil y este poder formidable a punto de desatarse estará lejos de ser tan preocupante.

Se podrá pensar que el instinto de conservación nos conducirá a un diálogo como éste.  Ahora bien, si en tanto que individuo, manifestamos claramente este deseo, nuestro comportamiento colectivo en tanto que especie, por el contrario, parece jugar en contra nuestra. Afrontando la amenaza nuclear, nos hemos comportado de modo deshonesto, tanto respecto a nosotros mismos, como hacia los otros, multiplicando los riesgos. Razones políticas, elección deliberada de no mirar a largo plazo, o comportamiento mudo debido a miedos irracionales procedentes de las graves amenazas que pesan sobre nosotros, no lo sé, pero esto no presagia nada bueno.

Que las nuevas cajas de Pandora genética, nanotecnológica y robótica estén entreabiertas, a nadie parece inquietar. Nadie cierra las tapas sobre estas ideas; contrariamente al uranio y al plutonio, una idea no necesita ser extraída, ni enriquecida y se puede duplicar libremente. Una vez lanzada, no se detiene. Churchill, hizo célebre un cumplido ambiguo “los americanos y sus dirigentes, acaban siempre por actuar honorablemente, una vez que han examinado bien cada una de las otras opciones”. Pero  en este caso preciso, es necesario intervenir antes, en la medida que actuar honorablemente como último recurso pueda condenarnos.

Thoreau dijo “no somos nosotros los que tomamos el tren, es el tren que nos toma a nosotros”. Y esta es la apuesta actualmente. De hecho, la verdadera cuestión es saber quien dominará al otro, y si sobreviviremos a nuestras tecnologías.

Estamos lanzados en este nuevo siglo sin mapa, sin guía, sin frenos. ¿Hemos llegado ya demasiado lejos en este camino para corregir la trayectoria? No lo creo; de momento no se ha realizado ningún esfuerzo en este sentido, y nuestras últimas posibilidades de retomar el control, es decir el punto de no retorno, se aproxima rápidamente. Disponemos ya de nuestros primeros animales domésticos de síntesis, y ciertas técnicas de ingeniería genética están ya disponibles en el mercado; en cuanto a las técnicas a escala “nano” avanzan rápidamente. Si su desarrollo supone un cierto número de etapas, su última etapa no ha de ser forzosamente algo tan enorme como el proyecto Manhatann o el ensayo Trinity. El descubrimiento capital de la capacidad de autoreplicación incontrolada en el campo de la robótica, la ingeniería genética y la nanotecnología puede llegar brutalmente, renovando el efecto sorpresa del día en que apareció la noticia de la clonación de un mamífero.

Los esfuerzos desplegados para regular la cuestión de las armas de destrucción masiva en el curso del último siglo, proporcionan un ejemplo muy claro de renuncia que merece la atención: el abandono unilateral e incondicional por parte de los Estados Unidos del desarrollo de las armas biológicas. Este descuelgue se relaciona con dos aspectos, por una parte es necesario un esfuerzo considerable para poner apunto estas armas horrorosas, por otra parte pueden ser fácilmente duplicadas y caer en manos de países belicosos o de grupos terroristas.

Todo esto deja claro que desarrollar estas armas hace aparecer nuevas amenazas, y que renunciar a ellas acrecienta nuestra seguridad. Esta decisión solemne de prohibir las armas bacteriológicas y químicas a sido consignado en la Convención de Armas bacteriológicas (BWC) en 1972, y en la Convención sobre Armas Químicas(QWC) de 1993.

En cuanto a la amenaza persistente y bastante considerable de las armas atómicas, bajo el peso de las cuales llevamos viviendo 50 años, tenemos el reciente rechazo del senado americano de tratado de prohibición global de los ensayos nucleares, desengancharse de las armas atómicas no será una tarea políticamente fácil. Pero el fin de la guerra fría nos ofrece una posibilidad excepcional de prevenir una carrera de armamento multipolar. En la estela del abandono de las armas químicas y biológicas, llegar a abolir las armas atómicas puede incitarnos a renunciar a las tecnologías peligrosas  (de hecho comenzar desembarazándose de cien armas atómicas diseminadas por todo el mundo –aproximadamente el potencial de destrucción de la segunda guerra mundial- bastaría para eliminar esta amenaza de extinción).

Verificar la realidad del desarme será un problema delicado pero no insoluble. Por ejemplo un importante trabajo similar ha sido ya cumplido en el contexto del BWC y otros tratados. Nuestra tarea esencial será aplicar esto a tecnologías que, por naturaleza, son resueltamente más comerciales que militares. Esto hace necesaria una buena cantidad de transparencia, en la medida que la dificultad de la verificación  es directamente proporcional a la dificultad de distinguir una actividad clandestina de una actividad legítima.

Pienso honestamente que en 1945, la situación era más simple que la que enfrentamos hoy en día: era relativamente sencillo trazar la frontera entre tecnología nuclear de uso comercial y militar. Por tanto el control estaba facilitado por la naturaleza misma de los ensayos nucleares y la facilidad con que se puede medir el grado de radiactividad. La investigación de aplicaciones militares puede ser llevada en laboratorios tales como “los Alamos”, y los resultados mantenidos en secreto el mayor tiempo posible.

Las tecnologías GNR no se dividen tan claramente en dos familias distintas, la militar y la comercial; teniendo en cuenta su potencial mercantil, es difícil imaginarlas acantonadas en laboratorios del estado. En el contexto de su desarrollo comercial a gran escala, controlar el grado efectivo de uso-no-militar exigirá la instauración de un régimen de verificación similar al de las armas bacteriológicas, pero a una escala sin precedentes hasta hoy. Ineluctablemente se cruzará la línea: por un lado la voluntad de proteger la vida privada y algunos datos confidenciales, y por otro, la necesidad de que estos datos queden accesibles en interés de todos. Ante este ataque a la vida privada y a nuestro margen de maniobra, nos encontraremos sin duda con grandes resistencias.

El control de la detención efectiva de algunas tecnologías GNR deberá intervenir en lugares tanto virtuales como psíquicos. En un mundo de datos confidenciales, la apuesta consistirá en volver aceptable la necesaria transparencia, verosímilmente produciendo formas renovadas de protección a la propiedad intelectual.

Un respeto tal exigirá de los científicos e ingenieros la adopción de un código de conducta ética rigurosa, similar al juramento hipocrático, y que tengan el coraje de hacer pública todo fallo, tan a menudo como sea necesario, incluso cuando haya que pagar el precio a nivel personal.  Esto respondería –50 años después de Hiroshima- a la llamada lanzada por Hans Bethe, laureado Premio Nobel, uno de los más venerables miembros del proyecto Manhattan, aun vivo, llamando a los científicos a “cesar y desistir de toda actividad de concepción, desarrollo, mejora y fabricación de armas nucleares y de otras armas de potencial destructor masivo”. En el siglo XXI esto supondrá la vigilancia y la responsabilidad personal de parte de aquellos que puedan trabajar tanto sobre tecnologías NBQ como GNR, para prevenir el despliegue de armas de ingeniería de destrucción masiva accesibles por su solo conocimiento.

Thoreau dijo igualmente que no seremos “ricos en la proporción de número de cosas a las cuales podamos permitirnos renunciar”. Todos aspiramos a la felicidad, ¿pero es razonable recurrir a un grave riesgo de destrucción total para acumular aún más saber y aún más bienes? El buen sentido señala que hay un límite para nuestros deseos materiales. Ciertos saberes son ciertamente peligrosos y es necesario renunciar a ellos.

No deberíamos acariciar sueños de casi inmortalidad sin, antes, estimar los costos, y tomar en cuenta los riesgos crecientes de extinción. La inmortalidad constituye quizás la utopía original; pero no es ciertamente la única.

Todos aspiramos a la felicidad, ¿pero es razonable recurrir a un grave riesgo de destrucción total para acumular aún más saber y aún más bienes? El buen sentido señala que hay un límite para nuestros deseos materiales. Ciertos saberes son ciertamente peligrosos y es necesario renunciar a ellos.

Recientemente he tenido el privilegio de conocer al distinguido escritor y erudito Jacques Attali, su libro Lignes d’horizont (Millenium en su traducción inglesa) me ha inspirado la aproximación Java y Jini de los efectos perniciosos de la tecnología informática en los próximos años. En su última obra “Fraternites”, Attali explica como con el paso del tiempo nuestras utopías se han transformado:

“En el alba de las sociedades, los hombres, sabían que la perfección solo pertenecía a los dioses, no viendo su paso por la tierra más que como un laberinto de dolor al final del cual se encontraba una puerta abierta, por medio de la muerte, hacia los dioses y la eternidad. Con los hebreos y después con los griegos, algunos hombres osaron liberarse de las exigencias teológicas y soñar en una Ciudad ideal, donde se expandía la libertad. Otros, observando la evolución de la sociedad mercantil, comprendieron que la libertad de unos entrañaba la alienación de los otros, y buscaron la Igualdad”.

Jacques Attali me ha permitido comprender como estos tres objetivos utópicos existen en tensión en nuestra sociedad actual. Prosigue con la exposición de una cuarta utopía, la fraternidad, de la que es pedestal el altruismo. Por si misma la fraternidad liga la felicidad individual a la felicidad de los otros, ofreciendo una promesa de crecimiento autónomo.

Esto cristalizó en mi el problema que tenía con el sueño de Kurzweil. Una aproximación tecnológica a la eternidad –-la cuasi inmortalidad que nos promete la robótica– no es forzosamente la utopía más deseable. Al contrario, acariciar este género de sueños comporta peligros evidentes. Quizás debemos reconsiderar nuestras elecciones de utopías.

¿Hacia donde girarnos para encontrar una nueva base ética susceptible de guiarnos? He encontrado en las ideas que expone el dalai-lama en Sagesse Ancienne, Monde Moderne, muy útiles a este respecto. Como esta bien admitido pero poco puesto en práctica, el dalai-lama valora que lo más importante para nosotros es conducir nuestras vidas en el amor y la compasión por los otros, y que nuestras sociedades deben desarrollar una noción más fuerte de responsabilidad universal y de interdependencia; propone un principio práctico de conducta ética destinada tanto al individuo como a las sociedades, la cual coincide con la utopía de Attali.

Además, señala el dalai-lama, nos hace falta comprender que es lo que hace feliz al hombre, y rendirse a la evidencia de que la clave no es ni el progreso material, ni la búsqueda del poder que confiere el saber. Claramente, hay límites a aquello que la ciencia y la investigación científica, solas, pueden conseguir.

Nuestra noción occidental de felicidad parece venirnos de los griegos, que daban como definición “vivir con todas las fuerzas, guiado por los criterios de excelencia, una vida que permita desplegarse”.

Ciertamente necesitamos encontrar motivaciones cargadas de sentido y continuar explorando nuevas vías si, como se adivina, queremos encontrar la felicidad. Hace falta, creo yo, encontrar nuevas exultaciones a nuestras fuerzas creativas y salir de la cultura del crecimiento perpetuo. Si, durante unos siglos, este crecimiento nos ha colmado de bienestar, no nos ha aportado la felicidad perfecta. Ha llegado la hora de comprender: un crecimiento ilimitado y salvaje de la ciencia y la tecnología viene acompañado fatalmente de peligros considerables.

Ha pasado más de un año después de mi primer encuentro con Ray Kurzweil y John Searle. He encontrado alrededor mío razones de esperanza en las voces que se elevan a favor del principio de precaución y de desenganche, y en aquellos individuos que, como yo, se inquietan por la situación difícil en la que nos encontramos. Experimento también un sentimiento de responsabilidad personal acrecentado –no por el trabajo realizado hasta hoy, sino por aquel que puede quedarme por cumplir.

Sin embargo, un gran número de aquellos que tienen conocimiento de los peligros parecen quedarse extrañamente quietos. Cuando se les presiona contestan a veces “esto no es una novedad” –como si se pudiesen satisfacer con la conciencia del peligro latente. “Las universidades están llenas de bioéticos que examinan estos trucos durante toda la jornada”, me dicen. O bien “todo ha sido ya escrito y dicho por expertos”. O finalmente “estos temores y estos razonamientos, ya están muy vistos”.

Ignoro como estas personas disimulan sus miedos. A título de arquitecto de sistemas complejos, bajo a esta arena con ojos generalizas. ¿Por tanto, debo alarmarme? Tengo conciencia de que se ha escrito, dicho y enseñado mucho en este tema, ¿Pero ha llegado a las personas? ¿Significa que podemos ignorar los peligros que llaman a nuestra puerta?

No es suficiente saberlo, es necesario actuar. Saberlo se ha convertido en un arma que volvemos contra nosotros. ¿Podemos dudar todavía?

Las experiencias de los investigadores nucleares enseñan claramente que es el momento de asumir plenamente la responsabilidad de nuestros actos, que las cosas pueden acelerarse, que un proceso puede escaparse a nuestra dirección y volverse autónomo. Puede que, como les paso a ellos, sin siquiera tener el tiempo de apercibirnos desencadenemos problemas insuperables. Es necesario actuar ahora si no queremos dejarnos sorprender y chocar, como ellos, por las consecuencias de nuestras invenciones.

Sin tregua he trabajado en la mejora de mis programas. Los programas son herramientas, en consecuencia, siendo un fabricante de herramientas, debo luchar contra ciertos usos de las herramientas que fabrico. Mi convicción ha sido siempre que, teniendo en cuenta su uso múltiple, produciendo programas más fiables contribuiría a construir un mundo mejor y más seguro. Si llego a la convicción inversa, entonces, me veré en la obligación moral de dar un frenazo a mi actividad. Hoy día, no excluyo esta perspectiva.

Todo esto no me encoleriza, solamente me deja un poco melancólico. De ahora en adelante el progreso tendrá para mi un sabor agridulce.

¿Conocéis la maravillosa penúltima escena de Manhattan donde se ve a Woody Allen, echado sobre su diván, hablando al micro de su magnetófono? Esta en trance de redactar una novela que tiene por tema estas personas que se inventan problemas inútiles, neuróticos, porque esto les evita afrontar problemas todavía más insolubles y terribles concernientes al universo.

Llega el momento de hacer la pregunta “¿Qué es lo que hace que la vida valga la pena de ser vivida?” Y de pasar revista a las cosas que, en algunos casos, ayudan a ello: Groucho Marx, Willie Mays, el segundo movimiento de la sinfonía de Jupiter, la Potatoe Head Blues de Louis Armstrong, el cine sueco, la Educación Setimental de Flaubert, Marlon Brando, Frank Sinatra, las manzanas y peras de Cézanne, los cangrejos de chez Sam Wo, y, para acabar, lo principal: la cara de su amiguita Tracy.

Cada uno de nosotros ama ciertas cosas por encima de todo, y esta disposición hacia los otros no es otra cosa que el substrato de nuestra humanidad. En último término, es en el hecho de esta innegable aptitud en lo que confío, estoy seguro, vamos a superar los desafíos temibles que nos lanza el porvenir.

Mi deseo inmediato es participar en una discusión mucho más extensa tratando las cuestiones señaladas aquí, con individuos de horizontes diversos, y en una disposición de espíritu que escape tanto al temor como a la idolatría de la tecnología.

A guisa de preliminares, he planteado por dos veces un gran número de estas cuestiones en los acontecimientos patrocinados por el Aspen Institute y propuesto a la American Academy of Arts and Sciences integrarlas en sus actividades de la conferencia de Pugwash. Estas conferencias se consagran desde 1967 al control de los armamentos, particularmente de tipo nuclear, y formulan recomendaciones realistas.

Se les puede reprochar que se pusieron en marcha cuando el genio nuclear se había escapado de la botella, digamos que 15 años más tarde. De la misma manera, ya tardamos en iniciar la reflexión de fondo sobre los peligros que conllevan las tecnologías de siglo XXI, y, prioritariamente la prevención de una ingeniería de la destrucción  masiva accesible por su solo conocimiento. Aplazar para más adelante el inicio sería inaceptable.

Continúo pues con mi exploración, quedan un gran número de cosas para aprender. ¿Estamos llamados a tener éxito o a fallar, a sobrevivir o a caer bajo el golpe de estas tecnologías? Esto todavía no está escrito.

Esto me ha llevado a una hora avanzada, son las 6 de la mañana. Me esfuerzo en imaginar respuestas más aptas, y de “penetrar el secreto” de la piedra para liberarlo.

Deberíamos sacar enseñanzas de la fabricación de la primera bomba atómica y de la carrera de armamentos que desencadenó. No fuimos muy brillantes en aquella época, y los paralelismos con la situación actual son turbadores.

La traducción fue tomada aquí:

El artículo original de la revista Wired de abril del año 2000 aquí.

*Fue cofundador y Jefe Científico de SUN MICROSYSTEMS, es coautor del lenguaje Java  y del protocolo JINI. Es el principal diseñador de la versión Unix de Berkeley (BSD).