Entradas etiquetadas como ‘Isaac Asimov’

Un robot viola la primera ley de Asimov

Así dicho, podría sonar a pompa y artificio. De un vistazo superficial, podría parecer que el hecho de que una máquina haya causado daños, por suerte leves, a un niño, no pasaría más allá de cualquier otro accidente de un humano con un aparato; como, digamos, el que se pilla la corbata con la trituradora de documentos.

Pero cuando la máquina es un sofisticado robot de seguridad dotado de casi 30 sensores ad hoc y programado para vigilar a los malos y proteger a los buenos, entonces ahí lo tenemos, y no puede ser más literalmente cierto: “un robot no hará daño o, por inacción, permitirá que un ser humano sufra daño”, Isaac Asimov dixit en la primera de sus famosísimas Tres Leyes de la Robótica.

Los hechos: el Centro Comercial de Stanford, en Palo Alto (California), cuenta en su plantilla con los K5 de Knightscope, una especie de Robocops con ruedas –aunque su aspecto recuerda más a R2D2– de metro y medio de alto y unos 130 kilos de peso que patrullan por el centro para servir de apoyo a los guardias de seguridad humanos. Cuando el K5 detecta alguna anomalía, como un ruido inusual o un cambio brusco de temperatura, o cuando detecta a algún criminal fichado… no, no dispara; se limita a alertar a sus jefes basados en el carbono.

El K5 de Knightscope. Imagen de Knightscope.

El K5 de Knightscope. Imagen de Knightscope.

Dado que el centro comercial está situado en el Silicon Valley, nada más apropiado que un vigilante robótico. Pero dado que una de las virtudes del K5 es que sale más barato que un guardia de carne y hueso, a unos 6,25 dólares la hora, nada más apropiado para rescatar la vieja polémica que se remonta a los tiempos de la Revolución Industrial.

El caso es que el pasado 7 de julio, una familia se encontraba visitando el centro comercial cuando el pequeño de 16 meses Harwin Cheng resultó arrollado por un K5. El robot pasó por encima de su pie, causándole un golpe de morros contra el suelo, arañazos en la pierna y una inflamación, además de un susto de muerte.

Como era de esperar, hay una diferencia sustancial entre la versión de la familia y la de Knightscope. La madre del niño, Tiffany, dijo a ABC7 News: “El robot golpeó a mi hijo en la cabeza y él cayó de cara hacia el suelo, y el robot no se detuvo y siguió avanzando”. Por su parte, según The Verge, Knightscope declaró en un comunicado que “el niño abandonó la vecindad de sus guardianes y comenzó a correr hacia la máquina. La máquina giró a la izquierda para evitar al niño, pero el niño corrió hacia atrás directamente hacia el frente de la máquina, momento en que la máquina se detuvo y el niño cayó al suelo”.

Naturalmente, ante tal discrepancia caben pocas dudas sobre qué versión creer, aunque solo sea porque la de Knightscope no explica claramente las lesiones del niño; la empresa asegura que los sensores del robot no detectaron vibración, como debía haber ocurrido al pasar sobre un pie. Incluso el Roomba de iRobot, esa aspiradora casera que se convirtió en la primera máquina de uso doméstico admitida en el Salón de la Fama de los Robots de la Universidad Carnegie Mellon, sabe detenerse cuando encuentra un obstáculo.

Por otra parte, quienes tenemos hijos también sabemos que, cuando se empeñan, no existe robot en la galaxia capaz de esquivarlos. Sea como fuere, la compañía ha presentado sus disculpas a la familia y la ha invitado a conocer sus instalaciones, aunque no está claro si a los Cheng les quedarán ganas. Por el momento, los K5 del centro comercial han tenido que entregar sus placas y han quedado suspendidos de empleo y sueldo.

Aunque afortunadamente el suceso no ha pasado de anécdota, ilustra una situación que sin duda se repetirá con mayor frecuencia a medida que nuestra interacción con los robots se vaya multiplicando. Y lo peor de todo es que no siempre los casos que puedan presentarse estarán tan fácilmente cubiertos por las tres sencillas reglas de Asimov. Algo que escapa a este código básico y que últimamente ha sido objeto de comentarios es el dilema moral, especialmente en el caso de los coches robotizados autónomos que Tesla y otras compañías quieren popularizar en los próximos años.

El pasado mayo, un coche autónomo Tesla causó la muerte de su único ocupante cuando no pudo esquivar un camión que se interpuso de repente. Al parecer, el vehículo viajaba en modo de piloto automático mientras su conductor veía una película de Harry Potter, y los sensores del coche no distinguieron el camión blanco contra el cielo luminoso. La semana pasada se produjo otro accidente de un Tesla, esta vez sin daños. Aquí no hay debate posible: fue un error de la tecnología que revela sus imperfecciones.

Pero imaginemos esta otra situación: un coche autónomo circula con ocupantes en su interior, cuando de repente se encuentra inesperadamente con un obstáculo en el camino sin tiempo para frenar. Tiene dos opciones: estrellarse, poniendo en riesgo las vidas de sus pasajeros, o eludir el obstáculo y arrollar a un grupo de peatones. ¿Cuál es la decisión correcta? ¿Depende de si hay más personas dentro del coche o en la acera? ¿De si hay niños? ¿Podrán los afectados o sus familiares demandar al fabricante del coche? ¿Querría algún fabricante arriesgarse a perder una demanda con indemnizaciones millonarias?

El pasado junio, un estudio publicado en Science reunía una serie de encuestas que planteaban este dilema. La mayoría de los encuestados pensaban que el coche debería optar por sacrificar a sus ocupantes, aunque opinaban que esto no debería regularse por ley. Y como consecuencia de todo ello, se mostraban reacios a montar en coches que podrían tomar la decisión de liquidarlos para no dañar a otros.

La realidad puede ser más complicada que la ficción. Y si algo queda claro, es que tres leyes no bastan.

Los transgénicos serán el futuro, pero sólo si aguantamos el cambio de ciclo

En los años 50 y 60 del siglo pasado, superado el trauma de la Segunda Guerra Mundial, en el mundo occidental dominaba un espíritu de optimismo que cabalgaba sobre el caballo de la modernidad. Fue la época del baby boom, el coche para todos, las vacaciones en la playa y el desarrollismo inmobiliario. Ni siquiera España, que vivía en su piña franquista debajo del mar, se sustraía a esta euforia del bienestar. Y tampoco el roce de la guadaña del apocalipsis en las gargantas (la escalada nuclear, la Guerra Fría, la crisis de los misiles de Cuba) era capaz de aguar la fiesta.

Hace dos veranos, casi por estas mismas fechas (ignoro qué tiene el verano que me hace pensar en esto), conté aquí que en 1964 y con ocasión de la Feria Mundial de Nueva York, mi ilustre colega por partida doble Isaac Asimov (por bioquímico y por escritor) lanzaba un vaticinio a 50 años vista. En 2014, auguraba Asimov, los seres humanos seguirían “apartándose de la naturaleza para crear un entorno más adecuado a ellos”. Viviríamos en hogares subterráneos sin ventanas y con iluminación exclusivamente artificial, comeríamos solo alimentos precocinados y lavaríamos la ropa en una lavadora alimentada por pilas atómicas.

Lo curioso (hoy) es que Asimov no pintaba todo esto como una distopía, sino como la mayor de las utopías, y con bocas abiertas de admiración era como los ciudadanos de entonces recibían profecías como aquella. Era un futuro ideal al que, créanlo los jóvenes de hoy o no, la inmensa mayoría quería apuntarse sin dilación.

Cómo han cambiado las cosas, ¿no? Lo que en tiempos de Asimov era el sueño del mañana, hoy es la pesadilla. ¿Y por qué?, se preguntará alguien. No, no es porque nuestros padres y abuelos fueran más tontos o porque tuvieran deseos de destruir y arrasar el planeta.

Simplemente se trata del Zeitgeist, un concepto que no acuñó, pero sí inspiró, la filosofía de Hegel. Es el signo de los tiempos, el conjunto de ideas y la forma de pensar que dominan en una época. Como los objetos físicos, la especie humana funciona por un principio de acción y reacción; a las revoluciones les siguen las contrarrevoluciones. Y a la modernidad le siguió la posmodernidad, y todo aquello que inspiraba la visión de Asimov se desplazó al extremo contrario: vuelta a la naturaleza, alimentos orgánicos, vida natural y cosechar energía en lugar de fabricarla.

Todo esto, introduzco un paréntesis, tiene mucho que ver también con otras cosas que hoy no voy a tratar. A menudo se pregunta (y me preguntan) por qué el ser humano no ha vuelto a la Luna desde 1972, por qué no se han establecido colonias allí o en Marte. Siempre respondo que hay un único motivo, y es que no hay dinero: lo que se gastó en la carrera espacial se gastó, y ya no hubo más. Pero lo que subyace es el Zeitgeist: la razón de que no hubo más es que hoy (casi) nadie suspira por vivir en la Luna o en Marte. El ciclo cambió antes de que todo aquello se hiciera posible, y el nuevo ciclo no lo quería.

Arroz dorado (derecha). Imagen de Wikipedia.

Arroz dorado (derecha). Imagen de Wikipedia.

Pero una prueba de que hoy no somos más listos que nuestros padres y abuelos es que no nos guiamos con mayor preferencia por el conocimiento real. Y ya llego: a su vez, prueba de ello es el asunto de los transgénicos. El hecho de que tantas voces se manifiesten públicamente en contra de los cultivos modificados genéticamente, y que las marcas se vean obligadas a seguir esta corriente popular si es que quieren vender algo, no casa en absoluto con el conocimiento real actual sobre los transgénicos. Y esto no es una opinión, sino un hecho.

Ya conté aquí a finales de mayo que ahora tenemos el veredicto definitivo (rectifico: el veredicto provisionalmente correcto hoy, como todo en ciencia) sobre la inocuidad de los transgénicos, en forma de un trabajo de 400 páginas, más de 100 expertos, dos años de trabajo, 900 estudios publicados a lo largo de más de dos decenios.

Más recientemente, y muy a raíz de aquel informe de las Academias Nacionales de Ciencia, Ingeniería y Medicina de EEUU, los transgénicos han saltado a los titulares por la carta de más de un centenar de premios Nobel acusando a Greenpeace de crimen contra la humanidad por su cerril oposición incondicional a los transgénicos, en concreto al arroz dorado. Pero todo esto no servirá de nada; jamás servirá para convencer a quienes no tienen el menor interés en conocer la realidad. Seguirán anclados en su convencimiento de que todos los que defendemos los transgénicos estamos financiados por las multinacionales biotecnológicas y que formamos parte de una conspiración interesada en tapar la verdad.

Por supuesto que no puede faltar un poco de autocrítica: científicos y adláteres, y más los que hemos sido científicos y ahora somos adláteres, debemos de haber hecho algo mal para no ser capaces de transmitir un mensaje tan evidente que consiste únicamente en la verdad cruda sin tintes ni retoques: que los transgénicos no hacen (no han hecho hasta ahora) ningún daño a nadie ni a nada, ni a la salud humana, ni a la salud animal, ni al medio ambiente ni a la biodiversidad. Pero incluso reconociendo esta culpa, y una vez más, hay algo que subyace, y es el Zeitgeist. No se puede luchar contra esto.

Pero el ciclo, como ya he dicho arriba, cambia por sí solo con el tiempo, sin que nadie lo empuje. Si la humanidad continúa funcionando como lo ha hecho siempre, la mentalidad dominante acabará reformándose más tarde o más temprano, se reducirá la actual desconfianza hacia la ciencia y la tecnología (al menos toda aquella que no sirva para usar Twitter), se volverá a creer en el progreso, y entonces probablemente los transgénicos resultarán menos antipáticos.

Si hay algo claro es que las inmensas posibilidades de la tecnología de los transgénicos, que pueden salvar millones de vidas en las regiones más desfavorecidas del planeta, va a seguir progresando. Ahora existe una herramienta de nueva generación que ha traído una revolución a la modificación de genes y que, como conté ayer, brinda esperanzas frescas en el combate contra innumerables enfermedades, entre ellas el cáncer. Y sí, CRISPR también servirá para producir nuevos cultivos transgénicos mejorados.

Pero ahora vivimos un momento crucial. Siempre se ha dicho que la tecnología no se detiene, y que si algo puede hacerse, llegará a hacerse. Personalmente elevo una excepción a esta norma, y es lo que va en contra de esa mentalidad dominante. La tecnología que pilla la ola, en símil surfero, viajará como un rayo; pero la que trata de nadar contra la corriente puede acabar ahogada, y esto es lo que podría suceder con la tecnología de los transgénicos si empresas y gobiernos no se implican en su defensa y sucumben a la tentación demagógica de pillar la ola.

En cuanto a las empresas, y en contra de la vieja doctrina de Friedman, hoy la actividad empresarial está casi voluntariamente obligada a asumir un compromiso de responsabilidad social, tal vez mayor cuanta más visibilidad pública tienen sus marcas o sus operaciones. Y en materia de transgénicos, las compañías alimentarias, multinacionales o no, no lo están haciendo. Las empresas que se dejan llevar por la fuerza de la ola, eliminando los transgénicos de sus productos y pregonándolo en su publicidad, están incurriendo en una dejación de su responsabilidad social e hipotecando el bienestar de las generaciones futuras en interés de su propio beneficio rápido.

Conque esto era el futuro. ¿Y bien?

En esta última semana antes de las vacaciones de verano, me ha dado por practicar el arriesgado ejercicio de echar la vista atrás y recapitular qué significa este año 2014 en el contexto de ese lugar llamado futuro al que inevitablemente debíamos llegar, pero en el que, a diferencia de lo que ocurre ahora, antes solíamos creer. Ayer conté aquí la historia de cómo la bomba atómica nació hace cien años en la literatura mucho antes de hacerlo en la realidad, y cómo el artefacto brotado de la imaginación de H. G. Wells se convirtió en profecía autocumplida cuando inspiró al físico descubridor de la reacción nuclear en cadena, que se confesó muy impresionado por el relato. En su novela, el escritor británico construyó una utopía a la que se llegaba recorriendo un doloroso camino. Y desde luego que en el siglo XX lo recorrimos, pero nunca hemos llegado al destino.

Mientras Wells escribía The world set free, en 1913, otro notable compatriota suyo hacía su propio ejercicio de futurismo a cien años vista. Como recogió el 6 de diciembre de aquel año el periódico The Evening Independent, Sir Thomas Vansittart Bowater, nuevo alcalde de Londres, aseguró que 2013 sería un año “exclusivamente de tracción mecánica”. Pronosticó un enorme crecimiento urbano de Londres, aunque se le fue la mano al extenderlo hasta Brighton, y casi acertó al imaginar que los sellos de correos quedarían reducidos a curiosidades. En coherencia con las expectativas de su época, predijo el túnel ferroviario a través del Canal de La Mancha y el transporte aéreo intercontinental, añadiendo la estrambótica idea de que el tráfico aéreo sobre las ciudades obligaría a cubrirlas con malla metálica para “la prevención del contrabando y otros delitos, y la protección de peatones y residentes”. Sus apuestas quedaron largas al predecir que una visita a Marte no sería algo raro y que el cáncer habría desaparecido. Es más: “será difícil decir que una persona está muerta más allá de toda esperanza de resucitación”, especulaba Bowater, confiando tal milagro a “oxígeno y electricidad, inyecciones salinas, transfusiones de sangre, órganos y miembros trasplantados”, que darían “al hombre o mujer de la calle tantas vidas como el gato del proverbio”.

En la biografía de Bowater no constan grandes méritos más allá de su carrera política y de su dedicación al negocio papelero de su padre. Por tanto, cabe pensar que su especulación no estaba informada por un profundo conocimiento científico y tecnológico, sino por una cierta intuición aplicada a la corriente de pensamiento de entonces. En tiempos de Wells, el naciente siglo XX se divisaba como el triunfo de la modernidad, el tiempo de los grandes cambios y revoluciones que invitaban a soñar con un futuro brillante antes de la Primera Guerra Mundial y del crack de 1929. Todavía en 1939, hace 75 años, el futurismo tentaba la imaginación popular y comenzaba a encandilar al público desde las ferias mundiales como palcos hacia el mañana. En la de ese año, celebrada en Nueva York, el pabellón de General Motors ofrecía una atracción llamada Futurama, donde los visitantes hacían colas kilométricas para volar sobre gigantescas urbes de un lejano 1960, pobladas de modernos rascacielos y escuadradas por anchas autopistas. Ese mismo año, diseñadores estadounidenses lanzaron sus pronósticos sobre la moda en el año 2000: para las mujeres, elegantes vestidos convertibles, transparentes, de metal o cristal, con cinturones eléctricos para “adaptarse a los cambios climáticos”, además de una linterna como adorno capilar para “ayudarlas a encontrar a un hombre honrado”; para los hombres, un tronchante y ridículo mono con radio, teléfono y bolsillos para guardar llaves, monedas y caramelos.

Saltemos un cuarto de siglo. En 1964, hace 50 años, Nueva York acogió una nueva Feria Mundial, con el concurso de un remozado Futurama II que incorporaba la última sensación de la época, la conquista del espacio. Y en un tiempo en que la conciencia medioambiental aún era desconocida, la exhibición presumía de que en el futuro se dispondría de tecnología para “penetrar las junglas”, desbrozar y construir carreteras en solo unas horas: “del corazón de lo que antes era selva tropical, surgirán nuevas y brillantes ciudades”. Ese mismo año, el escritor Arthur C. Clarke, autor de 2001: Una odisea del espacio y El fin de la infancia, vaticinaba en un documental alusivo de la BBC (primera parte bajo este párrafo, segunda parte aquí) que el medio siglo siguiente traería el empleo de monos como sirvientes, la inteligencia artificial, la manipulación de la memoria “como se graba una sinfonía en una cinta” y la revolución en las telecomunicaciones que permitiría a dos personas comunicarse al instante desde cualquier rincón del mundo y trabajar desde “Tahití o Bali”.

También en 1964 y con ocasión de la exposición neoyorquina, el escritor y bioquímico Isaac Asimov imaginaba para el diario The New York Times una “visita a la Feria Mundial de 2014”. En el esquema mental de aquellos días que contraponía lo moderno a lo salvaje, el autor de la Saga de la Fundación escribía: “Los hombres continuarán apartándose de la naturaleza para crear un entorno más adecuado a ellos”. Asimov suspiraba por maravillas que hoy nos resultan inconcebiblemente infernales: ciudades subterráneas alejadas de la luz del sol, viviendas sin ventanas, comida precocinada, electrodomésticos alimentados por pilas atómicas y centrales nucleares por doquier. El escritor de origen ruso divisaba además un 2014 con coches levitantes robotizados, aceras móviles, pantallas gigantes y en 3D, colonias lunares y proyectos de asentamientos marcianos.

Un lugar común en la prospectiva del siglo XX era cómo los avances científicos y técnicos moldearían la evolución del orden social. Para una modernidad que creía en el porvenir, incluso las distopías no pretendían ser retratos fieles del mañana, sino señales de advertencia sobre el riesgo de abandonar la senda correcta del progreso. La mecanización de la producción industrial inducía a los utopistas a aventurar que las tareas físicas más ingratas y rutinarias ya no serían desempeñadas por personas, sino por máquinas o animales entrenados, y que los humanos se dedicarían a cultivar el intelecto y a disfrutar de más tiempo de ocio. Para Asimov, la humanidad quedaría destinada a programar y cuidar las máquinas hasta el aburrimiento. “De hecho, la especulación más sombría que puedo hacer sobre el año 2014 es que, en una sociedad de ocio forzado, ¡la palabra trabajo se habrá convertido en la más gloriosa del vocabulario!”, auguraba.

Incluso en una fecha tan reciente como 1989, el penúltimo salto en este viaje (hace 25 años), algunos aún consideraban posible que la semana laboral de 2014 comprendiera entre 25 y 30 horas, con menos desempleo que el existente entonces. Esta era la predicción del columnista Barry Lake en el diario Marshall Chronicle de Michigan (EE. UU.). Lake se basaba en un análisis efectuado por la firma de investigación Forecasting International Inc. y que vaticinaba analizadores personales de salud en cada hogar, duchas de ultrasonidos que nos librarían hasta del sarro y la caspa, y “TV de dos direcciones” que permitiría a la mitad de la población trabajar desde casa.

Con el fin de la modernidad murieron las utopías. En 1965, Umberto Eco nos dio a elegir entre apocalípticos e integrados, el punk recogió el espíritu de la nueva posmodernidad en su “no future“, y triunfó la visión distópica, que es hoy la dominante. En este 2014, algunas de aquellas predicciones se han cumplido; otras no. Pero tal vez lo que más haya cambiado seamos nosotros mismos. El ser humano ha perdido el candor y la ingenuidad que en su día le hacían imaginar el futuro como una tierra de bienestar y justicia, donde la ciencia y la tecnología iban a servirnos una vida más confortable, sana y longeva, y donde el desarrollo social nos proporcionaría paz, tiempo libre y desahogo económico. Aunque la predicción tecnológica sigue viva y pensadores como Raymond Kurzweil continúan interesados en el juego de su impacto social, las únicas utopías que hoy corren por la calle son las de cariz puramente político, siempre discutibles por lo que tienen de paraíso para unos e infierno para otros.

Quizá lo que más sorprendería a los futuristas del pasado sería el escaso impacto de los cambios en lo más sustancial de nuestras vidas; y, sobre todo, lo poco que las han mejorado. Pese a vacunas y antibióticos, que ya existían hace medio siglo, las enfermedades infecciosas aún asuelan a la humanidad. No hemos vencido al cáncer; las enfermedades genéticas siguen matando o incapacitando a muchos niños, y las neurodegenerativas continúan arruinando el sueño de la jubilación que presentan los anuncios televisivos de seguros. Aún nos desplazamos por los mismos medios que entonces. Hemos ganado en confort, seguridad y algo de rapidez, pero nada esencialmente novedoso ha sustituido al automóvil, el ferrocarril, el avión o el barco. No hemos colonizado la Luna ni Marte. Hoy calentamos los alimentos en un minuto, pero la comida industrial no ha mejorado nuestra nutrición. La automatización de la industria y el aumento de la productividad nos prometían una vida dedicada al ocio, pero si alguien trabaja menos de 40 horas a la semana es porque posee un empleo precario o ninguno en absoluto. Es difícil encontrar un aspecto en el que nuestras vidas hayan experimentado una verdadera revolución. Salvo, claro está, en uno solo. Tenemos dispositivos electrónicos cada vez más sofisticados, apps y redes sociales. En eso ha quedado el futuro: en renovar el móvil cada año. Pan y smartphone.