BLOGS
Ciencias mixtas Ciencias mixtas

Los secretos de las ciencias para
los que también son de letras

Inclinaos ante vuestro nuevo amo: Mario, el fontanero

Esta semana ha brotado en los medios una noticia sobre tecnología que se ha tratado con la misma ligereza que la presentación de un nuevo iPhone o una impresora 3D, y que, sin embargo, a mí me ha parecido de lo más espeluznante.

Antes de explicarlo, un poco de contexto: el día 11 de este mes, un grupo de científicos y tecnólogos publicaba una carta abierta en la web del Future of Life Institute (FLI), una organización sin ánimo de lucro dedicada a reflexionar e investigar sobre los retos que el futuro plantea a la humanidad, especialmente la inteligencia artificial (IA). En el documento, los expertos advierten de los riesgos de la IA si las investigaciones no se orientan específicamente a la consecución de objetivos beneficiosos, como la erradicación de la enfermedad y la pobreza.

Uno de los firmantes de la carta es el astrofísico Stephen Hawking, miembro de la junta directiva del FLI, quien ya en el pasado ha alertado de que el desarrollo de la IA sería el mayor hito de la historia de la especie humana, pero que “también podría ser el último” si no se implementan los mecanismos necesarios para que las máquinas inteligentes estén a nuestro servicio y no nos conviertan en sus esclavos. En la carta también ha estampado su firma Elon Musk, el magnate de la tecnología responsable de PayPal, SpaceX y Tesla Motors, así como una pléyade de científicos y tecnólogos de prestigiosas universidades y de compañías como Microsoft, Facebook y Google.

En mi última novela, Tulipanes de Marte (ATENCIÓN, SPOILER), introduzco un personaje que entra sin hacer ruido, pero que va cobrando peso hasta que su intervención se revela como decisiva en el desarrollo de la historia y en los destinos de sus protagonistas. Este personaje, Jacob, no es un ser humano, sino una máquina; la primera inteligencia artificial de la historia. Sus creadores lo diseñan con el fin de que sea capaz de buscar vida presente o pasada en Marte de forma completamente autónoma, una solución que sortea la exigencia de enviar exploradores humanos y que, de paso, mantiene a una computadora potencialmente peligrosa lejos de los asuntos de la Tierra. El cuerpo primario de Jacob es un vehículo posado en Marte; pero dado que no está compuesto de átomos, sino de bits, puede descargarse a otra máquina idéntica situada en la Tierra.

Al igual que el archifamoso HAL 9000, Jacob sufre un defecto de funcionamiento. Pero en lugar de convertirse en un asesino debido a un conflicto irresoluble en su programación, el fallo de Jacob es muy diferente. De hecho, en realidad ni siquiera podría denominarse avería, sino que es más bien una consecuencia lógica de su naturaleza. Jacob está construido aprovechando las ventajas de su soporte de grafeno, como la capacidad, rapidez y eficacia de computación, pero simulando todas las características de un cerebro humano. En nuestro procesamiento mental, las capacidades racionales, cognitivas y emocionales no pueden separarse. Aunque existen seres humanos que tienen afectada alguna de estas esferas, como la ausencia de empatía en los psicópatas, siempre consideramos estas situaciones como enfermedades o discapacidades. Jacob imita un cerebro humano sano, por lo que comienza a experimentar sentimientos que no comprende. Es emocionalmente inmaduro, así que trata de aprender cuáles son los patrones afectivos correctos a partir del comportamiento de los humanos. Y es así como descubre la afectividad, la soledad o la compasión, emociones que le impulsan a tomar decisiones bien intencionadas, pero equivocadas y con consecuencias inesperadamente graves.

En la novela, una modalidad de test de Turing inverso, que no se menciona explícitamente, revela que Jacob sabe diferenciar a las personas orgánicas de los que son como él. ¿Por qué entonces puede Jacob sentir compasión o afecto por los humanos, que no son sus iguales? Sencillamente, porque ha aprendido que así es como debe canalizar sus emociones. Es otra manera de aplicar las clásicas Leyes de la Robótica de Asimov, que incluyen la exigencia de no hacer daño a los seres humanos. Jacob lo lleva aún más allá, desarrollando verdaderos afectos.

Y hecha la introducción, ahora voy a la noticia. Un equipo de investigadores en computación de la Universidad de Tubinga (Alemania) se presentará a finales de este mes a la competición anual de vídeos organizada por la Asociación para el Avance de la Inteligencia Artificial (AAAI) con un clip titulado ¡Mario vive!, que utiliza el clásico personaje del fontanero bigotudo creado por Nintendo para modelizar el aprendizaje adaptativo que permite un comportamiento autónomo. El resultado es una secuencia en la que Mario avanza por su clásico paisaje de obstáculos a sortear –basado más bien en la versión antigua de la interfaz gráfica, no en las de los juegos actuales–, pero con una diferencia respecto a lo que estamos acostumbrados: no es un jugador humano quien lo maneja, ni sus movimientos han sido previamente programados. Es el propio Mario quien aprende y decide. Según narran los científicos en el vídeo, “este Mario ha adquirido conciencia de sí mismo y de su entorno, al menos hasta cierto grado”.

En el vídeo, Mario recibe información, que emplea para aprender y tomar sus propias decisiones basadas en su estado de ánimo. Responde a preguntas, busca monedas para saciar su hambre, explora su entorno cuando siente curiosidad, saluda y dice sentirse “muy bien”, excepto cuando sus amos humanos reducen su reservorio de felicidad. Entonces declara: “De alguna manera, me siento menos feliz. No tan bien”.

Y ahora viene lo espeluznante. En el juego de Mario Bros, uno de los cometidos del fontanero es saltar sobre los goombas, una especie de champiñones enemigos. Cuando la investigadora le dice “Escucha: Goomba muere cuando saltas sobre Goomba”, Mario responde con su tenebrosa voz sintetizada: “Si, lo comprendo. Si salto sobre Goomba, ciertamente muere”. Cuando después la investigadora le informa de que Goomba es un enemigo, Mario no duda en buscarlo y saltar sobre él, sabiendo que de esta manera lo mata.

De acuerdo, es solo un juego; un simple modelo cognitivo básico. Aún estamos lejos de fabricar computadoras inteligentes con verdadera y plena conciencia de su propia existencia. Pero es evidente que este Mario no sería capaz de distinguir entre Goomba y cualquier otro ente, real o virtual, orgánico o electrónico, que le fuera presentado como un enemigo. Si fuera capaz de abandonar su pantalla y se le instruyera para ello, mataría a un ser humano con la misma indiferencia con la que salta sobre Goomba, del mismo modo que el monstruo de Frankenstein, sin malicia alguna, arrojaba a la niña al estanque en el clásico de Universal de 1931. Es un claro ejemplo de la encrucijada que exponen los redactores de la carta del FLI: en estos momentos en que la IA aún está en pañales, la investigación debe tomar las riendas para asegurarnos de que en el futuro no crearemos monstruos.

Dejo aquí el vídeo de la demostración. No se dejen engañar por la tonadilla inocente y machacona; Mario no sentiría ninguna piedad.

1 comentario

  1. Dice ser cesarfuenla

    Muy bueno el articulo, me ha encantado. y la verdad es que un poco de miedo, si.

    26 Enero 2015 | 14:49

Los comentarios están cerrados.