La rebelión de los robots. Las películas de ciencia ficción suelen planear problemas morales de primer orden, como hace por ejemplo el sugestivo film Ex Machina, cuyo guión no tiene desperdicio. En 2001 una odisea en el espacio, Hall 9000 se ha programado para cumplir con la misión, aunque deba sacrificar a toda la tripulación. Eso mismo sucede con el robot de Alien el octavo pasajero, quien también ha recibido instrucciones para capturar vida extraterrestre, aunque todos los tripulantes deban perecer para lograr ese objetivo.
El ordenador central de Yo robot instruye a los robots de última generación para que, desobedeciendo las leyes fundamentales de la robótica, intenten salvar al género humano de sí mismo, al ser una especie tan autodestructiva. Roy, el robot de Blade runner que protagoniza el monólogo titulado lagrimas bajo la lluvia, decide acabar a su creador cuando este le niega la inmortalidad.
En otros lugares he tratado algunos aspectos éticos de la Inteligencia Artificial (https://theconversation.com/senores-o-lacayos-de-la-inteligencia-artificial-una-fabula-etico-filosofica-155703) y los horizontes abiertamente distópicos que se asignan a un futuro más o menos remoto de la robótica (https://theconversation.com/el-futuro-de-la-robotica-en-las-distopias-cinematograficas-129052). En estas líneas quisiera poner el acento en los corolarios de lo que cabría llamar ética-ficción, reparando en el guión de un film algo desatendido: Ex Machina.
No se trata de ralentizar la investigación en IA, pero sería bueno hacerla compatible con el abordaje de problemas estructurales que vulneran la coexistencia social.
Su propio título da que pensar. En el teatro griego se utilizaba la expresión apo mekhanes theós o sea deus ex machina para designar a un mecanismo que, por medio de poleas, hacía aparecer en escena a un personaje como si descendiera de las alturas cual si fuera una divinidad. Luego se designó así a cualquier elemento que irrumpiera en una trama sin haber sido mencionado previamente ni guardar relación alguna con los personajes ni la lógica interna del relato.
Un film idóneo un cinefórum
Ex Machina da titulo a una sugestiva película de ciencia ficción y suspense fechada en 2014. Lo que sigue sólo deberían leerlo quienes hayan visto ya la cinta, por lo que se recomienda encarecidamente visionarla en alguna plataforma donde la den antes de proseguir la lectura. A buen seguro no se arrepentirán, porque cuando menos entretiene y sorprende con sus giros de guión. Por añadidura da mucho que pensar y es perfecta para un cinefórum, como aquel al que podrían dar pie estas líneas.
Al principio nos atraen unos cautivadores paisajes y el vanguardista diseño de una casa integrada en una entorno natural donde no falta un detalle. Un helicóptero traslada hasta ese enclave al empleado de una corporación tecnológica que habría ganado un sorteo para conocer a su jefe. Este resulta ser un genio que ha conseguido crear un sofisticado robot dotado con una impresionante Inteligencia Artificial.
En un momento dado, el empleado comprende que no ha ganado un sorteo, sino que ha sido seleccionado como conejillo de indias. Su papel es confrontarse con un robot humanoide cuya silueta es femenina, pero cuyas entretelas cibernéticas están bien a la vista. Únicamente los pies, las manos y un expresivo rostro tienen forma humana. El resto de su anatomía revela muy a las claras su índole robótica.
Otra perspectiva del test de Turing
No se trata por tanto de ver si la máquina nos da el pego y podemos confundirla con un ser humano. Lo alarmante es que se detectan rasgos específicamente humanos en una Inteligencia Artificial reconocida de antemano como tal. Su capacidad lingüística y discursiva es lo primero que sorprende a quien presuntamente debe dar su visto bueno al producto. Pero enseguida comparecen los sentimientos.
El virtuosismo del ingenio habría logrado simular no sólo gestos humanos, sino al menos la apariencia de albergar emociones. Cuando Ava, la IA con forma femenina, se acicala con una peluca y un atuendo completo de pies a cabeza, la confusión de su interlocutor es total y Caleb queda paulatinamente seducido, hasta el punto de enamorarse y sentirse correspondido. La complicidad mutua va incrementándose y se comunican en secreto, burlando el continúo espionaje del anfitrión, gracias a los apagones energéticos que es capaz de provocar Ava.
¿Cómo es el artífice de la máquina?
Quien ha creado esta sofisticadísima IA, Nathan, es un tipo con una gran inteligencia puesta enteramente al servicio de su pericia tecnológica, pero sumamente tosco y muy asocial. No se relaciona absolutamente con nadie ni tampoco le interesa hacerlo. Vive aislado en su mansión-laboratorio. Esa recóndita ubicación está en medio de una inmensa propiedad montañosa donde las cascadas descienden de cumbres nevadas. Su forma de divertirse es hacer ejercicio físico tras haberse emborrachado la víspera hasta perder el conocimiento.
Sus cualidades humanas dejan mucho que desear y su comportamiento dista de ser modélico. Se le podría definir como un creador mefistofélico por haber vendido su alma al diablo. Abusa de su poderío económico para controlarlo todo e ignora cualquier tipo de consideración ética en su quehacer. De hecho fabrica sus artefactos con el objetivo de convertirlos en complacientes servidoras que satisfagan todos sus caprichos, como hace Kyoko, cuya apariencia humana es total y sólo le falta poder hablar, lo que se imputa en principio a un desconocimiento idiomático.
Los dobles juegos
Nathan juega con Caleb, como ha debido hacer antes con otros, según testimonia un cristal dañado por los golpes que vemos al principio. Le divierte sembrarle la duda de ser él mismo una Inteligencia Artificial. De hecho Caleb se hace una profunda incisión en uno de sus brazos buscando cables, haciendo manar la sangre de sus venas. Confuso por sus sentimientos amorosos hacia Ava, se pregunta si no será él mismo una creación del pérfido genio tecnológico.
Este lo calcula todo para llevar el timón del experimento con diferentes argucias, pero no pronostica que en uno de sus descuidos etílicos, Caleb aproveche para reprogramar en el ordenador de Nathan los protocolos que permiten abandonar el edificio. Eso debería posibilitar a la pareja de enamorados burlar el cautiverio de Ava y fugarse juntos en el helicóptero programado para recoger a Caleb.
Sin embargo, los guionistas rehúyen ese final feliz a lo Blade runner. Ava toma las riendas de su liberación e incluso se alía espontáneamente con Kyoko para matar al creador de ambas, quien asiste perplejo a su propio asesinato, sin llegar a creerse que lo ejecuten sus criaturas cibernéticas. Kyoko tampoco sobrevive. Pero Ava rentabiliza los desechos de sus predecesoras para perfeccionar su apariencia humanoide y se dirige al helicóptero haciendo caso omiso de Caleb, que le implora no dejarle allí encerrado.
Moralejas a la carta
El planteamiento admite múltiples lecturas que plantean un sinfín de interrogantes. ¿Simula Ava sus emociones? ¿Es capaz no sólo de razonar e incrementar sus conocimientos, sino de utilizar la ironía y mostrar con ese humor que tiene consciencia de sí misma? ¿Por qué abandona a Caleb a su suerte? ¿Por pura frialdad al no sentir el enamoramiento que manifestaba? ¿Es tan egoísta como su creador? ¿Ha sido programada con esa lógica ultra-neoliberal que predica salvarse uno a toda costa y despreciar al perdedor?
¿Qué ganamos con imaginar un mundo que regule una portentosa IA, como si su mera existencia pudiera resolver nuestros problemas y solventar cualquier crisis? ¿No sería preferible preguntarnos por qué nos hacemos cada vez menos empáticos y el altruismo es objeto de burla? ¿Sería útil tener un test inverso al de Turing que sirviera para medir los grados de robotización alcanzados por un ser humano absorto por la realidad virtual y con una vida balizada por los algoritmos de sus aplicaciones?
Ya disponemos de drones que nos vigilan y de otros que son programados cual kamikazes. Aspiramos a integrar la robótica en el terreno asistencial o sanitario, como si el calor humano pudiera verse suplido por la eficacia de un programa informático. En realidad ya convivimos con dispositivos “inteligentes” para un sinfín de trámites cotidianos y nos comunicamos con nuestros allegados cual si fuéramos teclados automatizados.
Las habilidades y prestaciones de nuestros dispositivos digitales nos seducen, hasta el punto de pasar pegados a nuestras pantallas mucho más tiempo del que dedicamos a nuestros congéneres, incluyendo los más queridos. Esos dispositivo no dejan de simular en cierto modo una especie de cariño cibernético hacia nosotros, al complacer instantáneamente nuestras demandas de información, comunicación, entretenimiento o consumo. Lo cual nos hace crear ciertos lazos afectivos para con esos aparatos que a veces acaban imponiéndonos su “voluntad” o en cualquier caso cercenan nuestra autonomía.
Ficción y realidad
En teoría inventar ingenios mecánicos tenía el propósito de liberar al ser humano de arduas tareas que las máquinas podían hacer por nosotros. Pronto se demostró que eso no valía para toda la humanidad. Las cadenas de montaje en una fábrica robotizaban a sus operarios como denuncian Metrópolis o Tiempos modernos. Ahora la irrupción de una robótica cada vez más sofisticada podría eliminar empleos o precarizar aún más un mercado laboral con remuneraciones que a veces no permiten subsistir.
Por supuesto no se trata de ralentizar la investigación en IA, pero sería bueno hacerla compatible con el abordaje de problemas estructurales que vulneran la coexistencia social. Las pandemias y los conflictos bélicos nos recuerdan que debemos fijar prioridades. Potenciar la educación y facilitar el acceso a los bienes culturales configurará una ciudadanía menos manipulable por la demagogia. Los arsenales armamentísticos, lejos de disuadir las guerras, parecen alimentarlas.
¿Cuál sería el “carácter moral” de una IA que deviniese autónoma para instruirse y tomar decisiones? ¿Acaso no se parecería en algo al talante de quienes la diseñen? ¿No reproduce Ava el egoísmo competitivo de Nathan? ¿Qué aprendería si analizara nuestras prioridades políticas y económicas actuales del género humano en su conjunto? ¿Entendería que la solidaridad y la cooperación dan mejores resultados a largo plazo u optaría por maximizar los beneficios más inmediatos al margen de sus costes para la colectividad? ¿Cuál sería su perfil hecho a nuestra imagen y semejanza?
