“La tecnología es un siervo útil, pero un amo peligroso”, Christian Lous Lange. Premio Nobel de la Paz

Que la ciencia, las nuevas tecnologías, la Inteligencia Artificial (IA) quieran romper las barreras de lo natural es el motor de la evolución y el progreso; a lo largo de la historia todas ellas nos han permitido y nos están permitiendo avanzar; pero este avance no está exento de peligros ni carece de límites o líneas rojas. Si los científicos, en su libertad de investigación, juegan a ser “dioses”, hay que reconocer que como consecuencia necesitamos armarnos más que nunca de una buena orientación ética. Estas afirmaciones nos trasladan a la permanente cuestión acerca de los límites éticos de la ciencia. La investigación científica y las nuevas tecnologías conllevan la obligación y la responsabilidad de encauzar cualquier avance en beneficio y no en contra de la humanidad, dejando claro desde el principio que los problemas nunca son de las tecnologías, sino del mal uso que pueda derivarse de los avances científicos y tecnológicos. Es bueno recordar la frase más arriba citada de Lous Lange: “La tecnología es un siervo útil, pero un amo peligroso”. Los resultados en el progreso, saltándose la ética, en un universo en que lo que se busca es el aumento de la economía a cualquier precio, no justifican todo.

A medida que se desarrolla el conocimiento científico, las nuevas tecnologías y la IA, simultáneamente van apareciendo nuevas implicaciones éticas que se enmarcan en contextos históricos diferentes. La conclusión está en que cada investigador debe reconocer y tener claras las implicaciones y responsabilidades y el momento en que intervienen aspectos morales, éticos y políticos en el desarrollo de las nuevas tecnologías y los avances de la IA. Bueno es hacer memoria sobre algún acontecimiento histórico en los avances científicos.

Nicolás Copérnico (1473-1543), el astrónomo polaco, puso al mundo medieval “patas arriba” con la publicación de su obra “Sobre las revoluciones de las esferas celestes”. Con su innovadora teoría heliocéntrica del universo no sólo transformó la astronomía, desconcertando a las corrientes científicas de su tiempo, sino que introdujo, definitivamente, desorden en todas las demás ciencias, incluidas las creencias religiosas, aunque sus sucesores fueron extrañamente lentos en comprender las muchas implicaciones que su teoría conllevaba: el planeta tierra fue relegado a la condición de uno más del Universo entonces conocido, situando al sol en el centro del mismo. Trastocó la explicación de los movimientos de los lugares naturales: ¿qué dirección significaban el “arriba y el abajo”? ¿dónde se situaban ahora el Paraíso y el Infierno? La conmoción científica producida en la mente humana volvió a recordar el mito de la caverna de Platón: su primer paso fue distinguir entre apariencia y realidad. ¿Son las cosas siempre como parecen?, o las cosas son apariencias (sombras proyectadas) de la verdadera realidad.

Con las novísimas tecnologías, algo parecido está sucediendo en nuestros días, incluso, de forma más acelerada. Si psicológicamente estamos ya ligados y condicionados a la tecnología, queda un corto camino para estar condicionados por la tecnología a una unión biológica; la llamada “generación cyborg”: una nueva sociedad en la que la tecnología ya no es una herramienta sino una aplicación para el cuerpo hasta cambiar su identidad. ¿Hasta qué límites la especie humana traspasará a la ciencia la decisión de integrar la tecnología en nuestro propio cuerpo? Tal vez hayamos ya iniciado ese proceso sin que la mayor parte de la especie humana lo sepamos o nos hayamos dado cuenta; ¿dónde está ahora la realidad científica y dónde podrá acabar si no se ponen límites a las fantasías rupturistas y creativas de las tecnologías? ¿Es todo posible? ¿Está todo permitido? ¿Quién marca los límites? Copérnico, con su revolución, situó en el centro de las esferas celestes al sol, pero hoy bien sabemos que el sol tampoco es el centro del Universo. Nuestra Tierra forma parte del Sistema Solar, perdido a su vez en un brazo de una galaxia que tiene 100.000 millones de estrellas, pero sólo es una entre los centenares de miles de millones de galaxias que forman el Universo.

Desde las perspectivas más optimistas hasta la tozuda realidad de las posibilidades de las tecnologías, parece claro que hay un espacio muy amplio todavía por recorrer, íntimamente vinculado a la inteligencia artificial (IA) y a sus avances y desafíos en las próximas décadas de los que iremos siendo testigos. El tiempo irá indicando en qué es posible avanzar y cuándo es necesario detenerse. A mi juicio, la ética tiene la palabra; es la que debe orientar los retos del futuro; es la “clave responsable” que nos abre o nos limita el proceso y el progreso. La identidad es la base para definirnos como individuos (especie o animal); es la diferencia que nos hace sentirnos “nosotros”, aquello que nos posee y a su vez poseemos: es “la pertenencia”, lo adherido a nosotros, tanto espiritual como físico, es “nuestro control”.

Ante este necesario y sustantivo sentido de “identidad”, la pregunta es: ¿cómo cambiará nuestro mundo y la vida con las nuevas tecnologías y la inteligencia artificial (IA)? ¿Se podrá aceptar que la tecnología nos modifique hasta conseguir la fuga o pérdida de nuestra identidad? Sin llegar a saber cómo y cuándo, hoy pocos dudan que así sucederá. Si como sabemos los sucesores coetáneos de Copérnico y su revolución fueron torpes y lentos en comprender las muchas e importantes implicaciones que su teoría conllevaba; con la revolución creativa de la Inteligencia Artificial (IA) tenemos la seguridad de que así está sucediendo, y a una velocidad exponencial.

La inteligencia artificial cambiará el mundo. Es lo que sostiene Pablo Rodríguez, CEO (Chief Executive Officer), director ejecutivo de Telefónica Innovation Alpha, empresa que tiene como objetivo descubrir y trabajar con las tecnologías disruptivas que revolucionarán la sociedad en espacios cortos de tiempo, entre ellas, Inteligencia Artificial (IA) y todas sus derivadas; estas tecnologías van ocupando progresivamente los nichos a los que la tecnología establecida y sostenible va renunciando; de esta forma van consiguiendo hacerse con la mayor cuota del mercado y desplazando a la hasta ahora establecida o sostenible. El autor del libro “Cómo cambiará el mundo, y tu vida, con la inteligencia artificial”, defiende y define con claridad como la IA va a cambiar no sólo el mundo sino la vida de las personas: “En 20 ó 30 años -afirma- tendremos máquinas con capacidades de computación mucho mayores que el cerebro humano. Hoy, la IA está al nivel del cerebro de un ratón”.

En el prólogo de esta obra, el profesor Sandy Pentland, del Instituto de Tecnología de Massachusetts, señala que casi todos los problemas importantes del ser humano se podrán abordar usando datos e inteligencia artificial. Y el científico español Ignacio Cirac, contertulio en la presentación del libro, experto en física y computación cuántica, uno de los campos que en los próximos años se señalan como claves para el avance exponencial en los desarrollos de la IA, sostiene que en este avance “existen límites, puesto que no podremos sobrepasar la velocidad de la luz con la computación, pero sí podremos dar pasos de gigante próximamente para llevar la IA a otra dimensión”.

Es cierto que todo progreso procede de construcciones científicas y tecnológicas desarrolladas, aunque en sus inicios, parezcan ideas desorbitadas, hasta que se hacen realidad. Neil Harbisson es la primera persona en el mundo reconocida como “ciborg” por un gobierno gracias a su “eyeborg”, una antena, como un ojo, osteointegrada en su cráneo con conexión a internet que le permite recibir colores, imágenes y vídeos de cualquier parte del mundo, incluso de fuera de la tierra. Un comité de bioética rechazó tal implante por lo que fue realizado de forma anónima. Quienes se prestaron a tal implante argumentaron: “Llegará un momento en el que estas transiciones sean aceptadas y comunes”. Harbisson, que comparte esta visión, lo argumentaba así: “De la misma forma que las operaciones ‘transgénero’ no se permitían hace unos años, con las operaciones ‘transespecie’ sucederá lo mismo”.

Como he puntualizado más arriba, la ética personal o la moral colectiva (por matizar ambos términos) tiene la palabra; es la que debe orientar los retos del futuro; es la “clave responsable” que nos abre o nos limita el proceso y el progreso de las tecnologías y la IA. El soberbio reto mítico-religioso de ser “como dios” puede y debe ser limitado por la ética, este saber racional que intenta orientar y regular el comportamiento humano y marca la dirección a lo que tanto de manera individual (ética) como colectiva (moral) se considera aceptable y positivo: qué deberíamos y que no deberíamos hacer. En la sociedad tecnológica el ser humano ha ampliado los límites de su acción de un modo que genera dilemas éticos y conflictos que ponen a prueba nuestras convicciones y creencias y nos obligan a reflexionar sobre cómo actuar y cómo organizarnos; dilemas que no habían sido previstos por la ética tradicional, la cual analizaba dicha acción en el contexto de las relaciones directas entre los seres humanos que se producían dentro de estrechos límites espaciales y temporales. Hoy, los avances tecnológicos y la Inteligencia Artificial han reventado esos límites.

Estas nuevas situaciones globalizadas, como en tiempos de Copérnico, nos obliga a refundar una nueva sociedad con responsabilidad universal, que se enraíce en aquello que es específico del ser humano y pueda ser asumido por todos. ¿Cuál sería el ideal ético de este tipo de sociedad?; como sostiene el teólogo Leonardo Boff, el ideal sería una ética biocentrada; es la ética de la responsabilidad universal, en la que el valor de la vida está por encima de cualquier otro valor cultural, religioso o económico; una ética no solo entre los seres humanos sino también con los demás seres, con la naturaleza y con la “tierra”, todos ellos portadores de derechos y, en consecuencia, deben ser todos ellos incluidos en nuestro concepto global de democracia socio-ecológica.

En este sentido ético de la IA o la robótica, en el marco de esa imaginativa creatividad que caracterizó a Isaac Asimov, que se atrevió a vaticinar cómo sería el mundo en la actualidad y en un futuro próximo, considero que tal vez lo más importante es lo que estableció como la primera ley de la robótica: “Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley”.

Si como sostiene Pablo Rodríguez, en el libro antes citado, la inteligencia artificial cambiará el mundo y que en apenas 20 años tendremos máquinas con capacidades de computación mucho mayores que el cerebro humano, no tenemos que esperar esos años para tener la seguridad de que ya en la actualidad las grandes empresas de internet y las redes sociales (Google +, Instagram, Amazon, Facebook, Whatsapp, Twitter, Youtube, Linkedin, Snapchat, Skype, BBM…), a las que voluntariamente se agregan y conectan sus usuarios, utilizan mediante algoritmos todos los conocimientos sobre sus conductas, gustos, intereses, hobbies, aficiones…, en una palabra, su intimidad personal, para influir en ellos: “no son sus clientes, son sus “sus preciados productos”. De ahí que podamos preguntarnos en esta pérdida voluntaria de nuestra personal intimidad: en el marco de estas tecnologías inteligentes, ¿podemos considerarnos sujetos o somos sus objetos?

Bien lo ha explicado en “Naukas 2018”, evento de ciencia y divulgación celebrado en el Palacio Euskalduna de la capital vizcaína, la catedrática de Psicología Experimental Helena Matute, cómo las grandes empresas de internet utilizan los conocimientos sobre la conducta humana y el aprendizaje para influir en los usuarios. Partía de la premisa de que cada vez hay más y mayor variedad de sistemas que piensan y actúan como humanos, de robots que en nuestro día a día realizan un gran número de actividades en las que ya participan y que no dejan de aumentar: “Va a haber muchos cambios en el mercado laboral, empleos para los que ya no harán falta humanos”. En opinión de la psicóloga, sería un gran error pensar que los robots que utilizamos van a limitarse a tareas rutinarias o mecánicas como cadenas de montaje… “Los científicos estamos dejando ya el proceso de búsqueda de información en manos de robots que relacionan conceptos y cosas que les proporcionamos a través de esas redes: leen de aquí y allá”. “Estamos entrando en problemas enormemente importantes -decía-, problemas reales: estamos creando sistemas y seres a los que les damos inteligencia, capacidad de aprendizaje, emociones y sentimientos. ¡Qué difícil es explicar las leyes del condicionamiento instrumental y su relación con los algoritmos de internet en apenas diez minutos!”, se quejaba la catedrática; pero aceptó el desafío de explicarlo.

En su charla “Humanos, algoritmos y otros bichos”, Matute relató cómo los psicólogos Edward Thorndike y B.F. Skinner hicieron una contribución capital a la ciencia en el siglo XX. Sus experimentos y ensayos culminaron en las leyes del aprendizaje humano y del condicionamiento instrumental. Esas conocidas teorías llegaban a la conclusión de que el proceso de aprendizaje está relacionado con las consecuencias derivadas de nuestras acciones: “Toda conducta seguida de consecuencias agradables tenderá a repetirse; si es al contrario, tenderá a extinguirse”. Es como en la evolución, pero aplicada al comportamiento.

Pero ¿qué relación guardan estas teorías con los mecanismos de aprendizaje de la inteligencia artificial y los algoritmos de internet? La profesora Matute expuso cómo las compañías más influyentes en la red disponen de equipos formados por grandes profesionales que emplean los frutos de esas investigaciones psicológicas para afinar sus algoritmos y mejorar las funciones de los motores de búsqueda y posteriormente volcar todo el conocimiento atesorado, los llamados “big data o macrodatos”, que, adecuadamente tratados, les informan sobre la psicología, la personalidad, los intereses, las emociones… de los usuarios, de lo que ellos no han sido informados. Lo que están haciendo los psicólogos y los ingenieros (que trabajan para estos gigantes de internet) es desarrollar algoritmos que exploten nuestros sesgos y nuestras debilidades. Es así cómo se puede manipular la evolución de nuestros comportamientos y modificar nuestras emociones y sesgos cognitivos: reforzar las conductas a través de los algoritmos, como si fuésemos cobayas en la caja de Skinner o de Thorndike. “Creíamos -decía la profesora Matute- que estas tecnologías y redes eran para nuestro bien, para el progreso en la comunicación e información y lo que están haciendo es desarrollar algoritmos que explotan nuestras debilidades: hacen lo contrario de lo que dicen pretender”. ¿Cómo?: aprenden de millones de humanos como conejillos, haciendo experimentos con sus sentimientos y emociones.

Estamos sobresaturados de información -afirma la profesora Matute-; si algo nos sobra es información, pero de la que no sabemos lo que es verdad o mentira. Lo importante es que acudamos a sus webs y pinchemos en ellas: no les importa si es bueno o malo, da igual lo que haya detrás o si refleja una realidad verdadera, lo importantes es pinchar en esas potentes webs que controlan el mundo. Estamos llegando a ser tan necios que, sin darnos cuenta, decimos a los algoritmos lo que somos y lo que nos gusta, los reforzamos para que nos pongan más “de eso que les decimos”… Se trata de un círculo vicioso, porque el algoritmo aprende de los humanos y aprovecha ese aprendizaje para influir posteriormente sobre sus actos. ¡Cuanto más pinchemos más nos reforzamos! Esta metáfora refleja crudamente lo que sucede en la realidad. Decía Benjamín que “quien renuncia a su libertad por seguridad, no merece ni libertad ni seguridad”.

¿Qué hacer, entonces? Conseguir equilibrar la balanza: la información en un platillo y, en el otro, la ética, la transparencia y la verdad. Es lo que señalábamos anteriormente: la ética tiene la palabra; es la que debe orientar los retos del futuro; es la “clave responsable” que nos abre o nos limita el proceso y el progreso.

Debemos conseguir que toda esa tecnología no quede fuera del paraguas de la ética, del progreso de la humanidad; es necesario que esa tecnología de la IA se reoriente en sentido ético. Es obligado moralmente reaccionar y saber qué están haciendo con nuestras emociones: tener claro si nos están manipulando o no. Y las autoridades políticas están obligadas a legislar para protegernos contra esa manipulación, en particular, para proteger a la infancia; es su responsabilidad moral y política: dotar a la sociedad de códigos éticos transparentes hasta conseguir lo que interesa para el bien de la sociedad y no para los intereses de unas élites económicas que se están haciendo multimillonarias utilizando, mediante algoritmos, los “big data”.

Es verdad que todo acaba de empezar, de ahí que resignadamente no podemos concluir que no se puede hacer nada. Hay que equilibrar la balanza; información sí, pero ética, verdad y transparencia, también. Tenemos que conseguir, entre todos, que todas esas tecnologías e IA que se han desarrollado para el progreso humano se reorienten y vuelva a tener interés para toda la especie humana en la que el valor de la vida está por encima de cualquier otro valor cultural, religioso o económico; y no solo para los seres humanos sino también para los demás seres, la naturaleza y la “tierra”.

Si la ética ha de poder desarrollar el papel que le hemos atribuido, es necesario que su función sea explícitamente reconocida dentro del “sistema global”, que sean reactivados adecuadamente los feedbacks entre el sistema ético y los sistemas tecnológicos y que el mismo sistema ético sea dirigido a un mejor funcionamiento. Para conseguirlo, la primera condición consiste en reconocer seriamente la exigencia de revalorizar plenamente, antes que los avances tecnológicos, la existencia y el alcance de auténticos y universales valores morales y éticos.

Ya que la “ética” ha sido el leitmotiv que ha impregnado estas reflexiones, sabiendo que las alargo aún más, finalizo con una anécdota que me sugiere un buen amigo. Preguntado el gran matemático persa Musa al-Jwarizmi, el que introdujo los números arábigos en Occidente, acerca el valor del ser humano, respondió: Si tiene ética, entonces su valor es igual a 1. Si además es inteligente, agrégale un cero a su valor, será igual a 10. Si también es rico, súmale un cero, su valor será 100; Si además es una persona bella y aspecto agradable, agrégale otro cero; su valor llegará a 1000. Pero si pierde el 1 de la ética, perderá todo su valor ya que solamente le quedarán los 000. Sin valores éticos ni principios sólidos lo único que le queda es ser una persona sin valor alguno. Sabia moraleja