PANÓPTICO

El panóptico

Objetivo: Domesticar la inteligencia artificial

La alarma sobre los peligros de la IA recuerda la que angustió a los físicos que trabajaban en la primera bomba atómica.

Estamos fascinados o aterrados por las noticias que nos llegan sobre la inteligencia artificial (IA). Tanto los sentimientos entusiastas como los apocalípticos pueden impedirnos tomar buenas decisiones, cosa que tenemos que hacer cuanto antes. Sigo la fantástica historia de la IA desde que, siendo adolescente (1956), un profesor me habló con asombro de la novedad surgida en un Congreso en la Universidad de Darmouth: “Una máquina puede pensar mejor que un humano”. Su eficacia se basaba en la utilización mecánica de poderosos sistemas de lógica formal cuando parecía que las matemáticas enteras podían derivarse de la lógica.

Pero la IA sufrió un parón, la travesía del desierto. La lógica formal no explicaba los alardes de la inteligencia humana. Se intentó ampliarla con las lógicas difusas, pero ni por esas. Se probó a expandirla con gigantescos bancos de memoria y se diseñaron programas expertos, pero el gran salto solo se dio cuando en vez de fundarse en la lógica los programas se fundaron en la estadística y el cálculo de probabilidades. Un algoritmo de nombre críptico -algoritmo de retropropagacion del gradiente- permitió a las máquinas aprender por su cuenta. Los resultados están siendo espectaculares, y eso espolea los miedos. Se habla de una superinteligencia artificial (Bostrom), de la singularidad (Kurweil), de que la humanidad puede volverse obsoleta y esclava.

En EEUU proliferan los departamentos de Human Enhancement Technologies, dispuestos a mejorar nuestra especie. En China, se apuesta por los sistemas de reconocimiento y de control social. Universalmente se teme un “capitalismo de la vigilancia” (Zuboff). La Unión Europea se pregunta si se debe reconocer personalidad jurídica a los robots. Algunos países les han concedido ciertos privilegios. Vital, un robot basado en IA, forma parte de la junta directiva de Deep Knowledge, una empresa japonesa de capital riesgo. La explicación que dieron los directivos es que querían que las decisiones las tomase un consejero independiente. Shibuya Mirai, un robot con la apariencia física de un niño de siete años fue reconocido por el Estado japonés como residente especial. Y Sophia ha sido declarada por Arabia Saudí como la primera ciudadana robot. El Gobierno chino sentó un importante precedente a nivel mundial al reconocer a un robot llamado Dreamwriter de la compañía Tencent como autor de una noticia publicada en un periódico. Es un pronunciamiento jurídico importante porque reconoce como autora a una entidad no-humana, carente de personalidad jurídica. En cambio, recientemente la Oficina de Patentes del Reino Unido se negó a patentar dos inventos producidos por el programa DABUS de IA argumentando que, aunque los inventos cumplían con los estándares de patentabilidad, no eran protegibles por el sistema de patentes porque el inventor no era humano. Relevantes personalidades nos avisan de que la IA puede ser un serio peligro para la humanidad (HawkingGatesMusk). Esta alarma me recuerda la que angustió a los físicos que trabajaban en la primera bomba atómica. Si provocaban la fisión nuclear en cadena, ¿podrían controlarla? Afortunadamente, pudieron.

La IA va a ser cada vez más potente, eficiente y barata. ¿Qué actitud deben tomar los sistemas educativos? ¿Quién va a decidirla? Las más relevantes investigaciones sobre aprendizaje las están haciendo los dos grandes imperios: GAFAMI (Google, Amazon, Facebook, Apple, Microsoft e IBM) y BATX (Baidu, Alibaba, Tencent, Xiaomi). No basta con introducir la enseñanza telemática o enseñar computación en las aulas. Una realidad digitalmente expandida exige formar una inteligencia expandida también. Quienes van a enfrentarse a ese cambio están ya en la escuela y tenemos que ayudarles para que se conviertan en la Generación Centauro, la de la gran transición. El nombre se lo dio el campeón mundial de ajedrez, Garry Kasparov, después de perder contra un programa de ordenador. Le preguntaron: ¿dada la potencia de juego de los ordenadores, como va a ser el jugador de ajedrez del siglo XXI? Respondió: “Será un jugador Centauro”. Una inteligencia humana jugando ayudada por un ordenador que formará parte de su inteligencia personal. Pero no dijo cómo había que hacerlo.

La evolución de la inteligencia humana nos lo muestra. La analogía no es caprichosa. Los investigadores más avanzados en IA insisten en que ha adquirido su gran potencia al unir su poder de computación con el poder del aprendizaje. Lo mismo sucedió a los sapiens. Son procesos isomórficos. Nuestra especie emergió cuando el cerebro que heredamos de nuestros predecesores animales fue capaz de aprender a gran velocidad y, sobre todo, de transmitir lo aprendido. La evolución biológica, que es lenta, se aceleró con la evolución cultural, que es rápida. Neurólogos y antropólogos sostienen que los sapiens aparecimos porque la vida en sociedad fue adiestrando (domesticando) la gigantesca máquina de aprender que es nuestro cerebro. Ahora sabemos que este realiza sus operaciones sin que sepamos como las hace. Los investigadores llaman a esa capacidad Sistema 1, inconsciente cognitivo, cerebro computacional o inteligencia generadora. Continuamente capta información, la interpreta, relaciona, combina, guarda, y produce respuestas, algunas de las cuales se hacen conscientes.

La inteligencia humana surgió cuando los sapiens aprendieron a controlar en parte esa gigantesca maquinaria neuronal. Domesticarla ha ocupado gran parte de nuestra historia, y no siempre funciona. Llamamos inteligencia ejecutiva a los procesos encargados de dirigir nuestro comportamiento, fijar metas, hacer proyectos, tomar decisiones. En una palabra, domesticar a la indómita inteligencia generadora. La inteligencia ejecutiva tiene su sede en el córtex prefrontal, que es la parte más moderna y sofisticada del cerebro humano, y cuando falla aparecen conocidos trastornos: impulsividad, déficit de atención, incapacidad de tomar decisiones, falta de tenacidad, etcétera.

Como la IA puede manejar más información que un individuo, cunde el miedo de que la dejemos tomar nuestras decisiones. Decidir es incómodo y es un descanso que alguien o algo lo haga por nosotros. Esa misma comodidad se da cuando dejamos que nuestra inteligencia generadora dirija nuestro comportamiento. Hacemos entonces sólo lo que tenemos ganas de hacer o lo que los estímulos determinan. Así funciona la inteligencia animal, pero no es la nuestra. Aspiramos a elegir conscientemente nuestro comportamiento, lo que supone no dejarlo en manos de mecanismos neuronales o electrónicos que no controlamos.

El modelo de la inteligencia Centauro aparece claro. Debemos hacer que la colosal potencia de la IA amplíe nuestra inteligencia generadora, nuestra memoria, nuestra capacidad operativa, nuestra fuente de ocurrencias, y debemos educar nuestra inteligencia ejecutiva para que continúe teniendo la capacidad de tomar las decisiones. Debemos aprovechar lo que ya sabemos acerca de las competencias ejecutivas, por ejemplo, la gestión de la atención y la evaluación de la información.

Es precisamente la gestión de la atención la que está siendo más amenazada por las nuevas tecnologías, por ello debemos fortalecerla. Las grandes compañías informáticas han promovido una economía de la atención. Como dice Bruno Patino estamos alumbrando “una civilización con memoria de pez”, incapaz de fijar la atención, adicta a estímulos continuos y cambiantes. Respecto a la evaluación, conviene saber que la IA maneja información, no valoraciones; éstas tienen que ser introducidas por los programadores, de manera que si cedemos a los sistemas de IA nuestra capacidad de decisión, en realidad se la estamos cediendo a los programadores del sistema. La IA puede ser autónoma, pero sólo por delegación de su programador.

La inteligencia Centauro se basa en el fortalecimiento de las competencias ejecutivas de las personas, en el diseño del propio carácter, de la propia personalidad. Esto nos permite comprender otra de las equivocaciones que estamos cometiendo con las tecnología digitales. Cada día vivimos más en red, y eso nos facilita y entretiene nuestras vida. Pero una red está compuesta de nodos y enlaces. Los nodos son las personas conectadas, que son lo realmente importante. Y, sin embargo, tendemos a pensar que lo importante son los enlaces y lo que transita por ellos. También aquí debemos centrar el interés educativo en el fortalecimiento de los nodos, de las competencias ejecutivas, de la personalidad libre, que no acepta sin crítica una supuesta inteligencia colectiva, y que puede actuar más inteligentemente si incorpora a su equipaje una Inteligencia artificial domesticada. El objetivo está claro.

Publicado en El Mundo 31/10/2020

Deja tu comentario