Estos HOLOGRAMAS son un ensayo de PERIODISMO EXPANSIVO. Conocer lo que ocurre es fácil, comprenderlo es complejo. Cada lector debe poder elegir el nivel de comprensión en que quiere moverse. Propongo tres niveles: uno, reducido, en formato papel. Otro más amplio, en formato digital, que, a su vez, remite a una RED DE COMPRENSIÓN sistemática, necesaria por la inevitable conexión de los asuntos. Tal vez sea un proyecto megalómano, pero creo que vale la pena intentarlo. El artículo inicial de este holograma se publicó en el suplemento Crónica de EL MUNDO el día 23 de febrero de 2020.


Singularidad. – El término fue popularizado por Ray Kurzweil, director de investigación de Google. Designa la aparición de una nueva especie humana antes del 2050: la poshumanidad. La acción combinada de ingeniería genética, nanotecnología, neurociencia e inteligencia artificial augura un cambio cualitativo en el modo de gestionar la inteligencia y el comportamiento humanos. Facebook ha invertido mil millones de dólares para estudiar la comunicación cerebro-ordenador. La Brain-Computer Interface.  Microsoft, otros mil millones en la compañía OpenIA fundada por Elon Musk, quien creó Neuralink, para fabricar microimplantes neuronales. Kernel, Emotiv o NeuroSky compiten en la carrera. El proyecto Neural Engineering System Design pretende monitorizar la actividad cerebral usando un millón de electrodos, que estimularan selectivamente cien mil neuronas. Rafael Yuste, creador del proyecto Brain, y otros veinticinco científicos han pedido el reconocimiento de cinco neuroderechos. Derecho a la identidad, al libre albedrío, a la privacidad mental, al acceso equitativo a la mejora cerebral y a la protección contra sesgos ideológicos. Creo que el peligro mayor no es la tecnología, sino la sumisión voluntaria a ella. Por eso necesitamos un “modelo de inteligencia” capaz de aprovechar la Inteligencia artificial manteniendo la capacidad humana de decisión. De eso trata el Proyecto Centauro.


HOLOGRAMA 40


Rafael Yuste, neurólogo, impulsor del proyecto BRAIN (Brain Research Through Advancing Innovative Neurotechnologies), lidera un movimiento para que se reconozcan los “neuroderechos”, es decir, los derechos que deben proteger el cerebro de las personas. Los fundamentales son cinco: Derecho a la identidad, al libre albedrío, a la privacidad mental, al acceso equitativo a la mejora cerebral y a la protección contra sesgos ideológicos. Ya en el 2013, el presidente Obama llamo la atención sobre el potencial impacto de la neurociencia en los derechos humanos, enfatizando la necesidad de estudiar temas “relacionados con la privacidad, la acción personal y la responsabilidad moral sobre esas acciones; cuestiones acerca de la estigmatización y discriminación basada en medidas neurológicas de la inteligencia o de otros rasgos; y cuestiones sobre el uso apropiado de la neurociencia en el sistema de justicia” (Presidential Commission for the Study of Bioethical Issues, 2014).

En 2017, Marcello Ienca y Roberto Andorno propusieron cuatro neuroderechos (“Towards new human rights in the age of neuroscience and neurotechnology”, Life Sci Soc Policy. 2017 Dec;13(1):5.:

 (1). – Derecho a la libertad cognitiva. -La libertad para decidir si que quiere utilizar o rechazar una neurotecnología. En China, el gobierno esta consiguiendo datos del cerebro de algunos empleados, que tienen que llevar cascos que escanean su actividad cerebral. El ejército de EEUU también investiga la utilización de neurotecnologías para aumentar la efectividad de los soldados.


(2). – Derecho a la privacidad mental. Si se puede leer el contenido de los pensamientos, esta tecnología puede ser mal utilizada para interrogatorios o investigaciones.


(3). – Derecho a la integridad mental. Protección contra la posibilidad de cambiar creencias de los individuos mediante neurotecnologías.


(4). – Derecho a preservar la continuidad psicológica. La utilización de neurotecnologías puede producir una pérdida de la identidad personal.

Estos peligros son evidentes, pero hay un asunto aún más inquietante. Preocupados por el efecto de tecnologías invasivas y lejanas, no estamos prestando atención al hecho de que algunas de esas consecuencias temidas están implantándose suavemente, sin activar anticuerpos, con la dócil colaboración de miles de millones de usuarios de las nuevas tecnologías. Las neurotecnologías que he mencionado antes son muy impactantes, es decir, se perciben con claridad. No sucede lo mismo con las tecnologías aceptadas cotidianamente. Como escribe Mark Weiser en The computer for the 21st century: “Las tecnologías mas significativas son aquellas que desaparecen. Las que se entrelazan en el tejido de la vida cotidiana hasta que son indistinguibles de la vida misma”. Mencionaré alguno de los efectos que el uso masivo y cotidiano de las tecnologías digitales están produciendo:

  • Limitación voluntaria de la libertad cognitiva. Tim Harris, experto que ha trabajado en Apple, Wikia, y Google, escribe: “Puedo ejercer control sobre mis dispositivos digitales, pero no puedo olvidar que al otro lado de la pantalla hay un millar de personas cuyo trabajo es acabar con cualquier asomo de responsabilidad que me quede.” Un influyente personaje en este mundo de la tecnodominación es B.J. Fogg, fundador del “Persuasive Tech Lab” de la Universidad de Stanford, que ha inventado la “captologia”, la ciencia de la persuasión a través de ordenadores. El titulo de su obra más conocida es revelador; Tecnologías persuasivas: usar ordenadores para cambiar lo que pensamos y hacemos. También lo es el de otro experto, Nir Yal: Enganchados: cómo diseñar productos para crear hábitos. O el de la empresa del neurocientífico Ramsay Brown, Dopamine Lab, que publicita con claridad su oferta: “Nuestra tecnología predice y troquela la conducta humana. Usamos la neurociencia y la inteligencia artificial para personalizar su aplicación para cada usuario”. Nicholas Carr en Superficiales. ¿Qué está haciendo internet con nuestras mentes? se alarma ante el hecho de que se esté perdiendo la capacidad de comprender textos largos, lo que nos convierte en rehenes de mensajes cortos, contundentes y no argumentados. Daniel Dennet se inquieta también, en su ultimo libro – De las bacterias a BLa cuestión mas urgente es definir cómo debería ser la inteligencia humana para utilizar la tecnología sin necesidad de diluirse en ella. ach– de que empecemos a considerar que lo importante es saber utilizar las cosas o las ideas, sin necesidad de comprenderlas.
  •   El cansancio de tomar decisiones. Nick Bostrom en su libro Superinteligencia advierte de la peligrosa posibilidad de que sean las máquinas las que tomen decisiones. La Inteligencia Artificial tiende a prolongarse en una Voluntad Artificial, capaz de tomar decisiones. Andrew McAfee y Erik Brynjolfsson, los profesores del MIT que escribieron La segunda era de las máquinas, concluyeron que los expertos en economía o en política se equivocan mucho más que las computadoras. Los programas de Inteligencia artificial bien diseñados “tienden a tomar mejores decisiones”. En su artículo “Puede un robot ser presidente”, M. Linhorst señala: “A diferencia de un humano, un robot podría tomar en cuenta una gran cantidad de datos sobre las posibles consecuencias de una decisión política en particular. Podría anticipar problemas que se le escaparían a una mente humana y considerar opciones con mas ecuanimidad de lo que haría cualquier ser humano, sin ser susceptible a impulsos individuales y prejuicios”. Una reciente investigación del European Tech Insight de IE University mostró que uno de cada cuatro europeos ya es partidario de que la Inteligencia Artificial sustituya a los políticos en la toma de decisiones. La situación política actual plantea escenarios confusos. Encontrar herramientas que agilicen procesos es uno de los cometidos de Albert Isern, CEO de Bismart, empresa reconocida por Microsoft con el premio mundial en Big Data e Inteligencia Artificial en la definición de modelos predictivos para la toma decisiones. En las últimas elecciones presidenciales americanas se presentó un candidato todavía testimonial: “Watson por president”. Watson es el programa estrella de Inteligencia Artificial de IBM. En 2018, un robot -llamado Michihito Matsuda– se presentó a las elecciones en Tama, un distrito de Tokio. Quedó en tercer lugar.

La cuestión mas urgente es definir cómo debería ser la inteligencia humana

para utilizar la tecnología sin necesidad de diluirse en ella.

  •    La “personalidad reticular”. Desde hace un siglo, la psicología social señalaba la posibilidad de que un individuo se encontrara en dos “estados”: “personal” y “de masa”. En el personal, era responsable, dueño de sus decisiones y autocontrolado. En el estado de masa era invadido por emociones colectivas, abdicaba del pensamiento crítico y difuminaba su responsabilidad en el grupo. La tecnología ha provocado la aparición de otra variante: el estado de red. Ha aparecido la “personalidad reticular”, un “yo reticular” en el que la autonomía personal queda devaluada. Esta tendencia actúa sobre una previa devaluación, que el pensamiento postmoderno denominó “yo saturado”. Una saturación de relaciones sociales, que difuminaba la identidad, dando lugar apersonalidades ameboides”, indefinidamente plásticas, capaces de sobrevivir en cualquier entorno porque carecen de estructuras rígidas interiores. Lo explicó estupendamente Kenneth Gergen en El yo saturado. En el Holograma “El feminismo en su encrucijada” he comentado como las “ideologías trans y queer” defienden la indefinición de género y la incoherencia. Las redes sociales digitales han dado un paso más, favoreciendo la aparición de un yo vaciado, desparramado, divertido. Me parece especialmente adecuada esta última palabra: “divertirse”. Significa pasarlo bien con una actividad que le hace a uno salir fuera de sí, estar distraído. Enlaza con la “gamificación” como propuesta industrial y cultural. Además, el aprecio de la “sabiduría de las multitudes” se ha condensado en un dogma: “el conocimiento está en la red”. El individuo no tiene gran importancia. Kevin Kelly, editor de Wired, dice que ya no necesitamos a los autores, porque todo forma un solo libro global. Chris Anderson, también editor de Wired, dice que la ciencia debe dejar de buscar teorías que los científicos puedan entender, pues en cualquier caso la nube digital las entenderá mejor.  Más aún, no necesitamos científicos, porque la ciencia queda anulada por la agregación de datos. Los big dataque solo pueden manejar los ordenadores, sustituirán a la ciencia (Anderson, C. “The end of theory: the data deluge makes the scientific method obsolete”). Esto reduce la importancia de los individuos.  Yuval Harari concluye su visión del futuro afirmando que la tecnología puede hacer a la persona irrelevante. No hay que olvidar que cuando un sistema se eleva por encima de los individuos, se convierte en “totalitario”.  En la ideología fascista se decía: “El Estado lo es todo, el individuo nada”. Tal vez empezamos a pensar que la red es todo y su usuario nada. Es lo que piensa Jaron Lanier, un gran técnico y también un gran crítico de las redes, que ha acuñado la expresión “totalitarismo cibernético”.  Lo expone en Contra el rebaño digital (Debate) y en Diez razones para borrar tus redes de inmediato (Debate). En las redes sociales, escribe Villasante,lo más importante son las relaciones, no los sujetos que soportan las relaciones, no el conjunto total de la comunidad o del campo considerado, sino cómo se mueven los vínculos, las confianzas entre unos y otros” (Villasante, T. (2010). Redes sociales para la investigación participativa. Sociedad Hoy (18), 109-129). La idea de que todo está en la red, disminuye también la importancia de la memoria personal y, como esta memoria es el núcleo de la inteligencia humana, disminuye también la capacidad cognitiva. En 2011, Betsy Sparrow y sus colegas publicaron un llamativo artículo en Science: “Google effects on memory: cognitive consequences of having information at our fingertips”.  El “efecto Google” es la tendencia a no guardar en la memoria información que podemos encontrar fácilmente en Internet. Los motores de búsqueda actuales son tan eficaces que se extiende la idea de que ya no hace falta recordar o aprender nada. Basta con saber dónde y cómo encontrar la información. Barr y Pennycook (The brain in your pocket: Evidence that Smartphones are used to supplant thinking) han mostrado que quienes usan más el móvil como ayuda para resolver problemas suelen ser los que tienen más dificultad o menos interés en el pensamiento analítico, que es costoso.
  • ¿Hay una conspiración en contra del ser humano? No lo creo. Lo que está funcionando en esta infiltración de la tecnología en nuestro modo de pensar y de vivir es lo que he denominado “el triunfo de Skinner”. La tesis principal de este psicólogo -el más influyente del siglo XX, según la mayoría de las estimaciones- es que el comportamiento humano está determinado por el sistema de refuerzos positivos o negativos que proporciona el entorno, por los premios y castigos. Pensaba que la aplicación masiva de las técnicas de modificación de conducta podría dar lugar a un mundo ideal, que describió en su novela Walden 2. En Más allá de la libertad y de la dignidad, mantuvo que la idea de un sujeto autónomo y libre era precientífica, y que venerarla había impedido resolver los problemas sociales por medio de técnicas de ingeniería social. Si lo que queremos es una sociedad justa y feliz, concluía, debemos prescindir de la idea de libertad. La gente puede comportarse bien sin necesidad de hacerlo libremente. Basta premiar la bondad y castigar la perversidad. La libertad queda entonces reducida a su propiedad menos respetable: la capacidad de equivocarse. Es decir, una imperfección.

 El humanismo de tercera generación que necesitamos tiene que reformular el papel del hombre en el cosmos,

ahora que está en condiciones de rediseñar la evolución humana.

La Red supone el triunfo de Skinner. porque, como él quería, es un gigantesco modificador de conductas, voluntaria y gratamente aceptado. Siva Vaidhyanathan escribe que Facebook engancha como una bolsa de patatas fritas: ofrece placeres frecuentes y banales. Rara vez involucra nuestras facultades críticas con la profundidad que demanda la articulación consciente de la experiencia. Podríamos conectarnos a Facebook en un momento de aburrimiento y levantar los ojos una hora después, preguntándonos dónde se fue esa hora y por qué la hemos gastado en una experiencia tan poco interesante y a la vez no desagradable”. Además de estos placeres banales, la tecnología nos proporciona grandes satisfacciones y comodidades. ¿Qué mas da que estemos enganchados a esos premios? En realidad, ¿por qué valoramos la libertad? Porque pensamos que nadie como nosotros mismos sabe lo que nos haría felices. Si otra instancia puede proporcionarnos la felicidad, la libertad resulta superflua. Dentro de poco, mi “asistente personal” conocerá mis deseos mejor que yo.  Con razón, Evgeny Morozov, experto en tecnologías digitales, afirma: “El verdadero santo patrón de “internet” es B.J. Skinner. En 1548, Étienne de la Boétie escribió un famoso libro: “Tratado de la servidumbre voluntaria”. Un libro que resulta muy actual.

Esta es la situación, que plantea serios problemas sociales y educativos. La tecnología tiene su dinamismo propio, difícil de regular. Y sin duda proporcionará grandes beneficios a la humanidad. La cuestión mas urgente es definir cómo debería ser la inteligencia humana para utilizar la tecnología sin necesidad de diluirse en ella. Una realidad aumentada, necesita una inteligencia aumentada. Intentar resolver ese problema es el objetivo del Proyecto Centauro, que pronto verá la luz. Frente a las tendencias que fragmentan al sujeto humano, le convierten en ameboide, le diluyen en redes, defiende el “pensamiento débil”, que lleva aparejado el “sujeto débil” también (Vattimo), la solución que propongo es un fortalecimiento del sujeto, de su pensamiento critico, de su capacidad para tomar decisiones, aprovechando los recursos de las nuevas tecnologías. La educación no puede consistir en un despliegue de “inteligencias múltiples”, de “destrezas del siglo XXI”, sino en la configuración de un sujeto integrado, que gestione ejecutivamente esas capacidades, y que determine con precisión sus criterios de evaluación. Los ordenadores pueden manejar datos, pero hasta este momento la única fuente de valores es la inteligencia humana. El humanismo de tercera generación que necesitamos tiene que reformular el papel del hombre en el cosmos, ahora que está en condiciones de rediseñar la evolución humana.


2 Comments

  • Víctor Gabaldón dice:

    Profesor Marina, ¿cómo debo entrenarme y qué debo aprender para no convertirme en “ameba” sino en “Centauro” y así poder ayudar a otros?
    .
    Hace un tiempo que leo cosas suyas y siento que los conceptos se van entrelazando, gravitando hacia el centro de su sistema filosófico: una teoría de la inteligencia que termina en la ética.
    .
    El último párrafo de este holograma suyo titulado “Singularidad” encapsula muchas ideas que reverberan conmigo, pero todavía estoy en la superficie del conocimiento.
    .
    Aquí y allí voy tropezando con cosas suyas. El libro “Biografía de la Humanidad” mientras deambulo por una librería. “Inteligencia Fracasada” entre libros de una estantería de comedor en casa de un familiar que no lee. Su rostro en la televisión hablando de la importancia de la memoria en la educación, mientras como con mis padres, ya jubilados.
    .
    Quizá es que le estoy buscando o quizá es que intuyo bondad en usted. Todavía no sé expresarlo muy bien con palabras. Aunque me quedé a las puertas de la Universidad, quiero aumentar mis posibilidades para ayudar a que no fracasen aquellos que tienen ilusión por aprender.
    .
    Si su ‘Proyecto Centauro’ requiere de ayuda, en la medida de mis posibilidades, me gustaría colaborar. Estoy ansioso por saber más.
    .
    Aprovecho para difundir que en su página personal hay una opción de búsqueda magnífica para encontrar artículos suyos. Este es el enlace: https://www.joseantoniomarina.net/articulos-en-prensa/
    .
    Muchas gracias profesor Marina por cultivar este huerto que nos hace crecer a muchos y por danzar por la cultura con tanta elegancia.
    .
    Víctor Gabaldón

    • jose antonio marina dice:

      Estimado amigo, gracias por su correo. Es una suerte tener lectores como usted. Tiene razón al decir que todas las cosas que escribo están relacionadas. En filosofia como en las demas ciencias no tienen valor las ocurrencias aisladas, sino las que se integran dentro de un sistema. Estoy muy ilusionado con el PROYECTO CENTAURO y dentro de un mes aparecerá una primera versión.

Leave a Reply