bueno china
China no me da ningún problema en particular. Me encanta la cocina china: son los mejores cocinando verduras. Su industria tecnológica es fabulosa. Los chinos compran muchos iPhones y las acciones de Apple suben.
Creo que la aspiración de China de que se reconozca el lugar que le corresponde en el mundo es correcta. Tiene una historia más larga que la nuestra. Y también estoy convencido de que existen razones históricas bien fundadas que llevan a los chinos a desconfiar de los occidentales.
Como escribió el joven Marx sobre Revista Renana, los chinos nunca perdonarán a los occidentales por lo que hicieron durante las guerras del opio en la era del imperialismo. Fue realmente atroz. Digo, pero ¿podemos, con la excusa del progreso, exportar una droga con diplomacia de cañón e imponer su uso con fines comerciales? Esto es lo que hicieron los británicos y sus aliados en China entre 1840 y 1860.
Difícil de olvidar, especialmente para un pueblo orgulloso como China. Y de hecho se nota, es China la que ahora quiere el liderazgo mundial.
mala china
Ahora, sin embargo, China está empezando a pensar un poco. Quizás está yendo demasiado lejos. Es singular porque el centro de gravedad de su cultura es la medida. ¿Es cruzar un Rubicón?
Este paso está representado por la tecnología de reconocimiento facial de la que menciono solo un episodio que me parece emblemático.
En Hong Kong (que ya es China) 84 escuelas primarias han instalado un software de inteligencia artificial (digamos, para simplificar) llamado 4 arbolitos (Cuatro Retoños). Hasta el nombre da vergüenza, parece Caperucita Roja en “salsa algo”.
Cuatro arbolitos plantados
Estos Quattro Alberelli, a través de la cámara de cualquier computadora, analizan los estados emocionales expresados por los rostros de los adolescentes y preadolescentes que siguen las lecciones desde casa.
¿Con qué propósito? El objetivo declarado es dar a los profesores información adicional sobre el rendimiento, la concentración y la motivación de los alumnos.
No pude averiguar si los niños saben que están siendo observados y analizados o si han sido informados sobre lo que está sucediendo. Creo que el 90% de ellos no lo saben. Pero creo que el 100% de los padres lo saben.
Se dirá, ¿qué tiene de extraño? En última instancia, lo mismo sucede en el aula. Un buen maestro que trabaja seriamente con los estados emocionales de los niños que tiene delante mejora su trabajo.
Aceptar. Pero, ¿queremos poner a un idiota del algoritmo con la persona que hace el trabajo más importante del mundo?
¿De qué sirve?
Digo, pero cómo se puede ser tan despistado -sólo para ser indulgente con esta iniciativa- dada la ambición del objetivo y la escasez de medios para lograrlo.
¿Cómo puede un software, aunque sofisticado, que utiliza una cámara fuera de cualquier contexto, interpretar correctamente la situación emocional y las expresiones faciales de un niño de doce años de Hong Kong? Primer punto. Lo hace de manera muy tosca, aunque los gerentes de proyecto dicen que lo hace bien el 80% de las veces. Pero supongamos que ese es el caso.
Las elaboraciones que produce el software, almacenadas en la nube en forma de informe, me imagino, son solo propiedad del docente o alguien más puede poner su cuenta también? ¿Quién puede estar seguro de que algún aparato entrometido no accede al sistema? No es una hipótesis tan improbable, porque en Hong Kong, como sabemos, todo está pasando y de hecho los ciudadanos de la gran ciudad se encuentran viviendo en un estado policial.
En definitiva estamos hablando de adolescentes, edades críticas, emociones y futuras generaciones. Las apuestas son altas.
el tiempo financiero
La fábula de los Cuatro Arbolitos tiene acceso a la imaginación de la redacción de Financial Times quien dedicó una página entera del diario titulada “Las herramientas de IA que intentan leer tu mente” al tema del reconocimiento facial y sus efectos.
Y luego volvió al mismo tema de AI emocional con un editorial de su director. Ahora al frente del órgano más ilustrado (yo añadiría) del capitalismo avanzado (diría Pajetta) está la periodista anglo-libanesa Roula Khalaf, la primera mujer en ocupar este cargo en 150 años de historia. Es bueno Financial Times!
El director del diario londinense pide enérgicamente la máxima cautela: "Los ordenadores no son lo mejor para juzgar las emociones". Pero sí, no se necesita un título de la Universidad de Columbia para decir eso.
También Shira Ovide, quien edita y escribe el boletín de New York Times sobre la tecnología, se hizo una pregunta aún más detallada "¿Alexa debería leer nuestro estado de ánimo?. Aquí está su respuesta.
¿Tenemos que preocuparnos?
De hecho, la tecnología de reconocimiento facial está empezando a asustar no solo al personal de la Financial Times. Siempre que se trate de desbloquear el iPhone, ahora incluso con una máscara (pero necesitas un AppleWatch, ¿pensaste?) o pagar un capuchino, está bien.
Pero otras aplicaciones de la Sistema de Reconocimiento Facial, especialmente aquellas que pueden ser utilizadas por los aparatos del estado profundo y los órganos de control social, empiezan a generar pesadillas.
¿Exagerado? El coraje, tal vez, no es tan serio.
La complejidad del metalenguaje
Dejemos de lado la tecnología por un momento y el posible uso no edificante del reconocimiento algorítmico de las expresiones faciales con fines de seguimiento emocional.
Me pregunto: ¿es realmente posible interpretar de manera inequívoca, y de tal manera que se construya una psicología, el significado de un mimetismo o la carga emocional de un conjunto de expresiones faciales en un contexto débil como el que detecta un cámara en el contexto de una relación a distancia, como es el caso de Hong Kong?
Con el estado actual de la tecnología es cuestionable. Aunque solo sea por la escasez de la tecnología actual y la grandeza de la tarea.
Como bien ha señalado el Financial Times cada cultura tiene sus propias expresiones faciales, cada comunidad se refiere a un sistema específico de signos emocionales, cada tribu tiene su propio lenguaje corporal. Es el contexto y el razonamiento lo que permite interpretarlos de manera significativa. Dos propiedades que el software actual no puede reproducir.
El metalenguaje es un asunto tan complejo que escapa incluso a las clasificaciones de los humanos, por no hablar de una computadora.
Wittgenstein y Sraffa
Todo el constructo lógico-filosófico del primer Wittgenstein se hizo añicos ante la incapacidad del gran pensador para llevar dentro de su esquema un gesto malicioso que le insinuó Sraffa durante un paseo por Cambridge. Wittgenstein era tan despiadadamente estricto consigo mismo y con su pensamiento como Sraffa era sofisticado y distante (ver la relación con el legado de Gramsci bien investigada por salvatore sechi).
Probablemente se trate de una leyenda urbana, pero lo cierto es que en un determinado momento el punto de vista de Wittgenstein sobre el mundo cambió repentinamente como él mismo admite honestamente en la Introducción a Investigaciones filosóficas.
Una cosa que nos puede consolar es que los algoritmos también, como el pensador vienés, son rigurosos y coherentes, al borde de la locura. Así que no van a fanfarronear si no vienen a hacer esa travesura.
el indiferente
¿Cómo evaluaría un sistema de algoritmos la carga emocional de una figura como la del pequeño empleado Meursault a partir de las expresiones faciales durante el juicio, la sentencia y la espera de la ejecución?El extraño de Luchino Visconti, 1967, sobre YouTube gratis). Ni siquiera sabía la razón de lo que había hecho. Era un extraño incluso para sí mismo.
Lo mismo ocurre con Michel en Carterista de Robert Bresson (1959, su Mubi, gratis 1 semana). Un personaje que está y que no.
Cómo descifrar el rostro (glacial) de Paul Newman en Muesca de mano fría (1967, en YouTube, alquiler) o en el (bromista) Matón )1961, hasta Chile a sueldo) o la del Sr. Ripley (estafador) en El talento del Sr. Ripley de Patricia Highsmith, llevada a la gran pantalla por Anthony Minghella (1999, sobre YouTube, alquiler)?
almizcle y pisa
Aquí necesitamos sensores cerebrales como los que está desarrollando Neuralank, uno de los moonshot di Elon Musk. ¡Esto es algo bastante diferente de la base de datos de siluetas faciales de Four Saplings!
Y no es el único que lo intenta, el incontenible Musk.
Algunos investigadores del Centro de Investigación Piaggio de la Universidad de Pisa han desarrollado un robot emotivo llamado Abel, similar en apariencia a un adolescente de 12 años. también habló de eso TG1 Hace unos días en horario de máxima audiencia en un generoso reportaje.
El rostro de este maniquí animado asume diferentes estados mímicos en relación con el estado emocional del espectador humano, cuyas expresiones corporales intenta interpretar. Parece un juguete grande, pero la tecnología subyacente de hardware y software es muy avanzada.
¿Que los chicos de Pisa lo hacen mejor que los chicos de Musk? ¡Seguramente!
La IA del futuro
Quizás los sistemas de inteligencia artificial de la post singularidad tecnológica estén a la altura de perfilar emocionalmente a las personas, como bien nos muestra la serie siguiente en Disney +, lamentablemente cancelado por falta de espectadores, pero lamentablemente un precursor que ya parte de su supuesto "Todos podemos ser hackeados".
Hoy en día es bueno que el reconocimiento facial siga siendo solo un "cool" para desbloquear el iPhone o pagar un brioche, porque un uso diferente solo daría lugar a malentendidos, errores, abusos y otras faltas cuestionables imputables al más crudo capitalismo de la vigilancia. tanto privados como estatales.
¡Que los Quattro Alberelli sigan siendo solo la promesa de un hermoso cuento de hadas! Por ahora solo necesitamos eso. Y que trabajen los de Pisa que dan menos miedo que los árboles chinos y los sensores de piel de Elon Musk (por ahora solo cerdos).
