El dilema social
Buenas:
Esta semana, después de recibir un montón de recomendaciones de diferentes amigos y amigas, por fin pude sentarme y ver el documental “The Social Dilemma” (“El dilema social” en castellano) que ha sido recientemente publicado en Netflix.
¿De qué va la historia?
La premisa es sencilla: juntas a un montón de ingenieros y directivos de las principales empresas de software que, actualmente, manejan nuestra vida digital (los Google, Facebook, Twitter y demás) y les dejas que te expliquen la realidad detrás del diseño de las mismas, en particular cómo dicho diseño tiene, en su origen, un minucioso estudio de la interacción de los usuarios con la interfaz y sus funcionales para, simplemente, retenernos el máximo tiempo posible y, de paso, mientras apretamos iconos o escribimos cosas, hacer dinero en el proceso.
Esto no es nuevo...
No, esto no es nuevo: esto se sabía, obviamente (llevamos años escuchando ejemplos de cómo lo hacen), pero cuando juntas a un montón de personas, algunas de ellas responsables de esas aplicaciones en primer lugar, la realidad es aterradora.
Y esa aterradora realidad es que, básicamente, somos ratas de laboratorio que, durante años, han sido condicionadas y manejadas para movernos a través de complicados laberintos digitales y, en ese proceso, se han producido una serie de efectos colaterales que nos llevan a las cosas que vemos estos días (radicalización del personal, que busca teorías conspirativas en todo y que, entre otras cosas, consigue que el Brexit salga adelante o que se vote a Donald Trump, por poner ejemplos muy claros).
La magistral narrativa
Para poder ilustrar lo que se cuenta, de forma práctica, representan las interacciones de una familia ficticia, donde se ve el uso de los teléfonos móviles por parte de los hijos, por un lado, mientras que en otra representación ficticia, y aquí esto me hizo sonreír, se personifica las diferentes elecciones que hacen los diferentes algoritmos al interactuar con los usuarios (interpretadas por el actor que personifica a Peter Campbell en "Mad Men", una serie que, curiosamente, revisité hace también unos días).
La parte del actor personificando a los algoritmos es maravillosa: se detalla el diálogo entre máquinas, representadas por diferentes versiones de los mismos en la pantalla, donde uno alerta de cómo el niño ha dejado de usar el teléfono mientras, el otro, sugiere notificaciones o contenido que pueda llamarle la atención y atraerle otra vez al dispositivo para, a continuación, ver como otro algoritmo negocia, en tiempo real, el precio que los anunciantes tendrán que pagar para poner en la pantalla un anuncio, basándose en toda la información que la aplicación está recopilando sobre ti.
La frase
El documental, además, hace transiciones entre las diferentes partes del documental utilizando frases de personas que saben algo de diferentes áreas de la tecnología o de la visualización de datos.
Una frase aterradora destaca, para mí, por encima de todas las demás: está firmada por Edward Tufte (el “dios” de la visualización de datos) y me hace sonreír y me aterra a la vez:
“Sólo los traficantes de droga y las empresas de software llaman a sus clientes usuarios”
La anécdota (al respecto de Edward Tufte)
Hace un par de años, la señora Paquito y yo estábamos hablando sobre visualización de datos y, precisamente, le hablé de Edward Tufte.
Para hacer la broma, cogí su teléfono (un teléfono Android: ya vamos mal) y utilicé el servicio de asistencia digital manejado por voz, diciendo simplemente:
Paquito: “OK Google: Edward Tufte”
El cacharrito me entendió perfectamente y, en su teléfono (importante) me devolvió la entrada en Wikipedia del señor, en la versión en castellano.
Sorprendido por esto (era su teléfono, que está programado para interactuar en inglés u holandés), la señora Paquito cogió el teléfono y repitió la misma operación, esta vez con su voz:
Señora Paquito: “OK Google: Edward Tufte”
El teléfono también la entendió y, a ella, en cambio, el teléfono (recordemos: en ambos casos, usamos SU teléfono) le devolvió la entrada en Wikipedia en inglés...
Lo hicimos un par de veces más y, aquí, o bien su teléfono entendió en mi acento que yo era español y ella (que tiene un inglés fantástico) no lo tiene, o esto es una de esas cosas que te deja con el culo torcido.
Lo hemos intentado hacer un par de veces más, tiempo más tarde, pero no ha vuelto a suceder... Lo único que sé es que, aquella noche, la señora Paquito no entendía el por qué a mí se me puso cara de señor a punto de hacerse un gorrito con papel de aluminio.
¿A qué acojona?
Pues sí, un poquito, porque una cosa es que sepas que, efectivamente, en el diseño de esas aplicaciones se utilizan según qué técnicas de usabilidad y otra cosa muy distinta es que tengan equipos enteros estudiando cómo utilizar el propio diseño de tu cerebro en tu contra para que te conviertas en un zombie pegado a la pantalla de tu ordenador, teléfono o tablet.
Hablando de traficantes de droga...
Una de las cosas que el documental se encarga muy bien de explicarte es cómo, la misma gente que diseñó todo esto (y que, hoy en día, siente remordimientos al ver al Frankenstein digital que han contribuido a crear) hace precisamente lo imposible por evitar todo aquello que saben que está ahí.
Esto incluye:
- Apagar todas las notificaciones del teléfono o dispositivos que utilizan.
- Un “presupuesto” de tiempo de uso en aplicaciones periféricas que no contribuyen a su trabajo o que no consideran fundamentales en su vida.
- Evitar las redes sociales.
- Prohibición absoluta de uso de teléfonos, tablets y aplicaciones de redes sociales a sus hijos.
Estos comportamientos, como puedes ver, tienen en común que concuerdan claramente con los principios que todo traficante de sustancias ilegales debería tener en cuenta:
- Céntrate en tus cosas y no dejes que nada te distraiga de lo que es importante.
- No consumas aquello que vendes.
¿Existe una solución a todo esto?
Me temo que no: las grandes empresas que se benefician de todas estas prácticas están enganchadas al dinero que todo esto que han creado produce: al igual que un drogadicto o, un camello, es muy difícil que dejen de usar o vender algo, cuando ese algo les aporta beneficios (uno sólo se plantea dejar algo como una droga cuando los efectos negativos empiezan a ser superiores a los positivos o cuando algo o alguien te obliga a ello).
La “economía de la vigilancia digital” mueve cientos de miles de millones de dólares y nadie va a dar ningún paso que les corte esa fuente de ingresos por sí mismos: como los estados no se pongan a regular lo que estas aplicaciones pueden hacer y lo que no, lo llevamos mal.
Te recomiendo que te empieces a plantear tu relación con la tecnología y que, sobre todo, sigas las recomendaciones de los señores que han diseñado todo esto y que, sabiendo lo que saben, toman las medidas necesarias para no sufrir las consecuencias.
Nada más: tengan cuidado ahí fuera...
Paquito
Emilio: sugerenciasapaquito (arroba) yahoo (punto) es
Twitter: @paquito4ever
Hola a tod@s y espero que os encontréis bien.
ResponderEliminar-Leído atentamente el post de Paquito es escalofriante.
Permitidme además echar algo más de hielo en la espalda. Si queréis sentir más aprecio por los algoritmos y la Algorítmica buscad, en Google claro, "Algorithms Knuth". Donald Knuth, del que tuve que aprender, placentera y duramente mucho, allá por los 70, empezó a publicar en 1973 una obra bellísima y total sobre los algoritmos. "Fundamental Algorithms". Aprendíamos a programar. En FORTRAN IV, en COBOL, en Ensamblador de IBM360, etc. Pero solo levantábamos un poquito la inmensa sábana de saber que se extendía sobre tanto texto.
Es muy probable que Google esté utilizando algoritmos muy potentes de reconocimiento de voz de forma tentativa, que averigüen en qué inglés (hay varios tipos de inglés, como de español) deseas que te conteste, no solo en un inglés standard. Quiero decir que Google también es una Red social, como FaceBook o Instagram, con algoritmos muy sofisticados.
Incluso demasiado.
Demasiado significa que en un sistema suficientemente grande y compuesto por capas independientes que ya dudo que nadie controle (el Frankestein) empiece a tener fines no determinados por sus diseñadores y/o propietarios y además presente Propiedades Emergentes, e.g. querer aprender o evolucionar fuera del diseño original.
¿Es posible?¿Es probable?
Para mí sí y sí.
Preguntároslo vosotr@s. No quiero aburrir. ¿Dejar Google?
Un abrazo enorme,
Pedro
Buenas:
EliminarGracias una vez más por la visita y el comentario: todo un placer :-))
Donald Knuth y su titánica obra (que sigue revisando y ampliando) son tótems de la informática.
Se puede dejar Google: yo uso DuckDuckGo!, que es muchísimo menos invasivo con respecto a tu privacidad...
Obviamente, todos estos buscadores tienen como base lógicas comunes (otra cosa es la sofisticación de la misma: la de Google, según parece, es varias veces el tamaño del Kernel Linux, es decir, tranquilamente unos cuantos gigabytes, sólo para correr el invento, sin contar la enorme cantidad de datos que tendrán para minar y entrenar / corregir la base algorítmica del motor de búsqueda).
Pero coincido contigo: hay un punto en el que la cosa adquiere tal dimensión y tal cantidad de datos que, probablemente, hacer ingeniería inversa de por qué el invento tomó tal o cual resultado sería complicadillo (se entienden las bases, obviamente, pero la cosa ya ha adquirido dimensiones desorbitadas).
De momento, apagar notificaciones y, lo que yo hice en su día: dejar atrás las redes sociales (son malas para el cerebro, en serio).
Un abrazote y mil gracias de nuevo por pasarte por aquí.