Transcribo este artículo por la importancia frente al tema que traté en la pasada entrada. La relación de las matemáticas en las plataformas está descontado, la perfecta articulación con nuestras elecciones personales y el desciframiento del funcionamiento cerebral constituyen una revolución aún difícil de entender para el común de los mortales, es muy interesante ahondar en este tema por la importancia significativa en lo absoluto de la vida.
VICENTE VERDU
La prescripción artificial en plataformas digitales
como Amazon, Netflix, Google o Facebook eleva el riesgo de homogeneizar la
identidad y los hábitos de consumo cultural.
Los lunes por la mañana,
los usuarios de Spotify reciben una lista de canciones personalizada que les
permite descubrir nueva música. De igual modo que los sistemas de recomendación
de Amazon, Google, eBay o Facebook, este cerebro artificial logra trazar un
retrato robot del gusto de sus suscriptores y construye una máquina de
prescribir que no suele fallar. El sistema se basa en un algoritmo cuya
evolución y usos aplicados al consumo cultural son infinitos. De hecho,
plataformas de streaming cinematográfico como Netflix empiezan a diseñar sus
series de éxito como House of Cards rastreando en el big data que generan todos
los movimientos de sus usuarios para analizar lo que les satisface. El
algoritmo construye así un universo cultural ajustado y complaciente con el
gusto del consumidor, que puede avanzar hasta llegar siempre a lugares
reconocibles. Pero ¿qué sucedería si la vida nos diese siempre lo que nos gusta
y nos rodease solamente de aquella gente que nos hace sentir bien?
El algoritmo, sostienen
sus críticos, nos hace aburridos, previsibles, y empobrece nuestra curiosidad
cultural
De algún modo, Internet y
las plataformas de streaming cultural han alumbrado un universo parecido al que
describía Borges en La biblioteca de Babel, donde podríamos encontrar casi
todas las obras existentes. Siguiendo los patrones tradicionales, solo deberíamos
en este nuevo mundo saber lo que queremos e introducirlo en el buscador. “Pero
en el caso de la música puede asustar. Es un mapa incompleto de lo que está
disponible”, explicaba en la última edición de Sónar +D Ajay Kalia, responsable
del departamento de trazar el perfil del gusto del usuario de Spotify. “Así que
pensamos que quizá podíamos interpretar ese mapa de la música para el usuario y
lo primero que descubrimos es que no existe una forma única de hacerlo. Es algo
muy personal, cada uno tiene el suyo. Y muchas veces son islas inconexas. Así
que lo que podemos hacer es trazar unas líneas entre ellas para que tengan
sentido para ti”, explicaba en relación con la construcción del taste profile.
Su sistema de
recomendación —quizá el más avanzado del mercado— se basa en nuestras
búsquedas, a qué géneros las asociamos, qué significa para nosotros jazz o soul
o a qué horas y días del año le damos al play a determinadas obras. El
resultado es tan dispar que en ocasiones es imposible que un algoritmo relacione
a Don Cherry y Ornette Coleman (nuestros héroes musicales) con La Chatunga de
Luis Aguilé (la arrebatada selección de nuestra suegra en la verbena de San
Juan). La mayoría de sistemas simplemente omiten entonces ese elemento
discordante y empiezan a cerrar el círculo del gusto en torno a lo más obvio
—aquello de “si le ha gustado x le gustará y”— o a lo más solicitado —en caso
de recurrir a búsquedas similares de otros usuarios—. Spotify ha logrado
establecer un círculo que incluye esa canción disonante y que esboza cómo, poco
a poco, la inteligencia artificial podrá superar al código y ser capaz de
aprender por sí misma.
Un experto defiende que
no es menos fiable que la “fórmula caótica que cada oyente ha ido inventando.
Ni menos humana”
Como estableció Pierre
Bourdieu en 1979 en La distinción (Taurus, 2012), el gusto ha sido durante años
el gran elemento de diferenciación social. Según su teoría, ese elemento nos
permite juzgar a los demás y, a la vez, ser juzgados. Nos da la posibilidad de
distinguirnos, clasificarnos e, inevitablemente, que nos clasifiquen también.
Nos coloca una etiqueta, incluso dentro de un mismo círculo: no pensaremos lo
mismo de alguien que sale de un concierto de la Cuarta sinfonía de Shostakóvich
que de otro que entra en un auditorio donde se interprete El Danubio azul, de
Strauss. Lo mismo que de un fan de Enrique Iglesias y otro de Neil Young. Una
reducción, en suma, similar a la que hace el algoritmo para reconocernos:
prejuzgar una identidad —en este caso, social y económica— basándose en
determinados elementos culturales que lleva asociados y que nos diferencian de
forma sistemática para, de nuevo, asignarle más capas de distinción.
Sin embargo, construir
una identidad a través de los hábitos culturales y de la investigación
cotidiana, obviamente, permitía exhibir un brillo que poco tiene que ver con el
que es capaz de otorgar una máquina. El algoritmo, sostienen sus críticos, nos
hace aburridos, previsibles, y empobrece nuestra curiosidad por explorar el
acervo cultural. Ramón Sangüesa, coordinador del Data Transparency Lab, ha
trabajado dos décadas alrededor del machine learning y la inteligencia
artificial vinculado al MIT. Puede ver sus ventajas, pero también los riesgos.
“Estos sistemas se basan en el pasado para predecir el futuro. La primera
dificultad es conseguir la masa crítica para que tengamos más datos y las
proyecciones sean mejores. Pero además corren el riesgo de quedarse en una
misma área de recomendación. En el consumo cultural, el peligro está en la uniformización
del gusto, lo que llamamos el filtro burbuja. Y así se van creando
comportamientos más estándares”, señala. Este fenómeno —descrito en el libro El
filtro burbuja, lo que esconde Internet por el fundador de Upworthy Eli
Pariser— se reproduce en redes sociales como Facebook, donde el usuario se ve
aislado en un entorno de información que el algoritmo deduce que querríamos ver
basándose en nuestros círculos de amistad y en el feedback de búsquedas
anteriores.
Ilustración: Setanta.ampliar foto
Ilustración: Setanta.
Justamente, el estudio
catalán Domestic Data Streamers presentó también en Sónar +D un proyecto
titulado Time Keeper basado en sortear el yugo del pasado y tratar de dilucidar
lo que apreciaremos en el futuro. “Hasta ahora el algoritmo sabe lo que haces,
lo que te gusta. Pero no por qué. Con este proyecto generamos un escenario
donde hay una conversación mayor entre la persona y la máquina”, señala Dani
Llugany, director creativo de la empresa. La evolución de este algoritmo
consiste en analizar el perfil de Spotify de cada usuario que participa y luego
añadirle un test psicológico para obtener información personal. Por último, se
le pide a cada persona que defina un momento que le gustaría vivir en el futuro
con una fecha concreta: ese día el usuario recibirá la canción perfecta para
esa circunstancia prevista. “Estamos acostumbrados a que una canción puede
transportarnos al pasado. Esto es lo contrario, buscar una vinculación entre la
música y el futuro”, remarca Llugany.
El algoritmo, sostienen
sus críticos, nos hace aburridos, previsibles, y empobrece nuestra curiosidad
cultural
La personalización de la
oferta podría cristalizar también en nuevos géneros musicales o literarios.
Amazon, el gigante de Internet, anunció hace un año que pagará a los autores
independientes en función del número de páginas que los lectores consuman de
sus obras. Si el libro no funciona, no cobran. Si funciona a medias, cobran a
medias. Algo parecido sucede en el mundo audiovisual, donde Netflix analiza 30 millones
de visionados al día para conocer los gustos de sus suscriptores: incluido
cuando usted rebobina, adelanta la imagen o la deja suspendida en pause. Todos
esos movimientos, también cuestiones de trama o tono narrativo, se monitorizan
y sirven para tomar decisiones de producción en series como House of Cards e
incluso para personalizar sus tráileres en función del perfil de sus
espectadores.
La cuestión, sin embargo,
es si los límites impuestos en el aprendizaje por los sistemas cerrados de
computación son equiparables a los errores y posibles estupideces que hemos
cometido durante años formando nuestro propio gusto. Eloy Fernández Porta,
autor de Emociónese así (Anagrama, premio Ciutat de Barcelona), no ve gran
diferencia. Según el escritor, antes de Spotify y fuera de él el gusto ya venía
determinado por criterios de accesibilidad, aceptabilidad, actualidad y
distinción. “Siempre hemos vivido la música en un algoritmo, lo que pasa es que
en vez de llamarlo ‘matemática’ lo llamamos ‘espontaneidad’. El algoritmo de
Spotify no me parece menos fiable que la fórmula caótica que cada oyente ha ido
inventando. Ni menos humana: cuando hace analogías erróneas o se empeña en
recomendar el primer disco de Vincent Gallo, nos está jugando las mismas malas
pasadas que nos juegan nuestras sinapsis”, señala.
De algún modo, Internet y
las plataformas de streaming cultural han alumbrado un universo parecido al que
describía Borges en La biblioteca de Babel.
Una posible diferencia,
sin embargo, residiría en el principio de buena fe o la manipulación. Filtrar
la información en redes como Facebook o en búsquedas a través de Google puede
configurar nuestra manera de pensar. Y ese es el problema principal, señala la
artista e investigadora en cuestiones de crítica tecnológica Joana Moll: la
ilusión de libertad de elección que muchas veces generan los algoritmos. “Tú
actúas en base a lo que te presentan, a lo que ves. Ese es tu mundo. Pero en
realidad marcan un patrón de consumo que te llevará a determinados lugares. El
algoritmo filtra una representación del mundo, y eso es aplicable a cualquier
plataforma”, señala.
En cualquier caso, el
otro gran interrogante que surge tiene que ver con la posible prostitución de
la prescripción, algo que ya ha sucedido en el terreno humano —véase bloggers,
instagramers y demás prescriptores patrocinados— y puede introducirse en los
criterios del algoritmo de forma artificial. Si lo que nos recomienda la
máquina sirve para vender determinados productos, ¿por qué no utilizarla para
favorecer a algunos artistas/empresas/ideologías? Ramón Sangüesa se encuentra
ahora mismo investigando sobre las herramientas que permiten saber por qué a
cada uno nos recomiendan determinados caminos por los que seguir transitando.
“Habrá criterios complementarios que pueden ir en beneficio de quien tiene la
propiedad de esa obra, por supuesto. Y esos criterios son bastante oscuros.
Esas empresas saben todo de mí, pero yo no sé con qué criterios me recomiendan
las cosas”. Y ahí, en parte, está la gracia del dichoso algoritmo.
No hay comentarios.:
Publicar un comentario