Entrevista a Emiliano Treré: “En un mundo donde los
algoritmos están aquí, hacen parte de nuestra vida e influyen en nuestras
decisiones diarias, la resistencia está en lo cotidiano”
Silvina Mentasti
Licenciada en Comunicación Social
(UNICEN). Se encuentra realizando la Especialización en Comunicación Digital de
la UNLP. Ha trabajado en el campo de estudios donde confluyen la comunicación y
la mediación tecnológica en el marco de la línea de investigación Mediaciones
Tecnológicas y Comunicación Digital (MT&CD - NACT ECCO) radicada en la
Facultad de Ciencias Sociales, UNICEN.
Martín Mozotegui
Periodista (UNICEN). Productor de
contenidos en Filo.news
Al momento de hacer referencia a los
fenómenos que atraviesan el campo comunicacional en la actualidad, resulta
inevitable mencionar los procesos de datificación que se pueden encontrar en
cada uno de los ámbitos de nuestra vida en sociedad. Dada la complejidad que
implica su abordaje en tanto aspectos teóricos a considerar, cuestiones
conceptuales y prácticas culturales cotidianas, los estudios sobre plataformas
y procesos de datificación se caracterizan por la interdisciplinariedad. A ello
hace referencia Emiliano Treré, investigador italiano, profesor de la Cardiff
University (Gales), quien se desempeña como co-director del Data Justice Lab y
es co-fundador de la iniciativa Big Data from the South, en la que trabaja
junto con Stefania Milan.
En este diálogo con RAC, Treré
repasa experiencias latinoamericanas y europeas de investigación de prácticas
culturales cotidianas en la sociedad datificada y nos invita a pensar
colectivamente para promover instancias de resistencia comunes, las cuales
resultan fundamentales para pensar desde el enfoque de justicia social y
derechos humanos que desarrollan desde el Data Justice Lab.
- En América Latina una parte de los discursos críticos en
torno a la expansión de los usos de las tecnologías digitales se referencia en
un proceso político de articulación de demandas relacionadas con la
comunicación y la información con enfoque en los Derechos Humanos. En Europa
parecería que los discursos tienen una mayor heterogeneidad de procedencias,
pero en todo caso lo que nos gustaría es que nos comentes cuáles son las
diferencias que encuentras en los discursos críticos entre Europa y América
Latina.
Es una pregunta muy importante y
también muy amplia. Muy ambiciosa por varias razones, la primera es que
claramente el contexto europeo tanto como el latinoamericano es heterogéneo en
el sentido de si hablamos de mirada latinoamericana siempre son muchos países
con varios enfoques y Europa es similar también con la complicación de que hay
varios idiomas. Entonces no se si se puede hablar de perspectiva europea o
latinoamericana, obviamente podemos analizar algo, eso sí, seguro que algo
podemos hacer. También tengo que decir que mucho de lo que trabajo yo de
perspectiva europea es en Reino Unido que tiene una relación muy rara con
Europa. Políticamente está en Europa pero por muchas razones quiso salir de la
Unión Europea, pero ese es otro capítulo, incluso diferente, y tiene rasgos
similares y algún desarrollo más anglosajón. Entonces yo creo que hay áreas de
desarrollo y creo que hay diferencias en cómo los países tratan las tecnologías
y los datos. Yo me ocupo mucho de tecnologías digitales pero sobre todo
cuestiones de datos, que sí incluyen y tocan temas digitales pero son un poco más
específicos.
Creo que hay una preocupación en
tanto derechos humanos que viene desde muy lejos, desde los 90 que se ha
extendido y se ha aplicado al mundo de los datos y de los algoritmos. Por otro
lado, ha surgido esta cuestión de que el Data
Justice Lab[1] es
uno de los sitios donde lo ha llevado y lo hemos incorporado desde la justicia
social en relación con los datos que es un enfoque, un área de investigación y
de preocupación alrededor de cómo se usan los datos y cómo se implementan
sistemas de datos que puede ser un área que se encuentra desde centros en
Holanda hasta nosotros pero también en Estados Unidos y otros centros de
América Latina. ¿Qué es lo que tenemos de diferencia? Tal vez pueda estar de
acuerdo con una mayor heterogeneidad de enfoques y más áreas que se solapan y
se cruzan pero creo que hay una especie de preocupación compartida por ir más
hacia el área de enfoques individualistas, un poco más centrados en lo que es
la privacidad. Osea es un tema más, de hecho es un abanico de temas que se van
juntando, pero tal vez lo que hay más a nivel europeo pero que también he visto
en Estados Unidos son más intentos de reaccionar a posteriori, cuando el daño
ya se ha producido y después de la implementación de un sistema. Y esto abarca
desde Colombia, Uruguay, Brasil a Argentina… Entonces en lugar de reaccionar
sólo después de que se ha operado y con muy pocas posibilidades de queja tal
vez por vías más legales se está difundiendo una sensibilidad diferente que
dice cómo pueden las ciudadanías estar involucradas en el proceso antes o
mientras tanto.
En Brasil sé que se ha desarrollado,
ahora en relación con la nueva ley de inteligencia artificial y datos, en una
discusión sobre cómo incluir algunas partes de la ciudadanía y qué tipo de voz
pueden tener en el proceso, pero eso fue resultado de algo conflictivo. No fue
algo que se tomó en cuenta desde el comienzo, como pasa muchas veces en Europa
también. Entonces es luchar contra la caja negra de esto, e incluso muchas
veces frenar u obstaculizar en contra del desarrollo de esto antes de que eso
suceda.
- Uno de los discursos que problematiza ciertos usos
tecnológicos que tiene presencia en Europa, y en el que vos estás inscrito de
alguna manera como coordinador del Data
Justice Lab, es el de la Justicia Social relacionada con el uso de los
datos. ¿Podrías comentarnos un poco sobre la génesis de este enfoque?
Esto se conecta mucho a lo que
acabamos de dibujar, la cuestión es que yo llego más tarde que mis compañeras
del Lab porque yo vengo desde el
activismo digital y de activismo de datos, después de haber estado casi 5 años
en México como profesor e investigador. Entonces yo llego allí desde el
activismo mientras mis compañeros del Lab
vienen de una cuestión vinculada a los estudios de vigilancia. Hubo un proyecto
sobre cibervigilancia, que tenía que ver con preocupaciones relacionadas con
todo lo que acaba de ser la desilusión de lo digital digamos, no es que ellas
fueran entusiastas en este aspecto pero había una ola diferente. Luego se
siguió un poco con la ola activista del 2010/11 hasta el 2013 y luego vino el dark side, la parte de la realización de
que efectivamente no había nada emancipador en sí en estas nuevas tecnologías
pero el panorama era incluso mucho peor de lo que habíamos pensado.
Y ahí identificamos una urgencia de
repensar lo que hacemos, entonces ellas ven que hay un enfoque exagerado en el
individuo como centro de todo del debate, en el sentido que es quien tiene que
usar estos tipos de herramientas porque hay un tema de privacidad grande. Ahora
bien, el problema es estructural y es un problema de poder, entonces creo que
lo que se hizo fue un poco desplazar desde el individuo a la colectividad este
problema de los datos en la sociedad datificada porque es una cuestión de la
sociedad entera y es una preocupación de la sociedad entera.
Es una cuestión que nos toca a
todos, efectivamente los activistas son más conscientes pero no solamente los
activistas de los datos tienen que serlo sino que todo tipo de activismo ahora
pasa por los datos, y la cuestión de la justicia social es el marco conceptual
que nos parecía el más amplio, poderoso y flexible para poder reflexionar sobre
estos cambios en la sociedad. Sobretodo desde un punto de vista social y
sociológico porque somos todos investigadores sociales en el Lab, no es una
cuestión computacional, es una cuestión de cómo investigadores sociales podemos
reflexionar desde muchos puntos de vista, obviamente Nancy Fraser nos impactó
mucho pero puedo decirte muchos otros autores, hay otros enfoques relacionados
con políticas, otros enfoques vienen más de la comunicación para el cambio
social para el desarrollo. Nuestra concepción de justicia es muy amplia pero
pensamos que es una buena oportunidad para reflexionar sobre los cambios que,
repito, son mucho más grandes y tocan muchos más ámbitos y esferas sociales de
las que pensamos, es un cambio de paradigma.
- Dentro del Data
Justice Lab hay dos iniciativas que aportan elementos relevantes para
pensar los procesos de datificación de nuestras sociedades. La primera es el Data Harm Record que proporciona un
registro continuo de los daños que han causado a individuos y poblaciones los
usos del Big Data. ¿Podrías
desarrollarnos esta idea de “daño de datos”? ¿Cuáles son los daños que se
registran con mayor frecuencia y si tienen registros de ello en América Latina?
Ese es un proyecto que se inició
desde Canadá y luego intentamos llevarlo un poco hacia el resto del mundo,
desafortunadamente no tuvimos suerte con un intento de ampliarlo a América
Latina aunque hemos tenido un par de
investigadores que sí han mirado cuestiones en Chile por ejemplo. Hay dos cosas
que quiero decir al respecto, la primera es que el intento de decir daños
digitales es un intento de decir que es mucho más material y concreto de lo que
parece, osea, los problemas que se originan en una sociedad datificada por
gestiones de sistemas de datos no son cuestiones marginales sino que son cosas
que pueden afectar la vida de las personas. La segunda es que son daños
multidimensionales, efectivamente hay un espectro donde hay algún daño que no
es tan significativo pero puede implicar no tener acceso a algún tipo de
servicio, desde la salud hasta cuestiones escolares (básicamente todos los
servicios en la sociedad datificada están permeados por estos sistemas). Por lo
tanto, el espectro es tan amplio que en el otro polo hablamos de gente que
puede ser encarcelada en forma injusta, o puede tratarse también de cualquier
tipo de decisiones que te dejen fuera de la Universidad o de tu trabajo, que
atentan también contra tu propia libertad y autonomía. Se trata de un espectro
con consecuencias que pueden ser muy extremas.
- Otra iniciativa del Data
Justice Lab es el “Big Data from the
South”, un proyecto para el intercambio teórico y empírico sobre los
desafíos de la datificación y la recopilación masiva de datos en el Sur Global.
¿Podrías comentarnos los principios teóricos, metodológicos y epistemológicos
en los que se sostiene, así como la apuesta política que orienta el enfoque?
Esta es una cuestión y una
preocupación que nació hace 5 años en Cartagena donde se dio una preconferencia
de comunicación y media research
donde tuvimos la oportunidad de hacer algo juntos con Stefanía Milán de la
Universidad de Amsterdam. De ser un pequeño evento pasó a ser algo muy grande,
muy participativo. Ahí nos vino esto de Big
Data from the South. Esa era una ocasión fantástica para juntar tanto académicos
y actores de ONGs para reflexionar un poco sobre lo que veníamos viendo en el
ambiente de datos donde tanto Stefania como yo ya llevábamos varios años
trabajando, que era esta tendencia bastante universalista y homogeneizante que
decía que los desarrollos eran bastante iguales. Se trataba de pensar a esta
datificación como algo que iba a pasar, algo inevitable, con muy poca atención
sobre culturas locales, un poco como lo que había pasado hace décadas con la
cuestión de los medios. Normalmente esta tendencia uniformadora viene de EEUU
entonces lo es también a nivel lingüístico. Entonces hay (y sigue habiendo) un
intento por romper estas miradas. En Latinoamérica desde Martín Barbero, Rosana
Reguillo por ejemplo… hay un intento por desafiar esa mirada única e incorporar
mucha más cultura dentro de esas visiones tecnicistas de datos.
Tuvimos más éxito de lo que
pensamos, se formó una comunidad muy amplia de miles de personas con un mailing donde hemos participado.
Queríamos algo menos en línea con la academia actual y fue con un blog
multilingüe que lo encontramos, eso es muy importante para nosotros. También
buscamos hacer sentir a la gente que tiene al inglés como lengua madre, bueno,
incluir una incomodidad de leer en otros idiomas.
Eso lo hemos llevado a otras alturas
con la explosión del COVID con un spin
off que se llama COVID 19 from the
margens. Lo que hicimos en este proyecto fue pagar a gente para que
contribuyese al blog con voces y nos contara qué es lo que estaba pasando con
la relación entre datos, tecnología y pandemia en sus propios lugares. Estamos
hablando de aproximadamente 75 autores con 7 u 8 idiomas que al final
terminaron un libro de acceso abierto. Y esa es la otra cuestión porque el
conocimiento de esta red no puede estar cerrado. Por eso nos pareció
fundamental que todo lo que hacemos sea de acceso abierto y creo que el 95% de
las otras publicaciones analizadas son también de acceso abierto.
Y si bien hemos tenido muchos éxitos
con la red, ello no se ha traducido en poder obtener fondos para sustentarla,
por lo cual es un poco complicado ahora. Sigue viva pero no tan viva como nos
gustaría debido a nuestros pendientes con otros proyectos y otras cuestiones,
es una cuestión viva pero menos financiada de lo que habíamos esperado. A nosotros
nos parecía algo super urgente financiar algo de este tipo pero hemos tenido
menos éxito del que pensábamos.
- Al respecto de la parte del activismo que mencionaste…
hemos notado que en varios artículos has recuperado experiencias de crítica,
resistencias y activismo político que tienen como herramienta de lucha o como
objetivo las tecnologías digitales. De esas experiencias tratas de recuperar el
potencial emancipador que puede tener la politización del uso de las
tecnologías. En torno a esto queríamos consultarte si del mismo modo que se
desarrollan estas experiencias críticas “de izquierda” o “progresistas”,
encontramos la proliferación de apropiaciones por parte de grupos reaccionarios
de derecha que utilizan las tecnologías para impugnar la presencia y
circulación de los discursos de ciertas subjetividades (de género, etnia, etc.)
mediante los discursos de odio (por ejemplo). ¿Cómo analizas estos fenómenos?
Por un lado eso se conecta a lo que
acabamos de decir sobre el entusiasmo digital que desde el 2013 con los
movimientos nos encontraba más entusiasmados a nivel del potencial de las
tecnologías. Ahora, al contrario, vivimos en una problemática temporal, muchos
son demasiado apocalípticos en torno a eso. Entonces yo recuperaría un realismo
y un pragmatismo digital que tiene en un centro la concepción de ambivalencia.
Es muy naif pensar que no puedan ser
utilizadas, de hecho lo son de forma muy efectiva por el poder y por grupos
reaccionarios que han sido grupos de derecha, racistas, antiderechos humanos.
Esta constelación terrible que es increíble en usar las herramientas de la
cultura digital, se han apropiado muchísimo, desde los memes, incluso la
ultraderecha escandinava usa memes con fines propagandísticos o con una especie
de propaganda computacional que se basa en gestiones de algoritmos muy
efectivas y sofisticadas que yo empecé a ver mucho antes de Trump. De hecho la
encontré en 2010 en las campañas mexicanas, luego la estudié en el libro y
América Latina siempre fue adelantada tanto en la protesta social de la
izquierda más radical pero también en la represión y el discurso de odio como
han mencionado.
Me temo que era muy adelantado
también desde hace más de 10 años en intentar manipular la opinión pública e
intentar introducir sesgos, problemas, conflictos y/o fricciones intentando
contaminar la protesta social para que parezca diferente a la opinión pública.
En un mundo donde se juega mucho de
la política en este ámbito digital o datificado eso es lo que nos toca,
entonces es profundamente ambiguo el discurso. Pero tampoco queria caer en
nuevos catastrofismos apocalípticos que dicen que la resistencia no existe o
que los espacios de autonomía son completamente obliterados. Hay resistencia y
es viva y vibrante, porque está en todas partes. Dado que no hay casi ningún
espacio que quede sin el dominio o la infiltración de lo que son algoritmos y
datos, nacen nuevas formas de resistencia dentro de las brechas, algunas más
efectivas y algunas menos, y no son cuestiones de activistas sino de todos
nosotros. En algunos casos los activistas son más conscientes de lo que están
haciendo.
Junto con Tiziano Bonini de la
Universidad de Siena acabamos de escribir un libro que se publicará a comienzos
del año que viene con el MIT Press
que trata de la resistencia algorítmica en diversos ámbitos, desde los
influencers hasta los que te llevan la comida, hay casos cada vez más
problemáticos, lo acabamos de ver con lo que pasa con Uber.
En un mundo donde los algoritmos
están aquí, hacen parte de nuestra vida e influyen en nuestras decisiones
diarias, la resistencia está en lo cotidiano. Existe y hace bien esperar pero
tenemos que hacer lo máximo para hacer que florezca. También hacemos una
diferencia entre resistencia a los algoritmos y resistencia a través de los
algoritmos: en el primer caso se da cuando asociaciones, organismos y ONGs
luchan en contra de sistemas de datos injustos que han sido implementados desde
el estado. A través de los algoritmos, en cambio, la lucha está en las redes
sociales, en las aplicaciones, cuando intentamos buscar maneras de vivir mejor
dentro de estos espacios cada vez más algorítmicos a través de otros espacios
de construcciones de solidaridad, a través de compartir tricks para poder estar mejor. Es una lucha contra las plataformas
y eso pasa a diario. Desde nuestro trabajo etnográfico de 2 años hemos visto
que es una cosa que está en todas partes, en todo tipo de industria, en todo
tipo de campo o de ámbito social.
Es todo más ambivalente, más impuro
y menos apocalíptico de lo que pareciera, yo creo que esto nos sirve también
para imaginar futuros diferentes porque sin ningún tipo de esperanza en esta
visión apocalíptica que a veces domina es difícil, tenemos que reivindicar un
poco de esto. Siempre siendo realistas y pensando en esta ambivalencia, que es
una ambivalencia que caracteriza también al activismo y siempre lo ha
caracterizado.
Es importante, finalmente, destacar
que la lucha tiene que llegar a todos. El punto es que no es una cuestión nada
más de activistas de datos, tiene que llegar a los bares, al mercado, tiene que
ser transversal sino termina siendo una reacción a algo que no cambia
estructuralmente las cosas. Junto con la conversación acerca del cambio
climático que es la más urgente, es algo que nos toca a todos.