DADESS, programant la justícia algorítmica
Col·lectivat
Forma jurídica: Cooperativa de treball
Sector: Tecnologia, cultura
Àmbit: Tecnologies
Any d'inici del projecte:2017
Nº de treballadores:5
Número d'entitats participants:1

 Web de Col·lectivat: 

https://collectivat.cat/

 

 Web del projecte dadESS: 

https://dadess.cat

https://open.dadess.cat

Cooperativa sense ànim de lucre formada per professionals de l’àmbit del coneixement que proporciona serveis integrals de traducció cultural, i de recerca i serveis tecnològics, per al treball col·laboratiu i lingüístic.

D’on neix el projecte i quines necessitats detecteu?

Les entitats de l’Economia Social i Solidària majoritàriament desconeixen el potencial del món de les dades que poden ser útils tant per millorar els serveis que s’ofereixen com per posar en valor els valors i la missió de l’ESS a partir d’una anàlisi d’aquestes que permeti crear algoritmes que siguin justos i reconeguin les diferents desigualtats que normalment s’obvien alhora de crear algoritmes.

Parleu d’algoritmes justos, en què consisteix la justícia algorítmica?

Un algoritme és un conjunt d’instruccions o regles definides i no-ambigües, ordenades i finites que permeten, típicament, solucionar un problema, realitzar un còmput, processar dades i portar a terme altres tasques o activitats.

Qualsevol informació/anàlisi o producte tecnològic (com models d’aprenentatge automàtic) que generem dins d’aquest món de dades hauria de considerar els efectes de la societat en diversos àmbits com per exemple la desigualtat de gènere. L’anàlisi de dades des de la creació d’algoritmes de forma hegemònica no té en compte les desigualtats que son ja existents a la societat d’on extraiem les dades i s’acostuma a processar dades sense una visió crítica que implica aquesta consciència que les dades de les que partim per extreure informació estan plenes de desigualtats reproduïdes socialment.

La justícia algorítmica també és aplicar aquest ús de les dades a l’activisme per visibilitzar situacions de conflictes a partir de les dades, com podrien ser la recopil·lació de les convocatòries per aturar desnonaments a partir de sistematitzar la informació dels grups de telegram on es comparteixen aquestes informacions; en aquest cas vam processar la informació d’aquests canals de comunicació (telegram i pàgina web de la PAH) i vam adjuntar les dades per estructurar-les automàticament i poder-les visibilitzar.

Com s’exemplificaria un cas d’ús de dades sense aquesta visió crítica?

Una empresa que vol automatitzar el procés de selecció de candidats per una feina: miren els casos anteriors i diuen “aquest candidat té més possibilitats de ser un enginyer”, perquè l’algoritme contempla un percentatge baix de presència d’enginyeres i ja donarien per fet que la millor selecció seria la d’un home perquè l’algoritme es basa amb l’anàlisi de les dades que ha recollit sense aquesta mirada crítica.

Un altre cas molt actual pel nostre àmbit és els algoritmes que utilitzen les empreses de repartiment, Glovo, Deliveroo, Stuart etc. Quan els «raiders» diuen  #GlovoNosMata, estan parlant precisament que els algoritmes decideixen qui va a quin repartiment i amb quina rapidesa haurien de fer-ho per seguir rebent les comandes. Evidentment, aquest algoritme posa el benefici de l’empresa davant de les vides dels raiders. Com a sector d’ESS hauríem de ser capaços de donar una resposta alternativa justa, equitativa i sobretot que respecti les vides de les treballadores.

Com treballeu per poder fer aquesta mirada crítica del processament de dades?

Treballem amb altres professionals especialitzades amb temes de gènere, ambientals, antiracistes…que, juntament amb el coneixement propi del processament de dades que tenim des de Col·lectivat, ens permet apropar-nos a la justícia algorítmica.

És un projecte intercooperatiu per tal de fer de les experteses de les professionals ubicades a diferents àmbits sigui projecte integral que permeti millorar el sector de l’ESS.

Una altra manera de fer que caracteritza l’ús de les dades, i que creiem que és d’interès, és que tot el coneixement que generem és obert a la comunitat, amb anàlisis reutilitzables i escalables. L’ESS es caracteritza per valors cooperatius que les tecnologies modernes sovint no apliquen i la nostra proposta és generar un model tecnològic que els contempli.

I el projecte DADESS (Dades de l’Economia Social i Solidària) en concret, en què consisteix? 

És una plataforma de dades obertes que té com a objectiu la dinamització de les entitats de l’ESS mitjançant la cocreació d’un ecosistema i la copropietat d’una plataforma d’allotjament i la gestió de dades obertes; i també contempla una oferta de serveis de consultoria sobre anàlisi de sòcies, gestió d’ingressos, definició i seguiment d’indicadors, “small data”, entre d’altres.

Podeu explicar algun exemple de què s’hi podria visibilitzar, a la plataforma? 

Un cas de mapeig de cooperatives per sectors, per exemple. Es podrien estandaritzar les dades d’interès d’aquestes i visibilitzar-les d’una manera estructurada amb accés obert.

De quina manera el projecte DadESS resol la necessitat de generar una justícia algorítmica i una aproximació de l’ús de dades des de l’ESS amb aquesta mirada crítica?

La plataforma DadESS parteix del coneixement obert a partir de visibilitzar-lo i fer-lo accessible a tota la comunitat.

DadESS també aporta al projecte la capacitació digital de les pròpies iniciatives de l’ESS perquè siguin les pròpies iniciatives les que puguin respondre a les seves necessitats de gestió i d’anàlisi de dades, a partir dels serveis de consultoria que s’ofereixen des de DadESS. Aquesta aportació és clau en el món de les dades, perquè les consultories tradicionals grans que treballen en l’ús de les dades acostumen a fer-ho amb una metodologia molt unilateral, diuen que saben el que fan i que les empreses amb qui treballen han d’escoltar; des de DadESS escoltem les necessitats de les entitats i les capacitem perquè puguin resoldre-les elles mateixes.

L’objectiu, doncs, és apropar a les entitats de l’ESS aquesta metodologia de l’ús de dades perquè faciliti millores dels serveis i del funcionament de la cooperativa tot respectant els valors de les iniciatives.

Quins creus que són els elements claus perquè aquesta experiència funcioni?

El primer pas és tenir la intenció per part de les iniciatives d’ESS, d’entendre com funciona la seva activitat i voler fer-hi millores. No cal saber, inicialment, que és el que es vol mirar, perquè el procés d’assessorament també ajuda a identificar quines dades té sentit de sistematitzar i quins indicadors es poden construir que puguin millorar el funcionament de l’entitat, les condicions de les treballadores i/o els seus resultats en base a valors definits. Per això amb la col·laboració de LabCoop i Coopdevs estem desenvolupant un projecte que inclou una eina d’autodiagnosi. Volem facilitar la detecció de les necessitats d’una entitat d’ESS per obrir una porta a les possibilitats de millora de la seva activitat, específicament relacionats amb el tema de digitalització i ús de dades.

També és necessari treballar amb eines vinculades a la sobirania tecnològica, eines obertes que permetin compartir el coneixement amb la comunitat, així quan una cooperativa que fa ús d’aquestes eines aporta millores a l’eina les altres cooperatives també ho poden gaudir.

Quan parlem d’obrir coneixement no sempre parlem dels fulls de càlcul, sinó també del coneixement qualitatiu, com aquesta pròpia entrevista.