De quina manera la IA discrimina grups de població? Quines són les implicacions per a les categories de raça, gènere i sexualitat? Aquests han estat alguns dels interrogants que s’han plantejat al seminari “Discriminacions algorítimiques” coorganitzat pel CCCB i el projecte europeu Algorithmic Societies sobre els impactes socials de la IA, i que s’ha celebrat en el marc dels debats “Societats algorítmiques : Ètica i política a l’era de la intel·ligència artificial”, que han tingut lloc els dies 21 i 22 de novembre.

Aquest seminari internacional, moderat per Jordi Pérez Colomé, periodista d’El País especialitzat en tecnologia, ha comptat amb la participació d’experts internacionals en la matèria, com ara Thao Phan (Universitat Monash), Scott Wark (Universitat de Kent), Rocco Bellanova (Universitat Lliure de Brussel·les) i Carlos Castillo (ICREA-Universitat Pompeu Fabra), a més de la participació d’Adrián Arnaiz i Piera Riccio, dos investigadors predoctorals de la Fundació Unitat ELLIS Alacant, l’única fundació a Espanya dedicada a la investigació d’excel·lència a IA centrada a les persones.

Tant l’Adrián com la Piera, són uns dels 5 investigadors becats per la Fundació Banc Sabadell per a la realització del seu doctorat, en concret, l’Adrián estudia la justícia de la IA, la causalitat i la teoria de grafs per millorar l’ètica, la responsabilitat i la transparència en la presa de decisions algorítmiques; i la Piera, se centra en com la IA pot influir en com són interpretats els cossos de les dones i en la censura d’aquests algoritmes a les xarxes socials.

Durant el debat, s’ha reflexionat sobre la discriminació existent en els algoritmes, des de les tècniques de clusterització fins als sistemes de vigilància racialitzada passant per la discriminació a les aplicacions de cerca de feina, que generen i perpetuen noves formes de divisió social. Sens dubte, cal una reflexió sobre els valors que estan configurant les aplicacions de la IA. Quin és l’origen dels biaixos que impregnen els algoritmes? A quins interessos responen?

Per a continuar amb el debat i la reflexió, i aprofundir en la matèria, el CCCB amb el Barcelona Supercomputing Center – Centre Nacional de Supercomputació (BSC-CNS) ha produït l’exposició IA: Intel·ligència artificial, que compta amb la nostra col·laboració, i que planteja una mostra interactiva sobre la història, el funcionament, les possibilitats creatives i els reptes ètics i legislatius de la intel·ligència artificial avui. Interrogants necessaris en un context en què aquesta tecnologia està creixent ràpidament i que s’ha introduït de forma directa a les nostres vides. Com apropar-nos a la IA de manera racional? Com es planteja el futur d’aquesta tecnologia? Tot això i molt més fins al mes de març al CCCB!