Codificarea acelorași prejudecăți Inteligența artificială cu limitări în răspunsul la coronavirus
Pe măsură ce pandemia de coronavirus persistă, implicațiile socio-economice ale rasei și genului în contractarea COVID-19 și moartea din cauza acesteia au fost dezvăluite. Inteligența artificială (AI) joacă un rol esențial în răspuns, dar ar putea exacerba și inegalitățile din cadrul sistemelor noastre de sănătate - o preocupare critică care atrage înapoi limitele tehnologiei în lumina reflectoarelor.
Răspunsul la criză a fost în multe moduri mediat de date - o explozie de informații folosite de algoritmii AI pentru a înțelege și a aborda mai bine COVID-19, inclusiv urmărirea răspândirii virusului și dezvoltarea intervențiilor terapeutice.
AI, ca și creatorul său uman, nu este imun la prejudecăți. Tehnologia - concepută, în general, pentru a digera volume mari de date și a face deducții pentru a sprijini luarea deciziilor - reflectă prejudecățile oamenilor care o dezvoltă și îi alimentează informații pe care le folosește pentru a scuipa rezultatele. De exemplu, în urmă cu ani, când Amazon a dezvoltat un instrument AI pentru a ajuta la clasarea candidaților la locuri de muncă, învățând din angajările sale anterioare, sistemul a imitat tendința de gen a factorilor de decizie prin retrogradarea CV-urilor de la femei.
„Am văzut că AI este utilizat pe scară largă înainte de COVID-19 și, în timpul COVID-19, ați observat o creștere a utilizării unor tipuri de instrumente”, a spus Meredith Whittaker, un om de știință de cercetare distins la Universitatea din New York din SUA cofondator al AI Now Institute, care efectuează cercetări examinând implicațiile sociale ale AI.
Instrumentele de monitorizare pentru a ține cont de lucrătorii cu guler alb care lucrează de acasă și instrumentele educaționale care susțin că detectează dacă elevii înșală la examene sunt din ce în ce mai frecvente. Whittaker spune însă că cea mai mare parte a acestei tehnologii nu este testată - iar unele s-au dovedit a fi defecte. Cu toate acestea, asta nu a împiedicat companiile să își comercializeze produsele ca remedii pentru daunele colaterale cauzate de pandemie, adaugă ea.
În SUA, de exemplu, un dispozitiv medical compact, numit puls oximetru, conceput pentru a măsura nivelul de oxigen din sânge, avea unii pacienți cu coronavirus lipiți de micile sale ecrane pentru a decide când să meargă la spital, pe lângă utilizarea sa de către medicii pentru a ajuta la luarea deciziilor clinice în spitale.
Cu toate acestea, modul în care funcționează dispozitivul este predispus la prejudecăți rasiale și a fost probabil calibrat pe utilizatorii cu piele deschisă. În 2005, un studiu a arătat cu siguranță că dispozitivul „a avut tendința de a supraestima nivelurile de saturație (oxigen) cu mai multe puncte” pentru persoanele care nu sunt albe.
Problema cu dispozitivul cu oximetru de puls este cunoscută de zeci de ani și nu a fost remediată de producători, spune Whittaker. „Dar, chiar și așa, aceste instrumente sunt folosite, produc date și aceste date vor forma algoritmi de diagnosticare care sunt folosiți în îngrijirea sănătății. Și așa, vedeți, chiar și la nivelul modului în care sunt sistemele noastre de IA. construite, codifică aceleași părtiniri și aceleași istorii ale rasismului și discriminării care sunt prezentate atât de clar în contextul COVID-19. "
Între timp, pe măsură ce corpul de dovezi se acumulează că persoanele de culoare sunt mai predispuse să moară din cauza infecțiilor cu COVID-19, diversitatea nu s-a reflectat neapărat în ansamblul studiilor clinice botezate pentru a dezvolta medicamente și vaccinuri - un model tulburător care a precedat de mult pandemia. Când vine vorba de diversitatea de gen, o recenzie recentă a constatat că din 927 de studii legate de COVID-19, mai mult de jumătate au exclus în mod explicit sarcina, iar femeile însărcinate au fost excluse în totalitate din studiile cu vaccin.
Rezultatele produselor din aceste studii clinice nu vor fi neapărat reprezentative pentru populație, notează Catelijne Muller, membru al unui grup de experți la nivel înalt al UE în domeniul AI și cofondator al ALLAI, o organizație dedicată promovării AI responsabile.