Influențatorii spun că Instagram este părtinitor împotriva corpurilor de dimensiuni mari și că ar putea avea dreptate
Influențatorii de dimensiuni mari s-au plâns de mult de vreme ce postările lor sunt semnalate pe social media și există câteva motive pentru care s-ar putea întâmpla.
În 2018, influențatorul Katana Fatale se afla în Hawaii, la un duș în aer liber, iar lumina era pe măsură.
Ea și-a așezat telefonul pe un scaun, a pus cronometrul și a făcut această fotografie.
A împărtășit-o cu mii de adepți pe Instagram, unde postează și pledează pentru corpuri de dimensiuni mari din 2014.
"A avut o tracțiune uimitoare. M-am simțit atât de frumos", a declarat ea pentru BuzzFeed News. "Îmi amintesc că eram doar pe plajă și m-am dus să verific din nou și am apărut această alertă că a fost eliminată."
Deși era dezbrăcată, ea a urmat liniile directoare ale comunității Instagram, care interzic sfarcurile feminine, actele sexuale, organele genitale și prim-planurile feselor nud. Orice altceva, atâta timp cât nu arată aceste lucruri, este OK să se posteze. Compania permite imagini de alăptare și cicatrici post-mastectomie, precum și nuditate în picturi și sculpturi.
Deci, Fatale a fost confuză cu privire la motivul pentru care i se spunea acum că alte încălcări i-ar putea arăta socoteala, mai ales atunci când alte femei par să poată posta imagini similare cu zero probleme.
Fatale este departe de a fi singurul factor de influență plus-size care are această problemă. Au existat numeroase rapoarte despre oameni ca Fatale care au semnalat și eliminat fotografiile și videoclipurile de pe rețelele sociale.
Nici femeile foarte celebre nu sunt scutite. Recent, Lizzo s-a plâns că a fost tras un TikTok care se prezenta în bikini, în timp ce videoclipurile cu femei mai subțiri nu păreau să aibă același tratament.
Deși nu există date dificile care să arate imagini cu persoane de dimensiuni mari sunt semnalate mai des, au existat atât de multe anecdote, încât influențatorii nu pot să nu vadă un model.
"Este prea mult. Unde este fum, există foc. Se întâmplă absolut ceva în care sunt identificați oamenii grași", a spus Fatale.
Potrivit experților care au vorbit cu BuzzFeed News, este foarte posibil să aibă dreptate. Moderarea conținutului în aplicațiile de socializare este de obicei un amestec de inteligență artificială și moderatori umani, iar ambele metode au o potențială prejudecată împotriva corpurilor mai mari.
Mathieu Lemay este cofondatorul Lemay.ai, o firmă de consultanță AI. El a spus că primul lucru de înțeles este că AI este departe de a fi perfect și, de fapt, cam leneș.
„Tehnologia și discriminarea se întorc mult”, a declarat el pentru BuzzFeed News. „De fiecare dată când proiectați un nou proiect sau un nou prototip, trebuie să vă gândiți la modul în care se va sparge”.
Companii precum Facebook își construiesc propriile imagini și imagini video proprii AI. Îl construiesc hrănindu-l cu milioane de imagini, astfel încât să poată identifica tiparele și să învețe ce este acceptabil și ce nu. Învață, de exemplu, să identifice pornografia, sau un mamelon sau un bikini. Pe măsură ce scanează imaginile încărcate de utilizatori, decide cât de probabilă este imaginea de a conține conținut interzis. Dacă este foarte sigur, poate semnaliza automat conținutul. Dacă este doar sigur, poate transmite conținutul respectiv unui om pentru a-l verifica.
Problema este că există atât de multe zone gri, iar AI nu își poate face presupunerile decât pe baza a ceea ce a fost predat. Acolo apare prima potențială problemă. Dacă AI nu ar fi hrănit cu multe imagini ale femeilor de dimensiuni mari, ceea ce este o posibilitate dată fiind tendința împotriva corpurilor mai mari din mass-media, acesta ar putea fi începutul unei probleme.
Apoi, a spus Lemay, AI nu putea cunoaște diferența dintre un corp mai mic, nud și un corp de dimensiuni mari într-un bikini.
„Dacă luați două modele, unul mai mare unul nu mai mare, există șanse să existe mai mulți pixeli legați de piele”, a spus el.
Deoarece AI nu cunoaște contextul a ceea ce vede, acest lucru ar putea duce la o clasificare incorectă. Cu toate acestea, aceste sisteme de IA sunt construite de oameni, iar oamenii sunt părtinitori.
Shoog McDaniel este un artist cu sediul în Florida al cărui accent se pune pe fotografiile nud ale corpurilor mari.
La fel ca Fatale, ei cunosc regulile - mameloanele și organele genitale sunt acoperite, fesele sunt goale doar de la distanță. Și totuși, au existat momente în care postările lor au fost eliminate, s-a întâmplat săptămânal.
„Aceasta a fost o tendință despre care cred că comunitatea în general vorbește de ceva vreme, și anume că atunci când acești roboți sau orice altceva caută nuditate, este un procent de piele în comparație cu restul corpului”, au spus ei. Știri BuzzFeed.
"Cred că aceasta este o mare parte din aceasta și este o parte a fatfobiei sistemice cu care ne confruntăm și este complet inacceptabilă, dar ce putem face?"
McDaniel a spus că nu au reușit niciodată să abroge cu succes o eliminare a imaginii. Facebook, care deține Instagram, este strâns cu privire la modul în care funcționează procesul său de moderare.
„Vrem ca politicile noastre să fie incluzive și să reflecte toate identitățile și continuăm să repetăm politicile noastre pentru a vedea cum putem îmbunătăți. Eliminăm conținutul care încalcă politicile noastre și instruim inteligența artificială pentru a găsi în mod proactiv conținut potențial care încalcă ", a declarat un purtător de cuvânt pentru BuzzFeed News.
„Această tehnologie nu este pregătită pentru a elimina conținutul în funcție de dimensiunea unei persoane, este pregătită pentru a căuta elemente care încalcă - cum ar fi organele genitale vizibile sau textul care conține discursuri de ură”.
TikTok a avut un mesaj similar.
„TikTok este o platformă incluzivă construită pe baza expresiei creative - și utilizatorii noștri sunt respectați codul de conduită prezentat în Ghidul comunitar”, a spus un purtător de cuvânt.
Aceste răspunsuri nu sunt foarte satisfăcătoare pentru McDaniel.
"În starea actuală, din ce în ce mai multe sunt cenzurate și o muncă vitală și dătătoare de viață este eliminată într-un ritm rapid", au spus ei.
McDaniel cunoaște prea bine elementul uman al acestui lucru. Munca lor este adesea supusă brigăzilor de troli care fac rușine care își raportează imaginile. Platformele precum Instagram sunt cu siguranță conștiente de acest fenomen și spun că numărul de rapoarte nu declanșează automat nimic, dar nu toată lumea este atât de sigură că nu joacă un rol.
Kat Lo, un cercetător care studiază moderarea conținutului și hărțuirea online, a declarat că rapoartele pot juca un rol important în mecanismul mai mare de moderare, dar și oamenii la fel.
"Asta este atât de insidios în ceea ce privește sistemele tehnologice care sunt atât de mari. Există atât de mulți pași și atât de multe oportunități pentru a pătrunde chiar și cazuri mici de părtinire", a spus ea.
Datorită părtinirii prezente în societate, a spus ea, este foarte posibil ca atunci când o imagine a unei persoane mai mari să cadă în fața unui moderator uman, este mai probabil să o marcheze ca „obscenă” sau sexualizată decât o imagine a unei persoane mai mici.
„Există mii și mii de motive mici, mai degrabă decât motive mai largi, cum ar fi„ văd un mamelon ””, a spus ea.
Datorită tuturor acestor zone gri și din cauza amplorii acestor baze de date de moderare, rezolvarea unei probleme potențiale ca aceasta ar fi costisitoare și consumatoare de timp, iar companiile au foarte puține motivații să o facă.
A spus că aplicații precum Instagram sau TikTok sunt supuse presiunii pentru a păstra lucrurile PG, atât pentru a se menține disponibile în magazinele de aplicații, dar și datorită legilor precum FOSTA-SESTA sau a resurselor necesare pentru a elimina conținutul legat de terorism. Este mai ușor să greșești din partea prudenței.