Algorytm Twittera Cię NIE LUBI, jeśli nie masz białej, szczupłej, pięknej twarzy

Użytkownicy Twittera odkryli, że algorytm do przycinania zdjęć wykluczał fotografie osób czarnoskórych. W związku z tym portal zorganizował konkurs dla hakerów i ekspertów w dziedzinie programowania. Serwis udostępnił w internecie kod algorytmu odpowiedzialnego za przycinanie zdjęć, oferując wysokie nagrody pieniężne dla każdego, kto wykryje miejsca, gdzie kod może kierować się uprzedzeniami.

Nagrodę w wysokości 3500 dolarów otrzymał Bogdan Kulynych - doktorant ze Szwajcarii - który wykazał stronniczość w działaniach algorytmu. Naukowiec przy pomocy sztucznej inteligencji wygenerował ogromną ilość ludzkich twarzy, które różniły się między sobą odcieniem skóry, rysami, rozmiarem, wiekiem. Następnie wprowadził te warianty do algorytmu przycinania zdjęć z Twittera.

Kulynych wykazał w swoim badaniu, że algorytm do przycinania zdjęć faworyzował twarze, które są młode, szczuplejsze i o jasnej cerze, dyskryminując w ten sposób twarze starsze, szersze lub o ciemniejszej cerze. Naukowiec powiedział, że stronniczy algorytm wzmacnia uprzedzenia w społeczeństwie, ponieważ dosłownie wycina osoby, które nie spełniają warunków masy ciała, wieku i koloru skóry.

W konkursie Twittera wyróżniony został Vincenzo di Cicco. Wykazał on, że algorytm faworyzował emoji z jaśniejszymi odcieniami skóry, dyskryminując emocji z ciemniejszą cerą. Z kolei Roya Pakzad ujawnił, że algorytm kierował się uprzedzeniami dotyczącymi języka. Porównując memy używające języka angielskiego i arabskiego, algorytm przycinał memy po arabsku, wyróżniając memy w języku angielskim.

Bogdan Kulynych wytłumaczył, że "tego rodzaju działanie algorytmu to nie są tylko "błędy". Wiele szkodliwych technologii jest szkodliwych nie z powodu wypadków przy pracy, niezamierzonych błędów, ale raczej ze względu na założenia projektowe. Wynika to z maksymalizacji zaangażowania i przenoszenia kosztów na innych".

Twitter pochwalił odkrycie, oceniając je jako istotne w świecie, w którym korzystamy z aparatu fotograficznego i aplikacji do edycji z filtrami upiększającymi.