Twitter ujawnia, że ​​porzucił kadrowanie AI ze względu na rasę i uprzedzenia ze względu na płeć

Po raz pierwszy usłyszeliśmy, że algorytm przycinania zdjęć na Twitterze może mieć pewne błędy we wrześniu 2020 roku. Inżynier kryptograficzny Tony Arcieri przesłał dwa zdjęcia przedstawiające przywódcę większości w Senacie Mitcha McConnella i byłego prezydenta Baracka Obamę, a sztuczna inteligencja dwukrotnie przycięta do twarzy McConnella.

Kiedy kontrowersje w końcu dotarły do ​​ludzi na Twitterze, firma obiecała przeanalizować swój model. Na koniec zapoznajemy się z tymi ustaleniami.

Twitter udostępnia wyniki analizy algorytmu

Na początku maja Twitter w końcu udostępnił pełnowymiarowe podglądy obrazów na swoich mobilnych osiach czasu. Post na blogu na Twitterze ujawnił, że aplikacja zmieniła algorytm przycinania obrazu po analizie wykazującej uprzedzenia rasowe i ze względu na płeć.

Platforma zaczęła używać algorytmu istotności w 2018 roku do przycinania obrazów. Twitter twierdzi, że modele istotności są trenowane na podstawie danych śledzenia ludzkiego wzroku, które są następnie wykorzystywane przez algorytm do oszacowania, które tematy / elementy obrazu są jego zdaniem najbardziej istotne dla większości ludzie.

Następnie algorytm wymyśliłby ocenę istotności dla wszystkich części obrazu, zanim wybierze punkt z najwyższym wynikiem jako środek uprawy.

Po przeprowadzeniu testu ilościowego w celu sprawdzenia potencjalnych błędów zespół odkrył, że algorytm istotności zdawał się faworyzować kobiety nad mężczyznami, a osoby białe nad osobami czarnymi.

Twitter przetestował również algorytm pod kątem „męskiego spojrzenia”, ale nie znaleziono dowodów na uprzedmiotowienie.

Nawet jeśli algorytm istotności został dostosowany tak, aby odzwierciedlał idealną równość w podgrupach rasowych i płciowych, [Twitter] martwimy się przez reprezentacyjną szkodę zautomatyzowanego algorytmu, gdy ludzie nie mogą przedstawiać się tak, jak chcą, na Platforma. Występowanie ma również inne potencjalne szkody poza zakresem tej analizy, w tym niewrażliwość na niuanse kulturowe.

Rozważając kompromisy między szybkością i konsekwencją automatycznego zbioru a związanymi z nim ryzykiem, Twitter twierdzi, że jego zespół zdał sobie sprawę, że decyzję o przycięciu obrazu najlepiej podejmują ludzie, a nie algorytmy.

Związane z: Trendy technologiczne, które już zmieniają przyszłość

Twitter pozbywa się automatycznego przycinania obrazu

Twitter nie korzysta już z algorytmu istotności i teraz wyświetla pełne zdjęcia o standardowym współczynniku proporcji zarówno na iOS, jak i na Androidzie. Tworząc tweet, przekonasz się, że nowa aktualizacja zawiera również prawdziwy podgląd przesłanych obrazów, dzięki czemu wiesz, jak wszystko będzie wyglądać po opublikowaniu.

Jeśli chcesz przeczytać artykuł naukowy dotyczący tego studium, możesz go znaleźć na stronie arXiv.org. Możesz również znaleźć kod Twittera do analizy na GitHub.

Jak przesyłać i wyświetlać obrazy 4K na Twitterze

Aplikacja Twitter umożliwia teraz przesyłanie i przeglądanie obrazów w rozdzielczości 4K. Oto jak zmienić ustawienia.

Czytaj dalej

O autorze