IT@BANK 2021 | TECHNOLOGIE | Cyberprzestrzeń to lustrzane odbicie nierówności społecznych w rzeczywistości

Nasz rozmówca
Prof. dr hab., Politechnika Gdańska, Katedra Zarządzania. Wieloletni dziennikarz i korespondent zagraniczny, autor ponad tysiąca publikacji w mediach polskich i zagranicznych, menedżer zarządzający firmami mediów i nowych technologii, doradca czołowych polskich firm. Autor kilkunastu książek, m.in.: „Władza platform”, „Władza algorytmów – u źródeł potęgi Google i Facebooka”, „Za fasadą społeczności – zarządzanie nowymi mediami”.

Na ile społecznie i jednostkowo jesteśmy przygotowani do świadomego uczestnictwa w cyfrowej rzeczywistości, obecnej we wszystkich bez mała obszarach ludzkiej aktywności, tej profesjonalnej i prywatnej?

– Zacznę od tego, że współcześnie żyjemy w kulturze algorytmicznej, ze wszystkimi tego stanu rzeczy konsekwencjami. A programiści, inżynierowie funkcjonują w określonej architekturze języka, który opisuje świat, my natomiast poprzez najdrobniejszy cyfrowy ślad, jaki zostawiamy, uczestniczymy w tym uniwersum i uczymy algorytmy, więc w tym znaczeniu, z perspektywy antropologicznej, algorytm ma konkretny wyraz kulturowy.

Co to oznacza w wymiarze praktycznym?

– Na przykład, że nie istnieje coś takiego jak algorytmiczna decyzja, tylko jest to decyzja z udziałem człowieka, który współtworzy i nieustannie modyfikuje performatywny algorytm Facebooka, TikToka, Google i miliardy innych. To człowiek nadaje im znaczenia i sens, bez względu jak bardzo byśmy chcieli, by nie brał w tym udziału, bo przecież mają być wolne od jego ułomności. Każdy z nas z reguły kojarzy algorytm z technologią, zakładając przy tym, że rozumienie zasady jego działania nie jest warunkiem koniecznym uzyskania spodziewanego rezultatu. Przede wszystkim jednak mitologizuje tę technologię, a zwłaszcza jej „neutralność”. Na ten mit składa się mnóstwo narracji i obiektywność decyzji algorytmicznych, tymczasem nie ma czegoś takiego, jak neutralny społecznie algorytm. Wszelkie stereotypy, a nawet swoista stygmatyzacja z racji rasy, pochodzenia czy wyznania są wpisane niejako automatycznie w formułowanie matematycznych kryteriów podejmowania decyzji algorytmicznych.

Tkwimy zatem w uprzedzeniach, nieświadomi społecznej roli algorytmu?

– W zależności od tego, czy o algorytmie mówi inżynier, programista, czy specjalista z obszaru nauk społecznych, mamy do czynienia z innego rodzaju pojmowaniem istoty rzeczy. Programiści z reguły odwołują się do prostych reguł, ciągu kroków organizujących działanie na zbiorze danych, w celu uzyskania założonego rezultatu. Dla przeciętnego Kowalskiego to świat tajemniczy, niezrozumiały, przypominający nieco szamańskie praktyki. Tymczasem humaniści i badacze społeczni dostrzegają artefakt o nie tak łatwej do zbadania mocy, którego znaczenie i siła oddziaływania daleko wykraczają poza technologie i matematyczne zależności.

Stąd już krok do opisanego w literaturze science fiction buntu maszyn?

– Muszę panów rozczarować. Autonomia algorytmu to wspomniany wcześniej efekt naszych własnych wyobrażeń o świecie i wynikających zeń uprzedzeń. Nie zmienia to faktu, że zwykle winę za jej brak przypisujemy niedostatecznej jakości danych, ich zbyt małemu zróżnicowaniu na etapie programowania i testów, podczas kiedy różnorodność to nie tylko funkcja szerokiej reprezentacji, ale naszych własnych przekonań w roli twórców, czy administratorów systemu. Stąd przypisywane usterkom systemu decyzje postrzegane jako ...