wpis przeniesiony 6.04.2019.
(oryginał z zawieszkami)
Matematyka jest elegancka, nie ma uczuć, uprzedzeń, nie jest seksistowska, prawda? Książka Cathy O’Neil wyprowadza nas z błędu. — napisał Kamil Fejfer w przedmowie. Czekała na mnie ta książka i „zaniemówiła” mnie od pierwszych stron, gdy tylko przyszła jej kolej. Tydzień od skończenia mogę się już na jej temat zająknąć.
Nigdy tego nie robię, ale w przypadku tej książki przeczytałam kilka recenzji, w których zarzuca się Autorce, że skupiła się na Stanach Zjednoczonych (wtf!). Pozostałam w zadziwieniu, że tego, co znajdzie polski człowiek w tej książce nie jest w stanie przełożyć sobie na swój świat — przecież „lubię to” klika się tak samo jak w Ameryce. Ta książka, jeśli podarujesz jej swój czas, pozostawi Cię z pytaniami, na które warto znaleźć swoje osobiste odpowiedzi.
Nawet jeżeli we wczesnych latach rozwoju branży prawdziwe było hasło „w internecie nikt nie wie, że jesteś psem”, obecnie dzieje się coś zgoła odwrotnego. Jesteśmy szeregowani, kategoryzowani oraz oceniani przez setki modeli, które analizują ujawnione przez nas preferencje i schematy.
*
Nieprzejrzyste bądź ukryte modele są regułą, przejrzyste zaś należą do wyjątków. Choć w niewielkim stopniu zdajemy sobie z tego sprawę, jesteśmy poddawani ocenie różnych algorytmów: jako konsumenci i telewidzowie, jako pacjenci i potencjalni kredytobiorcy, a nawet jako użytkownicy aplikacji, które tak chętnie ściągamy i instalujemy.
*
[…] modele, które z założenia mają być bezstronne, odzwierciedlają z góry założone cele oraz osobiste przekonania. […] Nasze wartości oraz dążenia wpływają na dokonywane przez nas wybory; od danych, które decydujemy się pozyskiwać, do pytań, które zadajemy. Modele są opiniami opisanymi językiem matematyki.
To, czy dany model działa prawidłowo, również jest kwestią dyskusyjną. Definicja sukcesu stanowi bądź co bądź kluczowy komponent każdego modelu, niezależnie od tego, czy jest on formalny, czy nieformalny. […] Zawsze bowiem musimy zadać sobie pytanie, nie tylko o to, kto stworzył dany model, lecz również, co ta osoba lub przedsiębiorstwo starają się osiągnąć.
*
Algorytmy mają jeszcze jedną ciekawą właściwość: potrafią przeskakiwać z jednej dziedziny do innej – i często tak właśnie się dzieje. Algorytmy wykorzystywane przy badaniach epidemiologicznych mogą być wykorzystywane do prognozowania oglądalności filmów, a filtry spamu można przestawić na wykrywanie wirusa AIDS.
*
[…] coraz częściej zachowanie prywatności ma swoją cenę.
*
Analizowane jest wszystko — od sąsiedztwa po listy przyjaciół na Facebooku po to, by przewidywać nasze zachowanie lub wręcz zapędzić nas w pułapkę bez wyjścia.
*
Może to brzmieć niepoważnie, jednak równość stanowi kluczowy element sprawiedliwości. […] Sprawiedliwość nie może być czymś, co jedna część społeczeństwa narzuca drugiej.
*
[…] Beemzety wykazują tendencję do przyznawania pierwszeństwa skuteczności. Leży to w ich naturze, ponieważ napędzają je dane, które mogą być mierzone i liczone. Sprawiedliwość zaś jest niejasna i trudna do określenia za pomocą liczb. Jest pewną ideą, a komputery, pomimo ogromnych postępów w zakresie przyswajania języka i logiki, nadal mają potężne trudności z ideami. Rozumieją pojęcie piękna jedynie jako wyraz powiązany z Wielkim Kanionem, zachodami słońca nad oceanem oraz poradami magazynu „Vogue”. Na próżno starają się zmierzyć przyjaźń, licząc lajki bądź powiązania na Facebooku. Idea sprawiedliwości umyka im zaś całkowicie. Programiści nie wiedzą, jak ją zakodować, a do tego niewielu jest przełożonych, którzy tego od nich wymagają.
*
[…] w najbliższych latach systemy sztucznej inteligencji będą wprost zalewane oceanami danych behawioralnych. Dla zwykłych ludzi systemy te pozostaną nieodgadnione. Jesteśmy częścią tego procesu, więc raczej nie będziemy się dowiadywali, do jakich plemion należymy ani też dlaczego tak się dzieje. W epoce sztucznej inteligencji większość zmiennych pozostanie tajemnicą. Wiele z tych plemion będzie podlegało mutacji z godziny na godzinę lub wręcz z minuty na minutę, w miarę jak systemy będą przerzucać ludzi z jednej grupy do drugiej. Bądź co bądź, ta sama osoba zachowuje się inaczej o ósmej rano, a inaczej o dwudziestej w nocy.
Tego typu automatyczne systemy w coraz większym stopniu będą decydowały o tym, jak będziemy traktowani przez inne maszyny, odpowiedzialne za wybór reklam, które oglądamy, ceny, jakie są nam oferowane, ustawianie nas w kolejce do dermatologa lub wyznaczanie dla nas tras przejazdu. Ich działania będą wysoce wydajne, pozornie losowe i w żadnym momencie nie uda się pociągnąć ich do odpowiedzialności.
*
Zamiast wymyślać przyszłość, procesy Big Data kodyfikują przeszłość. Do zmian niezbędna jest wyobraźnia moralna oraz to coś, co posiadają jedynie istoty ludzkie. Musimy wprost umieszczać w naszych algorytmach wyższe wartości, tworząc w ten sposób modele Big Data wyczulone na kwestie etyczne. Niekiedy może to oznaczać, że trzeba będzie postawić sprawiedliwość przed zyskiem.
*
Modele matematyczne powinny być naszymi narzędziami, nie naszymi władcami.
Różnice w poziomie wykształcenia, wypełnione ludźmi więzienia oraz apatia wyborców są wielkimi problemami w skali kraju i nie da się ich rozwiązać za pomocą mechanizmów wolnorynkowych ani algorytmów matematycznych.
*
Dane nie znikną z naszego życia, podobnie jak komputery, a już na pewno nie matematyka. Modele predykcyjne w coraz większym stopniu będą stanowiły narzędzia, na których będziemy polegali przy kierowaniu naszymi instytucjami, lokowaniu naszych zasobów oraz zarządzaniu naszym życiem. Jak jednak starałam się wykazać w tej książce, na modele te składają się nie tylko suche dane, lecz również dokonywane przez nas wybory dotyczące tego, na które dane zwracać uwagę oraz które pomijać. Wybory te nie wiążą się jedynie z zagadnieniami logistyki, zysków i wydajności. Mają charakter dogłębnie moralny.
Jeżeli zdecydujemy się tego nie dostrzegać, traktując modele matematyczne jako neutralne i nieuniknione siły, na wzór pogody lub pływów morskich, zrzucamy z siebie odpowiedzialność.
*
Facebook jest bardziej jak Czarnoksiężnik z Oz; nie widzimy pracy ludzi kryjącej się za funkcjonowaniem portalu. Odwiedzając Facebooka, przewijamy wiadomości od naszych znajomych, a portal zdaje się jedynie neutralnym pośrednikiem. Wiele osób nadal zresztą wierzy, że tak jest. W 2013 roku Karrie Karahalios, badaczka z Uniwersytetu Illinois, przeprowadziła ankietę na temat algorytmów Facebooka, odkrywając, że 62 procent badanych nie miało świadomości, iż firma majstruje przy ich postach. Myśleli, że system natychmiast przekazuje wszystko, co zamieszczają, wszystkim ich znajomym.
*
Złożoność języka jest zmorą dla programisty. Koniec końców zaprogramowanie tego procesu okazuje się zadaniem beznadziejnym.
[…] w internecie ludzie z całego świata produkują kwadryliony słów opisujących ich życie, pracę, preferencje zakupowe oraz przyjaźnie. Robiąc to, bezwiednie współtworzą największy z możliwych podręcznik dla maszyn uczących się języków. W miarę jak przerzucamy się z papieru na e-mail i serwisy społecznościowe, maszyny mogą analizować nasze słowa, porównywać je ze sobą oraz zdobywać informacje na temat ich kontekstu. Proces ten przebiega szybko i dynamicznie.
Cathy O’Neil, Broń matematycznej zagłady. Jak
algorytmy zwiększają nierówności i zagrażają demokracji,
przeł. Marcin Zieliński, PWN, Warszawa 2017.
(wyróżnienie własne)
