Niedzielne odliczanie literek, dwa. Poślizgnięte na dniu pełnym wrażeń. Ode mnie do kilku osób zachwyconych sztuczną inteligencją jest zaledwie jeden uścisk dłoni. Nie pomaga tłumaczenie, że sztuczna inteligencja nie ma żadnego związku z inteligencją, za to z pewnością jest globalnym, niespotykanym do tej pory na tę skalę, złodziejstwem dóbr niematerialnych, które wraz z upływem czasu, ze względu na swoją naturę, stworzy chorobę wściekłej inteligencji. Cóż, jestem pesymistką, jeśli chodzi o to, czy wówczas ludzkość pierwszego świata się obudzi.
Dwa, wyróżnione na szaro, fragmenty znalazły się tu z powodu ducha czasów, by stanowić ilustrację tego, co jeszcze chwilę temu nie mieściło się w głowie, a od prawie trzech tygodni pomieścić się musi. To bardzo ważna książka, której z pewnością nie przeczytają ci, którzy powinni długo żuć każde umieszczone w niej zdanie. Nie przeczytają, bo nie czytają (prawie) wcale, ale jeszcze nie jest dobry czas, by tym się chwalili, za to
są w szczególnie osobliwy sposób dumni z faktu, że z matematyką skończyli kilkadziesiąt lat temu.
Narracja o innym świecie, zamieszkałym przez Boga, jego Syna, Maryję i licznych świętych w niebie, który czeka pobożnych ludzi po zakończeniu ich życia w niedostatku, a dodatkowo opowieści o groźnym podziemnym świecie, w którym nieposłuszni zostaną ukarani, wywoływały na tyle silne wrażenie, aby przez kilka tysięcy lat społeczność europejskiego kontynentu powstrzymać przed dochodzeniem swoich praw. Opowieści o świecie mają potężny wpływ na to, w jakim kierunku rzeczywiście on podąża.
🖇
Należy poważnie potraktować sygnały sugerujące, że pod wpływem cyfrowych usług coraz większe grupy współczesnego społeczeństwa zachodniego pozostają w tyle za istotnymi osiągnięciami, które zawdzięczamy epoce oświecenia. Przejawia się to przede wszystkim w spowodowanej przez smartfony tendencji do mentalnego przebywania poza „tu i teraz” i preferowaniu kontaktu z nieobecnymi osobami akurat wtedy, gdy spotykamy się z kimś rzeczywiście obecnym.
🖇
Przestaliśmy wierzyć w przepis na sukces, który przekazała nam ewolucja:
• gotowość do konfrontowania się z autentyczną, prawdziwą rzeczywistością,
• gotowość do wysiłku i odwaga,
• tworzenie udanych relacji – w pedagogice z uczniami, w medycynie z chorymi, a w życiu zawodowym z kolegami/koleżankami oraz klientami/klientkami,
• kształcenie, kwalifikacje i ciągły rozwój,
• osobista obecność,
• prowadzenie dyskursów wyłącznie z otwartą przyłbicą,
• sprawiedliwość społeczna i wzajemne wsparcie.
My natomiast szukamy ratunku w bezmyślnym poddawaniu się właśnie tym systemom, które wykorzystujemy bez jakiejkolwiek kontroli. W ten sposób odcinają nas one od źródeł mogących dostarczyć nam energii i pewności siebie. To także przypomina czasy średniowiecza. Jeśli coś się nie udawało, przyczyny upatrywano w zbyt małej pobożności. Tym samym wzmacniano coś, co w zasadzie stanowiło część całego problemu. Prorocy i zbawiciele naszych czasów zwracają się z apelem o wszechobecną cyfryzację świata, zamiast uczynić te procesy wartościowym, kontrolowanym przez nas narzędziem.
🖇
Jeśli między dwiema osobami powstała więź, nie można jej tak po prostu unieważnić, nawet w przypadku rozstania. Więzi stanowią część życiorysu i tożsamości człowieka. […] Jeśli odchodzi osoba, z którą łączyła nas jakaś więź, jednocześnie tracimy kawałek rzeczywistości. Relacje międzyludzkie tworzą naszą rzeczywistość. Ludzie pozbawieni takich relacji nie mają dobrego kontaktu z rzeczywistością.
🖇
Niemowlęta są „żywym dowodem” na jedną z fundamentalnych pomyłek wielu ekspertów komputerowych: otóż świadomość nie wynika z wiedzy lub inteligencji. Świadomość z jednej strony i zdolność do zapamiętywania wielu informacji oraz ich kojarzenia z drugiej nie są tym samym. Można by powiedzieć, że komputery wyposażone w sztuczną inteligencję stanowią przeciwieństwo niemowlęcia. Potrafią one zapamiętywać potężną, przekraczającą możliwości człowieka ilość informacji i je ze sobą łączyć. To jednak nie sprawia, że dzięki temu posiadają świadomość.
🖇
Życie przeważnie wybacza nam chwilowy brak kontaktu z rzeczywistością. Krótkotrwała utrata poczucia rzeczywistości to momenty, gdy wprawdzie jesteśmy obecni ciałem, ale nasze myśli skupiają się na czymś innym, gdy jesteśmy „gdzieś indziej”, nieobecni duchem. Doświadczył ich każdy z nas.
🖇
Jak zawsze pierwsze miejsce zajmują Stany Zjednoczone. Trudność w radzeniu sobie z rzeczywistym życiem przybiera tam zatrważające wymiary dla coraz większej grupy ludzi, o czym świadczy masowa konsumpcja opioidów, wciąż wzrastający poziom przemocy oraz irracjonalne tendencje w tamtejszym krajobrazie politycznym.
•
W grze Rape Day istnieje opcja wirtualnego gwałcenia kobiet. W Niemczech jest ona zakazana, ale w Stanach Zjednoczonych jest dopuszczona ze względu na wolność słowa.
🖇
Rzeczywistość to delikatny twór, którego nie wolno przeciążać. Zrozumie to każdy, kto doświadczył, jak druga osoba znalazła się poza jej granicami – czy to wskutek psychozy, zażywania narkotyków czy demencji. Rzeczywistość staje się czymś prawdziwym głównie dlatego, że moja percepcja jest taka sama jak percepcja innych ludzi, że powstaje z niej wspólna rzeczywistość dzielona przez całe społeczeństwo. Rozmowa ma sens tylko wtedy, gdy rozmówcy są jednomyślni co do istotnych faktów. Wówczas różnice zdań nie są problemem.
🖇
Systemy cyfrowe są częścią naszego świata. Zignorowanie tego faktu byłoby wyjątkowo zgubną formą utraty kontaktu z rzeczywistością.
🖇
Tylko w czasie, w którym sieć neuronowa o wielkości takiej jak ChatGPT lub LaMDA jest karmiona i uczona powstaje dwieście czterdzieści osiem ton dwutlenku węgla (dla porównania: ilość dwutlenku węgla produkowana w ciągu roku przez jednego człowieka wynosi około pięciu ton).
🖇
[…]
generujące tekst systemy SI, takie jak ChatGPT lub LaMDA, bazują na ogóle materiałów, którymi te systemy są losowo karmione. Choć potrafią one analizować dostarczany im materiał i zestawiać go w nowej kombinacji, produkowane przez nie teksty są jedynie odtworzeniem tego, czym zostały wcześniej nakarmione: wiedzą i niewiedzą zgromadzoną przez ludzi, łącznie z ogółem wszelkich ocen i uprzedzeń. Jeśli te systemy traktujemy jako złoty standard wiedzy, one „przykuwają” nas do ich aktualnego stanu wiedzy i niewiedzy, do stereotypów i uprzedzeń, a w efekcie hamują nasz rozwój. I na tym polega niebezpieczeństwo.
🖇
[…]
nikt nie ponosi odpowiedzialności w przypadku, gdy sztuczne sieci neuronowe, które są wykorzystywane w wojsku, sądownictwie, policji, administracji publicznej, w sektorze finansowym lub w medycynie, podejmą złą decyzję lub taką, która przyczyni się do dyskryminowania określonych grup społecznych.
🖇
Nie podzielam jednej z obaw, którą wyrażono w związku z ChatGPT w kontekście instytucji edukacyjnych – i to wcale nie z powodów przytoczonych w tej dyskusji. Jednym z nich była możliwość oszukiwania nauczycieli przez uczniów, którzy nie piszą swoich prac samodzielnie. Takie sytuacje zdarzały się już w przeszłości. Oczywiście nikt nie chciałby lecieć z pilotem, być leczonym przez lekarza lub lekarkę czy oddać coś do naprawy serwisantowi, którzy oddali pracę egzaminacyjną napisaną przez chatbota i tym samym wyłudzili swoje kwalifikacje.
W przyszłości szkoły, instytucje szkoleniowe i uniwersytety będą musiały w większym stopniu stawiać na pierwszym planie realną obowiązkową obecność na zajęciach oraz wspierać system egzaminów ustnych. Bardziej intensywny osobisty kontakt między uczniami a nauczycielami to zysk zarówno dla rzeczywistości, jak i dla ludzkości.
🖇
Niebezpieczeństwem, które powinniśmy sobie uświadomić i o którym musimy rozmawiać z młodymi ludźmi, jest to, że ChatGPT i systemy jemu podobne tak długo będą nas wspierać w myśleniu, aż przestaniemy myśleć samodzielnie.
🖇
Skoro usługi cyfrowe pozbawiają nas przydatności do wykonywania jakichś działań i oduczają pewnych umiejętności, bez których stajemy się zależni, bezradni i podatni na manipulację, dzieje się coś złego. Nie ma znaczenia, czy jest się robotnikiem, czy naukowcem, bo nawet w epoce cyfryzacji ludzie mogą mieć kłopoty, jeśli nie potrafią zapisać krótkiej odręcznej notatki lub nie opanowali podstawowych umiejętności liczenia.
🖇
Symulowana ulewa nie sprawi, że komputer czy ekran zmokną. Symulowana czarna dziura nikogo nie wchłonie do wnętrza komputera czy monitora. I jeszcze jeden banalny fakt: wszystkie symulowane obiekty tracą wspomniany wpływ, gdy tylko wyłączymy komputer lub ekran. Wraz z owym wpływem znika także – wychwalany jako rzeczywistość – symulowany, pozorny świat.
🖇
W odzyskaniu pewności siebie pomogłoby nam wyjście z trybu biernego konsumenta, w który wprowadziło nas wiele produktów cyfrowych.
Joachim Bauer, Utrata kontaktu z rzeczywistością.
Jak sztuczna inteligencja i wirtualne światy
przejmują nad nami kontrolę, przeł. Anna Grysińska,
Wydawnictwo Dobra Literatura, Gdańsk/Warszawa 2024.
Do najważniejszych czynników chroniących zdrowie, zwiększających satysfakcję życiową i przedłużającą życie należy realnie doświadczana więź społeczna. Co więcej, nie tylko otrzymywanie społecznego wsparcia, lecz także jego (dobrowolne) udzielanie, wpływa korzystnie na wzorce aktywności genów, które chronią zdrowie. Cyfrowa więź w sieciach społecznościowych nam tego nie zapewni. Tak samo jak prawdziwa roślina nie może wyrosnąć z symulowanej ziemi i rozkwitać w symulowanym słońcu, tak samo prawdziwy człowiek nie może się rozwijać w symulowanym lub wirtualnym świecie.
🖇
Nic bardziej nie potrafi […] pobudzić człowieka jak rzeczywista obecność życzliwych mu osób.
🖇
[…]
ciało i mózg podlegają nie tylko procesom przetwarzania oddolnego (bottom-up), począwszy od genów, poprzez komórki i narządy, aż po świadomość, lecz także realnym procesom przetwarzania odgórnego (top-down), które odzwierciedlają się w neuroplastyczności lub psychosomatyce.
Sposób, w jaki używamy mózgu, i samo to, czy go używamy, rzutuje na jego strukturę. […] Ściśle rzecz ujmując, procesy top-down nie zaczynają się w świadomości, lecz ich początkiem są relacje społeczne (analogicznie procesy bottom-up nie kończą się w świadomości, lecz są kontynuowane w relacjach społecznych).
🖇
Celem oświecenia i wywodzącego się z niego humanizmu było odnalezienie przez człowieka drogi do samego siebie. Droga ta prowadziła przez równość szans, naukę i rozwój kulturowy.
(tamże)