Prawda

Wtorek, 19 marca 2024 - 10:30

« Poprzedni Następny »


Jak algorytmy wpływają na twoje życie


Steven Novella 2020-08-24


Stopień, do jakiego komputerowe algorytmy wpływają na twoje życie to jest jedna z tych rzeczy, których futurolodzy nie przewidzieli, ale która teraz wydaje się oczywista i nieunikniona. Zawsze trudno jest czynić negatywne twierdzenia i trzeba się zastrzegać – ale nie znam żadnego tekstu science fiction lub futurologicznego sprzed roku 2000, który choćby wspominał rolę algorytmów mediów społecznościowych lub innych informacyjnych algorytmów w społeczeństwie i kulturze (jak zawsze, dajcie mi znać, jeśli coś mi umknęło). W bardzo krótkim czasie jednak stały się one poważnym wyzwaniem dla wielu społeczeństw. Teraz jest także łatwo wyobrazić sobie, że komputerowe algorytmy będą dominującym tematem w przyszłości. Ludzie będą prawdopodobnie dyskutować o ich roli, kto je kontroluje i kto powinien je kontrolować, i jakie powinny być regulacje, jeśli w ogóle jakieś.

Najgorszym rezultatem byłby brak takich dyskusji, bo będzie to znaczyło, że ludzie nie są świadomi roli algorytmów w ich życiu i tego, kto je kontroluje. Zasadniczo to właśnie dzieje się w Chinach i innych autorytarnych krajach. Algorytmy mediów społecznościowych są marzeniem autokraty – dają mu niewiarygodną możliwość kontrolowania tego, co ludzie widzą, jak informacja do nich dociera i do pewnego stopnia, co myślą. To jest „rok 1984” na sterydach. Orwell wyobrażał sobie, że w celu kontrolowania tego, co i jak ludzie myślą, autokraci będą kontrolować język. Ogranicz język, a ograniczysz myśl. To był interesujący pomysł sprzed czasów sieci i sprzed mediów społecznościowych. Teraz komputerowe algorytmy mogą kontrolować informację i, przez przedłużenie, to, co ludzie wiedzą i myślą – bezszwowo, niewidzialnie oraz z przerażającą mocą.  


Jednak także w otwartych, demokratycznych społeczeństwach niewidzialna ręka komputerowych algorytmów może dokonać spustoszeń. Badacze społeczni, którzy studiują to zjawisko, biją coraz mocniej na alarm. Niedawnym przykładem jest antyekstremistyczna grupa w Wielkiej Brytanii, która ostrzega obecnie, że według ich badań algorytmy Facebooka aktywnie promują negację Holocaustu i inne teorie spiskowe. Odkryli (co w zasadzie nie powinno nikogo dziwić), że odwiedzający strony Facebooka, które zaprzeczają Holocaustowi, są kierowania do innych stron, które także negują Holocaust. To z kolei prowadzi do innych spisków, które kierują do dalszych treści spiskowych i wpadasz w czarną dziurę.  

 

Nie jest żadną tajemnicą, dlaczego to się dzieje. Jak wyjaśniał pewien inżynier, były pracownik Google:

Algorytmy mediów społecznościowych kontynuują promocję szkodliwych treści przez “optymalizację czasu oglądania za wszelką cenę” – mówi Guillaume Chaslot.

Media społecznościowe podkręcają swoje algorytmy, by maksymalizować swoje zyski, co znaczy maksymalizowanie ilości czasu jaki odwiedzający pozostają na ich witrynie, co znaczy dalej karmienie ich materiałem, który wydają się chcieć i którym mogą być zainteresowani. To jest znakomity przykład niezamierzonych konsekwencji – media społecznościowe wyewoluowały w konkurencyjnym środowisku, by przeżyć przez trzymanie surfujących w Internecie na swojej stronie tak długo, jak to możliwe.  Jako epifenomen jednak, algorytmy zaprojektowane do osiągania tego celu mają także tendencję do radykalizowania użytkowników mediów społecznościowych przez karmienie ich coraz bardziej ekstremalnymi treściami. Jeśli posuwasz się o krok w jednym kierunku, media społecznościowe wciągają cię dalej aż do skrajności, wszystko po to, by trzymać cię przy oglądaniu ich stron tak długo, jak to możliwe.    


Na marginesie: tak właśnie działają siły ewolucyjne, także w ewolucji biologicznej. Krótkoterminowe korzyści prowadzą czasami w ślepe zaułki, czasem prowadząc w końcu do eksterminacji. Na przykład, pawie “zradykalizowały” swoje upierzenie, by zmaksymalizować krótkoterminowy sukces reprodukcyjny, ale niemal z pewnością w efekcie skazały swój gatunek na znacznie wcześniejsze wymarcie. (Im bardziej wyspecjalizowany gatunek, tym krótsza jego długowieczność, podczas gdy „wszystkoiści” na ogół trwają dłużej.) Jest tak z powodu ślepoty ewolucji: zna ona tylko krótkoterminowe przeżycie i rozmnożenie się. Nie ma mechanizmu na długotrwałą strategię. Oczywiście jednak, istnieją miliony gatunków, więc przez przypadek niektóre mogą natrafić na rzeczywiście dobre długoterminowe strategie i przetrwać.


Jeśli więc, rozszerzymy perspektywę i spojrzymy na to z bardzo wysoka, jak powinniśmy optymalnie zaprojektować i kierować naszym społeczeństwem? Zwolennicy wolnego rynku argumentują, że powinniśmy  wykorzystywać siłę systemów “z dołu do góry”, pozwolić miliardom transakcji na organiczne wypracowanie rozwiązania. Ten proces tworzy olbrzymią ilość informacji, jakiej nie może powtórzyć żaden komitet. Z drugiej strony spektrum, orędownicy socjalizmu/regulacji argumentują, że całkowicie wolne systemy łatwo wykorzystywać. W sposób nieunikniony coraz więcej władzy i zasobów znajdzie drogę do rąk coraz mniejszej liczby ludzi, aż społeczeństwo załamie się. Historycznie jest to prawdą w właściwie 100% wypadków. Z czasem ludzie z władzą i siłą znajdą sposób na użycie tej władzy, by zdobyć więcej władzy i przekazać korzyści swoim dzieciom. W końcu potrzeba regulacji, by wyrównać boisko, bo inaczej masz rewolucję, która wymazuje tablicę do czysta i wszystko zaczyna się od nowa.


Oba krańce tego spectrum są poprawne – ewolucyjny “wolny rynek” i siły demokratyczne są potężne i mądrze zrobimy wykorzystując je. Jest także pewna sprawiedliwość w rozdzielaniu zasobów według ich wewnętrznej wartości oraz wartości pracy i kreatywności. Siły ewolucyjne jednak są krótkowzroczne i ostatecznie autodestrukcyjne, podobnie jest z siłami, które kontrolują rynek, lub algorytmy mediów społecznościowych,. Równocześnie więc potrzebujemy jakiejś, działającej “z góry do dołu”, długoterminowej strategii. To oznacza regulacje, majsterkowanie przy siłach ewolucyjnych tak, by nie szły w autodestrukcyjnym kierunku. Nie możemy jednak pozwolić systemowi na to, by był zbyt mocno sterowany “z góry do dołu”, bo to prowadzi do innego rodzaju nadużyć, takich jak pogoń za zyskiem, kumoterstwo, handel wpływami i do prostego faktu, że ci, którzy mają własne interesy prawdopodobnie przeważą nad tymi, którzy są tylko zainteresowani w lobbowaniu i innych politycznych działaniach.


Podobnie więc jak w wielu innych sytuacjach, musimy starannie równoważyć jedno z drugim, by mieć najlepsze z obu stron. Niechaj rządzi wolność i demokracja, ale z barierkami, które powstrzymają nas przez upadkiem w przepaść. I potrzebujemy systemu, w którym wiele instytucji trzyma się wzajemnie w szachu i nie ma absolutnej lub ostatecznej władzy, ale są mechanizmy samonaprawy.   


Możemy zastosować to wszystko do algorytmów mediów społecznościowych. Media społecznościowe są wspaniałe dla demokracji z powodu tego, że pozwalają każdemu prywatnemu obywatelowi szerzyć swoje słowa. Nie ma strażników przy bramach, nie ma dłużej oligarchii kilku gigantów medialnych.  


Media społecznościowe są jednak również straszliwe dla demokracji, ponieważ zamiast strażników przy bramach, którzy przynajmniej pozornie mieli standardy kontroli jakości, mamy teraz korporacyjnych gigantów, którzy kontrolują nurt informacji tylko w celu maksymalizacji własnych zysków. Są po prostu innym rodzajem strażników przy bramie ale takich, których model biznesu opiera się w jeszcze mniejszym stopniu na jakości dostarczanej informacji, a tylko na przykuwaniu wzroku do ekranów. (Jasne, to dotyczy również tradycyjnych mediów, prowadząc do pogoni za sensacją i całej reszty, ale jest tu różnica stopnia.). Ponadto, to wszystko jest zautomatyzowane komputerowymi algorytmami.


To wszystko dzieje się w kontekście ludzkiej psychologii, błędów poznawczych i sposobów, na jakie ludzie budują swoje przekonania i postrzegają informację. Ta mieszanka może być toksyczna, prowadząc ludzi ku coraz bardziej ograniczonym i radykalnym poglądom. Wynik – płaskoziemcy, QAnon, odrodzenie się antyszczepionkowców i szerzenie się niezliczonych teorii spiskowych. Informacja jest zagrzebana w dezinformacji. Podobnie do Tribblesów, które zmarły w głodu i komorze pełnej ziarna (przepraszam, nie mogłem się oprzeć), jesteśmy społeczeństwem głodującym z braku prawdy w informacyjnym ekosystemie zalanym informacją.


Co gorsza, to, co się dzieje, jest ślepą, niezamierzoną konsekwencją. Są jednak w tym niecni aktorzy, którzy wiedzą teraz, że mogą wykorzystać system, by świadomie maksymalizować chaos i negatywne rezultaty. Kończy nam się przestrzeń dzieląca nas od skraju przepaści, a oni popychają nas z tyłu.  


Jest kilka sposobów na radzenie sobie z tym i te sposoby nie wykluczają się wzajemnie. Pierwszym jest konieczność , by użytkownicy mediów społecznościowych byli świadomi tego, jak działają platformy, których używają i żądali, by prowadzące je firmy zachowywały się lepiej. Możemy głosować nogami. Trudno to jednak skoordynować i trudno wiedzieć (bez niezbędnej przejrzystości), co właściwie robią algorytmy w naszych mediach społecznościowych. Drugim jest nadzór, przejrzystość i regulacje, by traktować giganty mediów społecznościowych jak publiczne usługi i wymagać, by końcowi użytkownicy mieli więcej kontroli i wiedzy o tym, jak używana jest ich informacja i jaką informacją są karmieni.


I oczywiście, musimy nadal uczyć ludzi, by lepiej rozumieli media. To jest skuteczne na indywidualnym poziomie, ale nie tak bardzo na społecznym poziomie, ponieważ trudno jest o znaczny zasięg. Im więcej jest jednak ludzi, którzy rozumieją media tym lepiej i powinniśmy wbudować wiedzę o mediach w nasze programy szkolne. To powinno być w dodatku do wymogu większej przejrzystości ze strony gigantów mediów społecznościowych i rozważenia ostrożnych regulacji, by zapewnić „informacyjną merytokrację” – chcemy, by informacja była uszeregowana ze względu na obiektywną jakość, a nie tylko zdolność hipnotyzowania.


How Algorithms Affect Your Life

NeuroLogica Blog, 18 sierpnia 2020

Tłumaczenie: Małgorzata Koraszewska



Steven Novella 

Neurolog, wykładowca na Yale University School of Medicine. Przewodniczący i współzałożyciel New England Skeptical Society. Twórca popularnych (cotygodniowych) podkastów o nauce The Skeptics’ Guide to the Universe. Jest również dyrektorem Science-Based Medicine będącej częścią James Randi Educational Foundation (JREF), członek Committee for Skeptical Inquiry (CSI) oraz członek założyciel Institute for Science in Medicine. Prowadzi blog Neurologica.

Skomentuj Tipsa en vn Wydrukuj






Nauka

Znalezionych 1467 artykuły.

Tytuł   Autor   Opublikowany

Ideolodzy: dlaczego nauczanie genetyki musi mieć charakter społeczno-polityczny   Coyne   2024-03-19
Przepływ genów od neandertalczyków i denisowian do ludzi „współczesnych” i odwrotnie   Coyne   2024-03-14
Wejdź – skoro nalegasz   Tonhasca Júnior   2024-03-09
Czy “bezpłciowe” bakterie tworzą biologiczne gatunki?   Coyne   2024-03-06
Carl Zimmer o gatunkach i ochronie     2024-02-29
Kolejna błędna próba skorygowania ewolucji   Coyne   2024-02-22
Ryjący w ziemi przedsiębiorcy   Tonhasca Júnior   2024-02-15
Olbrzymie armie o niezliczonych umiejętnościach    Tonhasca Júnior   2024-02-08
Wejdź, powiedziała, dam ci schronienie przed burzą   Tonhasca Júnior   2024-01-15
Czy ludzie wyewoluowali w wodzie?   Coyne   2024-01-08
Jak upadają wielcy   Tonhasca Júnior   2024-01-04
Oczy reniferów zmieniają kolor, żeby łatwiej im było dostrzec jadalne porosty   Coyne   2023-12-30
Życzliwi przestępcy   Tonhasca Júnior   2023-12-28
Conor Friedesdorf (i Alexander Barvinok) o ideologicznym przymusie na amerykańskich uczelniach   Coyne   2023-12-26
Zdumiewający manipulatorzy   Tonhasca Júnior   2023-12-25
Nie gryzie się ręki, która cię zapyla   Tonhasca Júnior   2023-10-19
Rewolucja komunikacyjna   Hannam   2023-10-18
BBC szerzy propagandę rolnictwa organicznego, a biedni na świecie cierpią   i Kathleen Hefferon   2023-10-13
Niezwykły przypadek koewolucji i specyficzności zapylacz/storczyk   Coyne   2023-10-07
Płeć męska lub żeńska: nie ma nic pomiędzy   Elliot   2023-10-03
Myślenie intuicyjne i analityczne   Novella   2023-09-29
„Kryzys klimatyczny” to mistyfikacja   Williams   2023-09-25
Jak (i dlaczego) ośmiornica edytuje swój RNA   Lewis   2023-09-23
„Najbardziej znany zabójca ludzi”: jakie są prawdziwe początki XIV-wiecznej Czarnej Śmierci?   Lewis   2023-09-15
Do jakiego stopnia pary mają wspólne cechy?   Novella   2023-09-14
Kenia daje zielone światło 58 projektom GMO – naukowcy na całym świecie kontynuują badania w dziedzinie biotechnologii, mimo procesów sądowych i dezinformacji   Ombogo   2023-09-08
Lancet atakuje anty-przebudzenie, a czytelnik odpowiada   Coyne   2023-08-24
Więcej wyrafinowanej teologii: uczony religijny zastanawia się, czy neandertalczycy mieli nieśmiertelne dusze   Coyne   2023-08-16
Aktywiści anty-GMO w Afryce szerzą mity i strach, ale nie przedstawiają żadnych naukowych dowodów   Abutu   2023-08-14
Mało znana strona ryjkowców   Tonhasca Júnior   2023-08-11
Dlaczego nie można być osobą transrasową?   Coyne   2023-08-10
Walka z malarią za pomocą inżynierii genetycznej   Novella   2023-08-08
Jak restrykcje Unii Europejskiej podsycały głosy przeciwko GMO, jak również głód na globalnym Południu, a zwłaszcza w Afryce   Oria   2023-08-02
Nieznośni mali pomocnicy   Tonhasca Junior   2023-07-29
Macedońskie skarby   Tonhasca Júnior   2023-07-26
GMO i motyle   Novella   2023-07-25
Narzucanie ideologii naturze: Kew Garden celebruje „rośliny queer”   Coyne   2023-07-24
Smak miesiąca   Tonhasca Júnior   2023-07-20
Kłopoty na wylocie   Szczęsny   2023-07-18
Ideologiczne podważanie biologii   i Luana S. Maroja   2023-07-17
Role mężczyzn i kobiet w polowaniu, raz jeszcze   Coyne   2023-07-15
David Hillis o specjacji   Coyne   2023-07-13
Niechętni dawcy i pracowici biorcy   Tonhasca Júnior   2023-07-08
Grube problemy z jelitem   Szczęsny   2023-07-07
Badaczka z Leakey Foundation twierdzi, że kości orangutanów mówią nam, że biologiczna płeć jest spektrum, a nie binarna   Coyne   2023-06-30
Przez dziurkę od klucza   Szczęsny   2023-06-24
Nowa (nie podparta żadnymi dowodami) hipoteza, która eliminuje role płciowe w społecznościach łowców-zbieraczy   Coyne   2023-06-22
Błędne wyobrażenia o ewolucji   Coyne   2023-06-16
Influencerzy z podziemia   Tonhasca Júnior   2023-06-13
Jak wyewoluowało ubarwienie ostrzegawcze?   Coyne   2023-06-12
„San Francisco Chronicle” bardzo myli się w sprawie biologicznej płci   Coyne   2023-06-09
Kolczasty problem   Tonhasca Júnior   2023-06-06
Wpaść w amok. Empiryczna analiza szaleńczych zabójstw pokazuje, że wyłaniają się dwa różne wzorce.   King   2023-06-03
Błędna krytyka genetycznych testów na pochodzenie   Coyne   2023-06-02
Zdatny do lotu   Tonhasca Júnior   2023-06-01
‘Raniąca’ idea merytorycznych podstaw nauki    i Jerry Coyne   2023-05-29
Główny problem w filogenezie zwierząt wydaje się być rozwiązany   Coyne   2023-05-26
Americana   Tonhasca Júnior   2023-05-24
Czy uprawa jabłek odzwierciedla bigoterię?   Coyne   2023-05-18
Kenia: Musimy zająć się brakiem bezpieczeństwa żywnościowego, ale najpierw musimy położyć kres dezinformacji na temat upraw modyfikowanych genetycznie   Oria   2023-05-16
Czytanie myśli z fMRI i AI   Novella   2023-05-05
Jest lepiej niż myślisz   Lomborg   2023-05-03
Dwudziestu dziewięciunaukowców publikuje artykuł w obronie merytorycznych podstaw w nauce     2023-05-01
Niewygodna historia   Ferguson   2023-04-28
Biologia rezygnacji z działania: kiedy kontynuować, a kiedy spasować   Coyne   2023-04-26
Porywacze ciał   Tonhasca Júnior   2023-04-25
Porażka jest kluczowym składnikiem innowacji   Ridley   2023-04-22
Używanie roślin jako biofrabryk   Novella   2023-04-14
Dawno zmarli przemawiają do nas   Tonhasca Júnior   2023-04-12
Wątpliwi pomocnicy    Tonhasca Júnior   2023-04-08
Uganda: aktywiści przeciwni biotechnologii szerzą dezinformację   Wetaya   2023-04-05
Anglia pozwala na uprawy poddane edycji genów   Novella   2023-04-03
Recenzja z książki  Can “The Whole World” Be Wrong?   Rose   2023-04-01
Psychologia ewolucyjna dla początkujących   Coyne   2023-03-27
“Konwergentna” ewolucja mrówek grzybiarek Starego i Nowego świata   Coyne   2023-03-23
Gigantyczna armia małych zabójców   Tonhasca Júnior   2023-03-22
Colin Wright broni binarności płci u zwierząt   Coyne   2023-03-15
AI: gorąca randka z “Sydneyem ”   Gotefridi   2023-03-15
Zmienić język w ekologii i biologii ewolucyjnej! Przykład anemii sierpowatej   Coyne   2023-03-13
Wzrost liczby nieobecnych ojców i towarzyszące temu społeczne problemy   Geary   2023-03-11
No pasarán    Tonhasca Júnior   2023-03-04
Dezinformacja o GMO: Kenijczykom będzie trudno podejmować racjonalne decyzje i to może kosztować życie   Mykonyo   2023-02-24
Twardy kwiat do zgryzienia    Tonhasca Júnior   2023-02-22
ChatGPT niemal zdaje lekarski egzamin końcowy   Novella   2023-02-21
“Rogi” trylobitów mogły być używane jako broń w walkach między samcami   Coyne   2023-02-15
Postmodernizm obnażony   Dawkins   2023-02-14
Powody naszych wierzeń. Jak i dlaczego irracjonalność trzyma nas w swoich szponach i jak możemy z tym walczyć?   Pinker   2023-02-13
Kiedy zapada noc i ziemia jest ciemna   Tonhasca Júnior   2023-02-10
W nowej książce jest słuszna krytyka idei, że są lepsze i gorsze gatunki, ale jest także błędne twierdzenie, że gatunki nie są realne   Coyne   2023-02-06
Kolczatki wydmuchują bąbelki śluzu z nosa, żeby się ochłodzić   Coyne   2023-02-02
Mali i zręczni influencerzy   Tonhasca Júnior   2023-01-31
Dowody na ewolucję: Bezwłose zwierzęta mają martwe geny na sierść   Coyne   2023-01-23
Krew, znój, łzy i pot   Tonhasca Júnior   2023-01-19
Bąkojady czyszczą nosorożce   Coyne   2023-01-18
Mózg używa geometrii hiperbolicznej   Novella   2023-01-16
O wspaniały nowy świecie   Tonhasca Júnior   2023-01-12
Ciepło zabija. Zimno zabija wielu więcej   Jacoby   2023-01-09
Po co badać przestrzeń kosmiczną?   Jacoby   2023-01-04
Rdzenni Amerykanie żądają doczesnych resztek pumy z Griffith Park   Coyne   2023-01-03
Świetny artykuł o epigenetyce   Coyne   2022-12-30

« Poprzednia strona  Następna strona »
Polecane
artykuły

Lekarze bez Granic


Wojna w Ukrainie


Krytycy Izraela


Walka z malarią


Przedwyborcza kampania


Nowy ateizm


Rzeczywiste łamanie


Jest lepiej


Aburd


Rasy - konstrukt


Zielone energie


Zmiana klimatu


Pogrzebać złudzenia Oslo


Kilka poważnych...


Przeciwko autentyczności


Nowy ateizm


Lomborg


„Choroba” przywrócona przez Putina


„Przebudzeni”


Pod sztandarem


Wielki przekret


Łamanie praw człowieka


Jason Hill


Dlaczego BIden


Korzenie kryzysu energetycznego



Obietnica



Pytanie bez odpowiedzi



Bohaterzy chińskiego narodu



Naukowcy Unii Europejskiej



Teoria Rasy



Przekupieni



Heretycki impuls



Nie klanial



Cervantes



Wojaki Chrystusa


Listy z naszego sadu
Redaktor naczelny:   Hili
Webmaster:   Andrzej Koraszewski
Współpracownicy:   Jacek, , Małgorzata, Andrzej, Henryk