Prawda

Piątek, 29 marca 2024 - 07:02

« Poprzedni Następny »


Jak algorytmy wpływają na twoje życie


Steven Novella 2020-08-24


Stopień, do jakiego komputerowe algorytmy wpływają na twoje życie to jest jedna z tych rzeczy, których futurolodzy nie przewidzieli, ale która teraz wydaje się oczywista i nieunikniona. Zawsze trudno jest czynić negatywne twierdzenia i trzeba się zastrzegać – ale nie znam żadnego tekstu science fiction lub futurologicznego sprzed roku 2000, który choćby wspominał rolę algorytmów mediów społecznościowych lub innych informacyjnych algorytmów w społeczeństwie i kulturze (jak zawsze, dajcie mi znać, jeśli coś mi umknęło). W bardzo krótkim czasie jednak stały się one poważnym wyzwaniem dla wielu społeczeństw. Teraz jest także łatwo wyobrazić sobie, że komputerowe algorytmy będą dominującym tematem w przyszłości. Ludzie będą prawdopodobnie dyskutować o ich roli, kto je kontroluje i kto powinien je kontrolować, i jakie powinny być regulacje, jeśli w ogóle jakieś.

Najgorszym rezultatem byłby brak takich dyskusji, bo będzie to znaczyło, że ludzie nie są świadomi roli algorytmów w ich życiu i tego, kto je kontroluje. Zasadniczo to właśnie dzieje się w Chinach i innych autorytarnych krajach. Algorytmy mediów społecznościowych są marzeniem autokraty – dają mu niewiarygodną możliwość kontrolowania tego, co ludzie widzą, jak informacja do nich dociera i do pewnego stopnia, co myślą. To jest „rok 1984” na sterydach. Orwell wyobrażał sobie, że w celu kontrolowania tego, co i jak ludzie myślą, autokraci będą kontrolować język. Ogranicz język, a ograniczysz myśl. To był interesujący pomysł sprzed czasów sieci i sprzed mediów społecznościowych. Teraz komputerowe algorytmy mogą kontrolować informację i, przez przedłużenie, to, co ludzie wiedzą i myślą – bezszwowo, niewidzialnie oraz z przerażającą mocą.  


Jednak także w otwartych, demokratycznych społeczeństwach niewidzialna ręka komputerowych algorytmów może dokonać spustoszeń. Badacze społeczni, którzy studiują to zjawisko, biją coraz mocniej na alarm. Niedawnym przykładem jest antyekstremistyczna grupa w Wielkiej Brytanii, która ostrzega obecnie, że według ich badań algorytmy Facebooka aktywnie promują negację Holocaustu i inne teorie spiskowe. Odkryli (co w zasadzie nie powinno nikogo dziwić), że odwiedzający strony Facebooka, które zaprzeczają Holocaustowi, są kierowania do innych stron, które także negują Holocaust. To z kolei prowadzi do innych spisków, które kierują do dalszych treści spiskowych i wpadasz w czarną dziurę.  

 

Nie jest żadną tajemnicą, dlaczego to się dzieje. Jak wyjaśniał pewien inżynier, były pracownik Google:

Algorytmy mediów społecznościowych kontynuują promocję szkodliwych treści przez “optymalizację czasu oglądania za wszelką cenę” – mówi Guillaume Chaslot.

Media społecznościowe podkręcają swoje algorytmy, by maksymalizować swoje zyski, co znaczy maksymalizowanie ilości czasu jaki odwiedzający pozostają na ich witrynie, co znaczy dalej karmienie ich materiałem, który wydają się chcieć i którym mogą być zainteresowani. To jest znakomity przykład niezamierzonych konsekwencji – media społecznościowe wyewoluowały w konkurencyjnym środowisku, by przeżyć przez trzymanie surfujących w Internecie na swojej stronie tak długo, jak to możliwe.  Jako epifenomen jednak, algorytmy zaprojektowane do osiągania tego celu mają także tendencję do radykalizowania użytkowników mediów społecznościowych przez karmienie ich coraz bardziej ekstremalnymi treściami. Jeśli posuwasz się o krok w jednym kierunku, media społecznościowe wciągają cię dalej aż do skrajności, wszystko po to, by trzymać cię przy oglądaniu ich stron tak długo, jak to możliwe.    


Na marginesie: tak właśnie działają siły ewolucyjne, także w ewolucji biologicznej. Krótkoterminowe korzyści prowadzą czasami w ślepe zaułki, czasem prowadząc w końcu do eksterminacji. Na przykład, pawie “zradykalizowały” swoje upierzenie, by zmaksymalizować krótkoterminowy sukces reprodukcyjny, ale niemal z pewnością w efekcie skazały swój gatunek na znacznie wcześniejsze wymarcie. (Im bardziej wyspecjalizowany gatunek, tym krótsza jego długowieczność, podczas gdy „wszystkoiści” na ogół trwają dłużej.) Jest tak z powodu ślepoty ewolucji: zna ona tylko krótkoterminowe przeżycie i rozmnożenie się. Nie ma mechanizmu na długotrwałą strategię. Oczywiście jednak, istnieją miliony gatunków, więc przez przypadek niektóre mogą natrafić na rzeczywiście dobre długoterminowe strategie i przetrwać.


Jeśli więc, rozszerzymy perspektywę i spojrzymy na to z bardzo wysoka, jak powinniśmy optymalnie zaprojektować i kierować naszym społeczeństwem? Zwolennicy wolnego rynku argumentują, że powinniśmy  wykorzystywać siłę systemów “z dołu do góry”, pozwolić miliardom transakcji na organiczne wypracowanie rozwiązania. Ten proces tworzy olbrzymią ilość informacji, jakiej nie może powtórzyć żaden komitet. Z drugiej strony spektrum, orędownicy socjalizmu/regulacji argumentują, że całkowicie wolne systemy łatwo wykorzystywać. W sposób nieunikniony coraz więcej władzy i zasobów znajdzie drogę do rąk coraz mniejszej liczby ludzi, aż społeczeństwo załamie się. Historycznie jest to prawdą w właściwie 100% wypadków. Z czasem ludzie z władzą i siłą znajdą sposób na użycie tej władzy, by zdobyć więcej władzy i przekazać korzyści swoim dzieciom. W końcu potrzeba regulacji, by wyrównać boisko, bo inaczej masz rewolucję, która wymazuje tablicę do czysta i wszystko zaczyna się od nowa.


Oba krańce tego spectrum są poprawne – ewolucyjny “wolny rynek” i siły demokratyczne są potężne i mądrze zrobimy wykorzystując je. Jest także pewna sprawiedliwość w rozdzielaniu zasobów według ich wewnętrznej wartości oraz wartości pracy i kreatywności. Siły ewolucyjne jednak są krótkowzroczne i ostatecznie autodestrukcyjne, podobnie jest z siłami, które kontrolują rynek, lub algorytmy mediów społecznościowych,. Równocześnie więc potrzebujemy jakiejś, działającej “z góry do dołu”, długoterminowej strategii. To oznacza regulacje, majsterkowanie przy siłach ewolucyjnych tak, by nie szły w autodestrukcyjnym kierunku. Nie możemy jednak pozwolić systemowi na to, by był zbyt mocno sterowany “z góry do dołu”, bo to prowadzi do innego rodzaju nadużyć, takich jak pogoń za zyskiem, kumoterstwo, handel wpływami i do prostego faktu, że ci, którzy mają własne interesy prawdopodobnie przeważą nad tymi, którzy są tylko zainteresowani w lobbowaniu i innych politycznych działaniach.


Podobnie więc jak w wielu innych sytuacjach, musimy starannie równoważyć jedno z drugim, by mieć najlepsze z obu stron. Niechaj rządzi wolność i demokracja, ale z barierkami, które powstrzymają nas przez upadkiem w przepaść. I potrzebujemy systemu, w którym wiele instytucji trzyma się wzajemnie w szachu i nie ma absolutnej lub ostatecznej władzy, ale są mechanizmy samonaprawy.   


Możemy zastosować to wszystko do algorytmów mediów społecznościowych. Media społecznościowe są wspaniałe dla demokracji z powodu tego, że pozwalają każdemu prywatnemu obywatelowi szerzyć swoje słowa. Nie ma strażników przy bramach, nie ma dłużej oligarchii kilku gigantów medialnych.  


Media społecznościowe są jednak również straszliwe dla demokracji, ponieważ zamiast strażników przy bramach, którzy przynajmniej pozornie mieli standardy kontroli jakości, mamy teraz korporacyjnych gigantów, którzy kontrolują nurt informacji tylko w celu maksymalizacji własnych zysków. Są po prostu innym rodzajem strażników przy bramie ale takich, których model biznesu opiera się w jeszcze mniejszym stopniu na jakości dostarczanej informacji, a tylko na przykuwaniu wzroku do ekranów. (Jasne, to dotyczy również tradycyjnych mediów, prowadząc do pogoni za sensacją i całej reszty, ale jest tu różnica stopnia.). Ponadto, to wszystko jest zautomatyzowane komputerowymi algorytmami.


To wszystko dzieje się w kontekście ludzkiej psychologii, błędów poznawczych i sposobów, na jakie ludzie budują swoje przekonania i postrzegają informację. Ta mieszanka może być toksyczna, prowadząc ludzi ku coraz bardziej ograniczonym i radykalnym poglądom. Wynik – płaskoziemcy, QAnon, odrodzenie się antyszczepionkowców i szerzenie się niezliczonych teorii spiskowych. Informacja jest zagrzebana w dezinformacji. Podobnie do Tribblesów, które zmarły w głodu i komorze pełnej ziarna (przepraszam, nie mogłem się oprzeć), jesteśmy społeczeństwem głodującym z braku prawdy w informacyjnym ekosystemie zalanym informacją.


Co gorsza, to, co się dzieje, jest ślepą, niezamierzoną konsekwencją. Są jednak w tym niecni aktorzy, którzy wiedzą teraz, że mogą wykorzystać system, by świadomie maksymalizować chaos i negatywne rezultaty. Kończy nam się przestrzeń dzieląca nas od skraju przepaści, a oni popychają nas z tyłu.  


Jest kilka sposobów na radzenie sobie z tym i te sposoby nie wykluczają się wzajemnie. Pierwszym jest konieczność , by użytkownicy mediów społecznościowych byli świadomi tego, jak działają platformy, których używają i żądali, by prowadzące je firmy zachowywały się lepiej. Możemy głosować nogami. Trudno to jednak skoordynować i trudno wiedzieć (bez niezbędnej przejrzystości), co właściwie robią algorytmy w naszych mediach społecznościowych. Drugim jest nadzór, przejrzystość i regulacje, by traktować giganty mediów społecznościowych jak publiczne usługi i wymagać, by końcowi użytkownicy mieli więcej kontroli i wiedzy o tym, jak używana jest ich informacja i jaką informacją są karmieni.


I oczywiście, musimy nadal uczyć ludzi, by lepiej rozumieli media. To jest skuteczne na indywidualnym poziomie, ale nie tak bardzo na społecznym poziomie, ponieważ trudno jest o znaczny zasięg. Im więcej jest jednak ludzi, którzy rozumieją media tym lepiej i powinniśmy wbudować wiedzę o mediach w nasze programy szkolne. To powinno być w dodatku do wymogu większej przejrzystości ze strony gigantów mediów społecznościowych i rozważenia ostrożnych regulacji, by zapewnić „informacyjną merytokrację” – chcemy, by informacja była uszeregowana ze względu na obiektywną jakość, a nie tylko zdolność hipnotyzowania.


How Algorithms Affect Your Life

NeuroLogica Blog, 18 sierpnia 2020

Tłumaczenie: Małgorzata Koraszewska



Steven Novella 

Neurolog, wykładowca na Yale University School of Medicine. Przewodniczący i współzałożyciel New England Skeptical Society. Twórca popularnych (cotygodniowych) podkastów o nauce The Skeptics’ Guide to the Universe. Jest również dyrektorem Science-Based Medicine będącej częścią James Randi Educational Foundation (JREF), członek Committee for Skeptical Inquiry (CSI) oraz członek założyciel Institute for Science in Medicine. Prowadzi blog Neurologica.

Skomentuj Tipsa en vn Wydrukuj






Nauka

Znalezionych 1470 artykuły.

Tytuł   Autor   Opublikowany

„Grubogłowi przedsiębiorcy pogrzebowi w noc żywych trupów”   Júnior   2022-05-31
„Gryzoń skunksowy”, który żuje trujące rośliny i wypluwa truciznę na swoje futro   Coyne   2020-12-02
„Kryzys klimatyczny” to mistyfikacja   Williams   2023-09-25
„Najbardziej znany zabójca ludzi”: jakie są prawdziwe początki XIV-wiecznej Czarnej Śmierci?   Lewis   2023-09-15
„New Yorker” pisze o hoacynie, sugeruje, że koncepcja Darwina drzew ewolucyjnych może być urojeniem   Coyne   2022-07-25
„San Francisco Chronicle” bardzo myli się w sprawie biologicznej płci   Coyne   2023-06-09
„Zapylisz mnie!”: nachalni bohaterowie świata roślin   Júnior   2022-06-11
“Czarne tygrysy” w małym indyjskim rezerwacie sugerują losowy dryf genetyczny   Coyne   2021-10-26
“Daily Beast” wypacza epigenetykę oszukańczymi twierdzeniami, że dzieci mogą “odziedziczyć wspomnienia Holocaustu”   Coyne   2017-10-05
“Konwergentna” ewolucja mrówek grzybiarek Starego i Nowego świata   Coyne   2023-03-23
“Odwrócenie specjacji” (fuzja gatunków) u kruków   Coyne   2018-03-16
“Partenogenetyczny” rak rozmnaża się bez seksu: czy to jest nowy gatunek?   Coyne   2018-02-17
“Rogi” trylobitów mogły być używane jako broń w walkach między samcami   Coyne   2023-02-15
“Scientific American” poświęca się polityce, a nie nauce; odmawia publikowania krytycznych analiz swoich fałszywych lub wprowadzających w błąd twierdzeń   Coyne   2022-09-01
“Współczesny” Homo sapiens mógł być w Eurazji aż 210 tysięcy lat temu   Coyne   2019-07-17
‘Raniąca’ idea merytorycznych podstaw nauki    i Jerry Coyne   2023-05-29
 Syntetyczna biologia oferuje obietnicę rozwiązania globalnego problemu z plastikiem   Agaba   2021-12-13
10 twierdzeń działaczy walczących w Afryce z GMO o tym, dlaczego postępy w biotechnologii upraw powinny zostać odrzucone – i dlaczego są one błędne   Maina   2022-11-17
100 milionów lat ozdabiania się śmieciami   Yong   2016-07-05
12 podstawowych punktów biologii ewolucyjnej   Cobb   2016-03-02
Pseudonauka Masaru Emoto   Novella   2017-12-18
Czy „toksyczna kobiecość” jest główną przyczyną bojów o społeczną sprawiedliwość?   Coyne   2021-02-08
Paradoksalne cechy genetyki inteligencji   Ridley   2013-12-18
“New Scientist”: Darwin jednak miał rację    Coyne   2020-10-01
Intelektualna pustka numeru “New Scientist” o ewolucji: 1. Genetyczna plastyczność    Coyne   2020-10-03
Intelektualna pustka numeru “New Scientist” o ewolucji: 2. Rzekome nieistnienie gatunków   Coyne   2020-10-05
Klasyczna historia skorygowana: porosty to grzyby + glony + drożdże (inne grzyby)   Coyne   2016-08-05
Homo floresiensis, hominin “hobbit”, w Internecie   Coyne   2016-11-25
No pasarán    Tonhasca Júnior   2023-03-04
Strzelby, zarazki, maszyny to zdecydowanie antyrasistowska książka. Dlaczego lewica jej nie kocha?   Barnett   2021-10-13
„ Całujące się” koralowce złapane in flagranti   Yong   2016-07-28
”Sygnalizowanie cnoty” może nas irytować. Cywilizacja byłaby jednak bez niego niemożliwa    Miller   2019-09-13
A jednak chorują na raka    Łopatniuk   2016-02-13
Czyste okrucieństwo cięć w pomocy żywnościowej   Lomborg   2017-08-07
Dalszy spadek zgonów z powodu raka   Novella   2019-02-04
Dlaczego mamy alergie?   Zimmer   2016-01-28
Dlaczego sądy nie powinny rozstrzygać o nauce     2018-12-13
Dlaczego większość zasobównie wyczerpuje się   Ridley   2014-05-04
Dlaczego zwierzęta są urocze?   Coyne   2014-12-30
Dziennik z Mozambiku: Demony w kurzu   Naskręcki   2018-03-30
Dziwaczne, wysysające krew czerwie jurajskie   Cobb   2014-06-28
Ewolucja, ptaki i kwiaty   Coyne   2014-06-02
Gigantyczne “paleonory” wykopane przez wymarłe ssaki   Coyne   2017-06-29
Grupy anty-GMO przegrywają sprawę sądową w Nigerii    i Nkechi Isaak   2022-07-30
Jak karakara wygrywa z osami   Cobb   2013-12-29
Kiedy zapada noc i ziemia jest ciemna   Tonhasca Júnior   2023-02-10
Kilka lekcji z rosyjskiej rewolucji. Jak kuszący radykalny nihilizm prowadzi do ekstremizmu   Geifman   2021-03-22
Komisja Europejska ukrywa naukę o pszczołach   Ridley   2017-05-03
Malaria pachnąca cytryną    Zimmer   2015-04-07
Małpo ty moja   Koraszewski   2015-04-17
Metamorfozy    Júnior   2022-04-09
Minęło 40 lat od wydania „Samolubnego genu” – śmiała książka Richarda Dawkinsa ostała się próbie czasu   Ridley   2016-02-17
Niezwykły pasikonik szklany   Naskręcki   2014-05-27
Nowe badanie wskazuje na jednego oszusta   Coyne   2016-08-18
Nowy i dziwaczny rodzaj mimikry: nasiona rośliny naśladują kształt i zapach odchodów zwierzęcych, by ułatwić roznoszenie ich przez żuki gnojowe   Coyne   2015-10-20
O porażkach wolności i lęku przed nauką   Dennett   2016-05-20
O rzeczywistości rasy i odrazie do rasizmu    i Brian Boutwell   2017-09-04
Obniżenie poprzeczki dla tradycyjnej medycyny chińskiej dla ideologii i zysku     2017-12-29
Olbrzymie armie o niezliczonych umiejętnościach    Tonhasca Júnior   2024-02-08
Osobisty mikrobiom w cyfrach   Zimmer   2014-08-14
Ostrogony nie są naprawdę “żywymi skamieniałościami”    Coyne   2015-07-29
Palestyńska intersekcjonalność z nazistami   Frantzman   2017-07-08
Pochwała ignorancji, czyli wiem, że nie wiem   Cullen   2017-01-11
Przykre niespodzianki, czyli czerniak i siwizna   Łopatniuk   2015-08-01
Przypuszczalnie złamana kość    Coyne   2015-06-04
Rozum i Wiara IICzyli takie sobie rozmowy o religijnych „prawdach” i problemach z nimi związanych.   Ferus   2015-11-22
Ryba z biodrami   Mayer   2016-03-30
Siedem narzędzi myślenia   Dennett   2014-11-19
Skrzydlaci oszuści i straż obywatelska   Young   2014-01-02
Tako rzecze antyszczepionkowa “wojowniczka mama”, Brittney Kara: jeśli szczepionki są tak wspaniałe, to dlaczego nie wspomina ich Biblia?     2018-04-26
Twardy kwiat do zgryzienia    Tonhasca Júnior   2023-02-22
Wielkoskrzydłe   Naskręcki   2014-04-02
Wierzący nagradzani za życia   Coyne   2014-12-21
Wpaść w amok. Empiryczna analiza szaleńczych zabójstw pokazuje, że wyłaniają się dwa różne wzorce.   King   2023-06-03
Wątpliwi pomocnicy    Tonhasca Júnior   2023-04-08
Świetna ewolucyjna innowacjaktóra okazała się zgubna   Yong   2015-12-10
Dlaczego odmawiamy dostrzegania jaśniejszej strony, choć powinniśmy   Pinker   2018-04-17
Krew, znój, łzy i pot   Tonhasca Júnior   2023-01-19
Mądrość w pułapce autorytetu   Witkowski   2020-04-18
Po prostu nie mogę się doczekać, aby znów wyruszyć w trasę   Tonhasca Júnior   2022-10-27
Pochwała jednoznaczności   Witkowski   2019-10-29
Z perspektywy naszego kurnika   Witkowski   2020-01-16
A co to takie włochate?   Łopatniuk   2016-04-02
A genomy ciągle kurczą się…   Zimmer   2016-11-22
A teraz dobre wiadomości: Sprawy naprawdę idą w dobrym kierunku   Pinker   2015-11-24
A polać wielką wodą…   Cipiur   2019-05-18
A.N. Wilson znowu kopie Darwina, tym razem w “Times”   Coyne   2017-09-07
Adam i Ewa: dwoje, czy więcej niż dwoje przodków?   Coyne   2017-01-07
Afrykańscy naukowcy wzywają do polityki poparcia biologii syntetycznej i innych innowacji   Agaba   2021-12-02
Agroekologia zmienia biednych farmerów w biedniejszych   Muhumuza   2022-06-09
AI – asystent lekarza   Novella   2020-12-09
AI: gorąca randka z “Sydneyem ”   Gotefridi   2023-03-15
Akademicki skandal: troje badaczy umyślnie publikowało fałszywe artykuły o „badaniach żałości”, by pokazać fatalne standardy akademickie w naukach społecznych   Coyne   2018-10-12
Akcja afirmatywna w wieloetnicznym narodzie   Hyams   2020-07-17
Aktywacja telomerazy mogłaby prowadzić do leczenia samej starości   Ridley   2015-10-27
Aktywiści anty-GMO w Afryce szerzą mity i strach, ale nie przedstawiają żadnych naukowych dowodów   Abutu   2023-08-14
Aktywność umysłowa nie zapobiega osłabieniu umysłowej sprawności   Novella   2018-12-15
Akupunktura jadu pszczelego: śmiercionośne znachorstwo, które może zabić     2018-04-23
Akupunktura kontra nauka, wersja lingwistyczna     2017-06-01
Akupunktura kwantowa   Novella   2019-04-23

« Poprzednia strona  Następna strona »
Polecane
artykuły

Lekarze bez Granic


Wojna w Ukrainie


Krytycy Izraela


Walka z malarią


Przedwyborcza kampania


Nowy ateizm


Rzeczywiste łamanie


Jest lepiej


Aburd


Rasy - konstrukt


Zielone energie


Zmiana klimatu


Pogrzebać złudzenia Oslo


Kilka poważnych...


Przeciwko autentyczności


Nowy ateizm


Lomborg


„Choroba” przywrócona przez Putina


„Przebudzeni”


Pod sztandarem


Wielki przekret


Łamanie praw człowieka


Jason Hill


Dlaczego BIden


Korzenie kryzysu energetycznego



Obietnica



Pytanie bez odpowiedzi



Bohaterzy chińskiego narodu



Naukowcy Unii Europejskiej



Teoria Rasy



Przekupieni



Heretycki impuls



Nie klanial



Cervantes



Wojaki Chrystusa


Listy z naszego sadu
Redaktor naczelny:   Hili
Webmaster:   Andrzej Koraszewski
Współpracownicy:   Jacek, , Małgorzata, Andrzej, Henryk