Prawda

Wtorek, 29 wrzesnia 2020 - 22:55

« Poprzedni Następny »


Jak algorytmy wpływają na twoje życie


Steven Novella 2020-08-24


Stopień, do jakiego komputerowe algorytmy wpływają na twoje życie to jest jedna z tych rzeczy, których futurolodzy nie przewidzieli, ale która teraz wydaje się oczywista i nieunikniona. Zawsze trudno jest czynić negatywne twierdzenia i trzeba się zastrzegać – ale nie znam żadnego tekstu science fiction lub futurologicznego sprzed roku 2000, który choćby wspominał rolę algorytmów mediów społecznościowych lub innych informacyjnych algorytmów w społeczeństwie i kulturze (jak zawsze, dajcie mi znać, jeśli coś mi umknęło). W bardzo krótkim czasie jednak stały się one poważnym wyzwaniem dla wielu społeczeństw. Teraz jest także łatwo wyobrazić sobie, że komputerowe algorytmy będą dominującym tematem w przyszłości. Ludzie będą prawdopodobnie dyskutować o ich roli, kto je kontroluje i kto powinien je kontrolować, i jakie powinny być regulacje, jeśli w ogóle jakieś.

Najgorszym rezultatem byłby brak takich dyskusji, bo będzie to znaczyło, że ludzie nie są świadomi roli algorytmów w ich życiu i tego, kto je kontroluje. Zasadniczo to właśnie dzieje się w Chinach i innych autorytarnych krajach. Algorytmy mediów społecznościowych są marzeniem autokraty – dają mu niewiarygodną możliwość kontrolowania tego, co ludzie widzą, jak informacja do nich dociera i do pewnego stopnia, co myślą. To jest „rok 1984” na sterydach. Orwell wyobrażał sobie, że w celu kontrolowania tego, co i jak ludzie myślą, autokraci będą kontrolować język. Ogranicz język, a ograniczysz myśl. To był interesujący pomysł sprzed czasów sieci i sprzed mediów społecznościowych. Teraz komputerowe algorytmy mogą kontrolować informację i, przez przedłużenie, to, co ludzie wiedzą i myślą – bezszwowo, niewidzialnie oraz z przerażającą mocą.  


Jednak także w otwartych, demokratycznych społeczeństwach niewidzialna ręka komputerowych algorytmów może dokonać spustoszeń. Badacze społeczni, którzy studiują to zjawisko, biją coraz mocniej na alarm. Niedawnym przykładem jest antyekstremistyczna grupa w Wielkiej Brytanii, która ostrzega obecnie, że według ich badań algorytmy Facebooka aktywnie promują negację Holocaustu i inne teorie spiskowe. Odkryli (co w zasadzie nie powinno nikogo dziwić), że odwiedzający strony Facebooka, które zaprzeczają Holocaustowi, są kierowania do innych stron, które także negują Holocaust. To z kolei prowadzi do innych spisków, które kierują do dalszych treści spiskowych i wpadasz w czarną dziurę.  

 

Nie jest żadną tajemnicą, dlaczego to się dzieje. Jak wyjaśniał pewien inżynier, były pracownik Google:

Algorytmy mediów społecznościowych kontynuują promocję szkodliwych treści przez “optymalizację czasu oglądania za wszelką cenę” – mówi Guillaume Chaslot.

Media społecznościowe podkręcają swoje algorytmy, by maksymalizować swoje zyski, co znaczy maksymalizowanie ilości czasu jaki odwiedzający pozostają na ich witrynie, co znaczy dalej karmienie ich materiałem, który wydają się chcieć i którym mogą być zainteresowani. To jest znakomity przykład niezamierzonych konsekwencji – media społecznościowe wyewoluowały w konkurencyjnym środowisku, by przeżyć przez trzymanie surfujących w Internecie na swojej stronie tak długo, jak to możliwe.  Jako epifenomen jednak, algorytmy zaprojektowane do osiągania tego celu mają także tendencję do radykalizowania użytkowników mediów społecznościowych przez karmienie ich coraz bardziej ekstremalnymi treściami. Jeśli posuwasz się o krok w jednym kierunku, media społecznościowe wciągają cię dalej aż do skrajności, wszystko po to, by trzymać cię przy oglądaniu ich stron tak długo, jak to możliwe.    


Na marginesie: tak właśnie działają siły ewolucyjne, także w ewolucji biologicznej. Krótkoterminowe korzyści prowadzą czasami w ślepe zaułki, czasem prowadząc w końcu do eksterminacji. Na przykład, pawie “zradykalizowały” swoje upierzenie, by zmaksymalizować krótkoterminowy sukces reprodukcyjny, ale niemal z pewnością w efekcie skazały swój gatunek na znacznie wcześniejsze wymarcie. (Im bardziej wyspecjalizowany gatunek, tym krótsza jego długowieczność, podczas gdy „wszystkoiści” na ogół trwają dłużej.) Jest tak z powodu ślepoty ewolucji: zna ona tylko krótkoterminowe przeżycie i rozmnożenie się. Nie ma mechanizmu na długotrwałą strategię. Oczywiście jednak, istnieją miliony gatunków, więc przez przypadek niektóre mogą natrafić na rzeczywiście dobre długoterminowe strategie i przetrwać.


Jeśli więc, rozszerzymy perspektywę i spojrzymy na to z bardzo wysoka, jak powinniśmy optymalnie zaprojektować i kierować naszym społeczeństwem? Zwolennicy wolnego rynku argumentują, że powinniśmy  wykorzystywać siłę systemów “z dołu do góry”, pozwolić miliardom transakcji na organiczne wypracowanie rozwiązania. Ten proces tworzy olbrzymią ilość informacji, jakiej nie może powtórzyć żaden komitet. Z drugiej strony spektrum, orędownicy socjalizmu/regulacji argumentują, że całkowicie wolne systemy łatwo wykorzystywać. W sposób nieunikniony coraz więcej władzy i zasobów znajdzie drogę do rąk coraz mniejszej liczby ludzi, aż społeczeństwo załamie się. Historycznie jest to prawdą w właściwie 100% wypadków. Z czasem ludzie z władzą i siłą znajdą sposób na użycie tej władzy, by zdobyć więcej władzy i przekazać korzyści swoim dzieciom. W końcu potrzeba regulacji, by wyrównać boisko, bo inaczej masz rewolucję, która wymazuje tablicę do czysta i wszystko zaczyna się od nowa.


Oba krańce tego spectrum są poprawne – ewolucyjny “wolny rynek” i siły demokratyczne są potężne i mądrze zrobimy wykorzystując je. Jest także pewna sprawiedliwość w rozdzielaniu zasobów według ich wewnętrznej wartości oraz wartości pracy i kreatywności. Siły ewolucyjne jednak są krótkowzroczne i ostatecznie autodestrukcyjne, podobnie jest z siłami, które kontrolują rynek, lub algorytmy mediów społecznościowych,. Równocześnie więc potrzebujemy jakiejś, działającej “z góry do dołu”, długoterminowej strategii. To oznacza regulacje, majsterkowanie przy siłach ewolucyjnych tak, by nie szły w autodestrukcyjnym kierunku. Nie możemy jednak pozwolić systemowi na to, by był zbyt mocno sterowany “z góry do dołu”, bo to prowadzi do innego rodzaju nadużyć, takich jak pogoń za zyskiem, kumoterstwo, handel wpływami i do prostego faktu, że ci, którzy mają własne interesy prawdopodobnie przeważą nad tymi, którzy są tylko zainteresowani w lobbowaniu i innych politycznych działaniach.


Podobnie więc jak w wielu innych sytuacjach, musimy starannie równoważyć jedno z drugim, by mieć najlepsze z obu stron. Niechaj rządzi wolność i demokracja, ale z barierkami, które powstrzymają nas przez upadkiem w przepaść. I potrzebujemy systemu, w którym wiele instytucji trzyma się wzajemnie w szachu i nie ma absolutnej lub ostatecznej władzy, ale są mechanizmy samonaprawy.   


Możemy zastosować to wszystko do algorytmów mediów społecznościowych. Media społecznościowe są wspaniałe dla demokracji z powodu tego, że pozwalają każdemu prywatnemu obywatelowi szerzyć swoje słowa. Nie ma strażników przy bramach, nie ma dłużej oligarchii kilku gigantów medialnych.  


Media społecznościowe są jednak również straszliwe dla demokracji, ponieważ zamiast strażników przy bramach, którzy przynajmniej pozornie mieli standardy kontroli jakości, mamy teraz korporacyjnych gigantów, którzy kontrolują nurt informacji tylko w celu maksymalizacji własnych zysków. Są po prostu innym rodzajem strażników przy bramie ale takich, których model biznesu opiera się w jeszcze mniejszym stopniu na jakości dostarczanej informacji, a tylko na przykuwaniu wzroku do ekranów. (Jasne, to dotyczy również tradycyjnych mediów, prowadząc do pogoni za sensacją i całej reszty, ale jest tu różnica stopnia.). Ponadto, to wszystko jest zautomatyzowane komputerowymi algorytmami.


To wszystko dzieje się w kontekście ludzkiej psychologii, błędów poznawczych i sposobów, na jakie ludzie budują swoje przekonania i postrzegają informację. Ta mieszanka może być toksyczna, prowadząc ludzi ku coraz bardziej ograniczonym i radykalnym poglądom. Wynik – płaskoziemcy, QAnon, odrodzenie się antyszczepionkowców i szerzenie się niezliczonych teorii spiskowych. Informacja jest zagrzebana w dezinformacji. Podobnie do Tribblesów, które zmarły w głodu i komorze pełnej ziarna (przepraszam, nie mogłem się oprzeć), jesteśmy społeczeństwem głodującym z braku prawdy w informacyjnym ekosystemie zalanym informacją.


Co gorsza, to, co się dzieje, jest ślepą, niezamierzoną konsekwencją. Są jednak w tym niecni aktorzy, którzy wiedzą teraz, że mogą wykorzystać system, by świadomie maksymalizować chaos i negatywne rezultaty. Kończy nam się przestrzeń dzieląca nas od skraju przepaści, a oni popychają nas z tyłu.  


Jest kilka sposobów na radzenie sobie z tym i te sposoby nie wykluczają się wzajemnie. Pierwszym jest konieczność , by użytkownicy mediów społecznościowych byli świadomi tego, jak działają platformy, których używają i żądali, by prowadzące je firmy zachowywały się lepiej. Możemy głosować nogami. Trudno to jednak skoordynować i trudno wiedzieć (bez niezbędnej przejrzystości), co właściwie robią algorytmy w naszych mediach społecznościowych. Drugim jest nadzór, przejrzystość i regulacje, by traktować giganty mediów społecznościowych jak publiczne usługi i wymagać, by końcowi użytkownicy mieli więcej kontroli i wiedzy o tym, jak używana jest ich informacja i jaką informacją są karmieni.


I oczywiście, musimy nadal uczyć ludzi, by lepiej rozumieli media. To jest skuteczne na indywidualnym poziomie, ale nie tak bardzo na społecznym poziomie, ponieważ trudno jest o znaczny zasięg. Im więcej jest jednak ludzi, którzy rozumieją media tym lepiej i powinniśmy wbudować wiedzę o mediach w nasze programy szkolne. To powinno być w dodatku do wymogu większej przejrzystości ze strony gigantów mediów społecznościowych i rozważenia ostrożnych regulacji, by zapewnić „informacyjną merytokrację” – chcemy, by informacja była uszeregowana ze względu na obiektywną jakość, a nie tylko zdolność hipnotyzowania.


How Algorithms Affect Your Life

NeuroLogica Blog, 18 sierpnia 2020

Tłumaczenie: Małgorzata Koraszewska



Steven Novella 

Neurolog, wykładowca na Yale University School of Medicine. Przewodniczący i współzałożyciel New England Skeptical Society. Twórca popularnych (cotygodniowych) podkastów o nauce The Skeptics’ Guide to the Universe. Jest również dyrektorem Science-Based Medicine będącej częścią James Randi Educational Foundation (JREF), członek Committee for Skeptical Inquiry (CSI) oraz członek założyciel Institute for Science in Medicine. Prowadzi blog Neurologica.

Skomentuj     Wyślij artykuł do znajomego:     Wydrukuj






Nauka

Znalezionych 1152 artykuły.

Tytuł   Autor   Opublikowany

Uprawy GMO i wzrost plonów   Novella   2020-09-28
Książka o psychologii ewolucyjnej, która pokazuje wartość tej dziedziny – ale nie wartość memów     2020-09-22
Przyjemności seksu i jagód   Ridley   2020-09-18
Czy można falsyfikować naukowe teorie? Naukowiec odpowiada, że “nie”   Coyne   2020-09-12
Naukowe pismo “Nature” przystaje do Przebudzonych twierdząc, że zarówno płeć, jak gender są niebinarne   Coyne   2020-09-09
Wybór ostatecznej wolności   Witkowski   2020-09-07
Polio zlikwidowane w Afryce   Novella   2020-09-05
Czy wyrazy ludzkiej twarzy są uniwersalne w okazywaniu emocji?   Coyne   2020-09-02
Barwny erudyta J.B.S. Haldane   Coyne   2020-08-28
Modelowanie zbijania się pingwinów cesarskich w gromadę: każdy dostaje równie dużo ciepła   Coyne   2020-08-25
Jak algorytmy wpływają na twoje życie   Novella   2020-08-24
Z okazji dziewięćdziesiątych urodzin Thomasa Sowella   Jacoby   2020-08-22
Prawdziwie długa szyja: 6-metrowy wodny gad z triasu z szyją długości 2,7 metra   Coyne   2020-08-19
Wątrobiane duszki   Novella   2020-08-17
Rozrzedzanie krwi bez groźby krwawienia   Novella   2020-08-14
Nowy raport: Bakteria po stu milionach lat nadal żywa!   Coyne   2020-08-08
Modlitwa to nie jest lekarstwo   Nowella   2020-08-07
Maleńki, 10-centymetrowy dinosaur, który zjadał owady   Coyne   2020-08-06
Piękny skoczek, który upodabnia się do mrówki   Coyne   2020-08-03
Urodziny Rosalind Franklin!   Cobb   2020-07-31
Kondor wielki: ptak, który rzadko kiedy macha skrzydłami   Coyne   2020-07-28
Czy ludzie byli w Nowym Świecie ponad 30 tysięcy lat temu?   Coyne   2020-07-26
Oszaleć na punkcie nietoperzy w czasach korony i politykierstwa   Collins   2020-07-25
Dwa gatunki dały zdolną do życia hybrydę, mimo że rozeszły się 150 milionów lat temu   Coyne   2020-07-23
Niccolo Tartaglia jego tajemnica   Jacoby   2020-07-20
Akcja afirmatywna w wieloetnicznym narodzie   Hyams   2020-07-17
Dekolonizacja ewolucji (i Darwina) była nieunikniona   Coyne   2020-07-15
Filtr mózgu (czyli czego nie widzimy)   Novella   2020-07-14
Homeopatia jest bezwartościowa a czasami szkodliwa   Novella   2020-07-10
Pięć błędnych wyobrażeń o ewolucji: jedno jest wątpliwe, jedno niesłuszne   Coyne   2020-07-08
Wiecznie kurczący się tranzystor i wynalezienie Google   Ridley   2020-07-06
Postmodernizm: filozofia, która stoi za naszymi wojnami kulturowymi i postępującym nihilizmem   Hill   2020-07-02
Bodźce do innowacji w końcu pokonają COVID-19   Ridley   2020-06-27
Maleńkie stworzenia morskie budują olbrzymie, fantastyczne domy, by chronić się i zdobywać pokarm   Coyne   2020-06-25
Rośliny uprawne z edytowanym genomem pomagają farmerom i środowisku   Ridley   2020-06-20
Czy klucz do COVID można znaleźć w rosyjskiej pandemii?   Ridley   2020-06-18
Skąd więc wziął się ten wirus?   Ridley   2020-06-16
Nowe dane o tym, jak działają grzyby „mrówek zombie”   Coyne   2020-06-15
Czy brytyjski naukowy establishment popełnił największy błąd w historii?   Ridley   2020-06-13
Błysk światła w mroku   Sheagren   2020-06-12
Poczucie pewności napędza efekt potwierdzenia   Novella   2020-06-08
Czy możemy zobaczyć osobowość?   Novella   2020-06-05
Rozwiązanie dla obecnego kryzysu   Ridley   2020-06-02
Lokalizacja funkcji wykonawczych   Novella   2020-05-30
Przestańcie wierzyć w naukę   Greenfield   2020-05-28
Ewolucyjne korzenie sztuki   Koraszewski   2020-05-27
Innowacji nie można wymusić, ale można je zdławić   Ridley   2020-05-26
Stymulowanie kory wzrokowej   Novella   2020-05-23
Pora na telemedycynę   Novella   2020-05-19
Czy mrożącą krew w żyłach prawdą jest, że decyzja o zamknięciu społeczeństwa opierała się na luźnych matematycznych spekulacjach?   Ridley   2020-05-15
MMR jest bezpieczna i skuteczna   Novella   2020-05-14
Odporność stada na fakty   Koraszewski   2020-05-13
O COVID wiemy wszystko – i nie wiemy niczego   Ridley   2020-05-12
Nanotechnologia zastosowana do leczenia choroby Alzheimera   Novella   2020-05-11
COVID-19 – To są szkody   Novella   2020-05-05
Nadmiar teorii wszystkiego   Koraszewski   2020-05-04
Zawodnicy – i trudności – w wyścigu do wyleczenia COVID   Ridley   2020-04-30
Psychologia sprzeciwu wobec szczepień   Novella   2020-04-25
Prowokator czy prowokowany?   Witkowski   2020-04-24
Nauka on-line jest skuteczna   Novella   2020-04-23
Mądrość w pułapce autorytetu   Witkowski   2020-04-18
Znaleziono najstarszego “bilaterian”: odkryto podobne do robaka stworzenie wraz z jego skamieniałymi śladami   Coyne   2020-04-16
Nietoperze i pandemia   Ridley   2020-04-14
Pandemia ludzkiej głupoty   Novella   2020-04-12
W miarę postępu badań natura naszego wroga staje się coraz wyraźniejsza   Ridley   2020-04-04
Wzmacnianie układu odpornościowego podczas pandemii   Novella   2020-04-02
Dlaczego ten wirus inaczej dotyka pokolenia?   Ridley   2020-03-30
Czaszka maleńkiego dinozaura/ptaka znaleziona w bursztynie   Coyne   2020-03-27
Szczepionka na koronawirusa nie przybędzie szybko   Ridley   2020-03-25
Niebawem dowiemy się jak solidna jest nasza cywilizacja   Ridley   2020-03-23
Żywotność wirusa Covid-19 na różnych powierzchniach (rada: używaj rękawiczek, kiedy odbierasz paczki i nie otwieraj ich przez 24 godziny)   Coyne   2020-03-21
Dzień był krótszy 70 milionów lat temu   Novella   2020-03-20
Jak często powstają ptasie hybrydy?   Coyne   2020-03-18
Mózgi noworodków   Novella   2020-03-16
Twierdzenie o białku i DNA dinozaurów   Novella   2020-03-10
Porażka jest stałym elementem pracy naukowca   Konrad Bocian   2020-03-07
Jak myśleć o naszych problemach   Tupy   2020-03-03
Dlaczego tak wiele nowych wirusów pochodzi od nietoperzy?   Ridley   2020-02-29
Odkrycie antybiotyku przez AI   Novella   2020-02-27
Wizyta w Andach u łysek rogatych   Lyon   2020-02-26
Zioła nie pomagają na utratę wagi   Novella   2020-02-25
Dawkins pisze tweeta   Coyne   2020-02-24
W obronie binarności płci u ludzi   Coyne   2020-02-21
Nie palmy pieniędzy na ołtarzu zielonej manii   Lomborg   2020-02-20
Więcej dowodów ewolucji: końskie zarodki zaczynają tworzyć pięć palców, a cztery zawiązki znikają   Coyne   2020-02-18
Homeopatyczny rentgen   Novella   2020-02-14
Różnice płci w wyborze zabawek: chłopcy bawią się chłopięcymi zabawkami, dziewczynki dziewczęcymi zabawkami   Coyne   2020-02-13
Śmiertelność z powodu raka nadal spada wbrew twierdzeniom szarlatanów     2020-02-11
Odkrycie w immunologii, a leczenie nowotworów   Novella   2020-02-10
Ponowne psucie nauki przez ideologię: ”Slate” wypacza biologię ewolucyjną, by wyglądała na kapitalistyczną i antysocjalistyczną   Coyne   2020-02-07
Flamingi z braku łysek rogatych   Lyon   2020-02-06
Moja ostatnia praca badawcza. Część 3: Znaczenie   Coyne   2020-02-04
Moja ostatnia praca badawcza. Część 2: Wyniki   Coyne   2020-02-03
Moja ostatnia praca badawcza: Część 1: Cele i metody   Coyne   2020-02-01
Ewolucyjne wyjaśnienie nienaukowych przekonań   Bretl   2020-01-31
Zdumiewająca mimikra   Coyne   2020-01-27
Reality check: Pęd do szybkiej „zerowej” emisji to gwarancja przegranej   Lomborg   2020-01-27
Sfuszerowany artykuł o biologii w „Washington Post”   Coyne   2020-01-24
Punkty dla Ameryki w konflikcie między Iranem i USA   Destexhe   2020-01-24
Zbliżanie się do rozumienia pamięci   Novella   2020-01-22

« Poprzednia strona  Następna strona »
Polecane
artykuły

Cervantes



Wojaki Chrystusa



 Palestyńskie weto



Wzmacnianie układu odpornościowego



Wykluczenie Tajwanu z WHO



Drzazgę źle się czyta



Sześć lat



Pochodzenie



Papież Franciszek



Schadenfreude



Pseudonaukowa histeria...


Panstwo etc



Biły się dwa bogi


 Forma przejściowa


Wstęga Möbiusa


Przemysł produkcji kłamstw


Jesteś tym, co czytasz,



Radykalne poglądy polityczne


Einstein



Socjologia



Allah stworzyl



Uprzednie doświadczenie



Żydowski exodus



PRL Chrystusem narodów



Odrastające głowy hydry nazizmu



Homeopatia, wibracje i oszustwo


Żołnierz IDF



Prawo powrotu



Mózg i kodowanie predyktywne



Nocna rozmowa



WSzyscy wiedza



Nieustający marsz



Oświecenie Pinker



Alternatywna medycyna zabija


Listy z naszego sadu
Redaktor naczelny:   Hili
Webmaster:   Andrzej Koraszewski
Współpracownicy:   Jacek, , Malgorzata, Andrzej, Marcin, Henryk