Prawda

Piątek, 29 marca 2024 - 07:00

« Poprzedni Następny »


Jak algorytmy wpływają na twoje życie


Steven Novella 2020-08-24


Stopień, do jakiego komputerowe algorytmy wpływają na twoje życie to jest jedna z tych rzeczy, których futurolodzy nie przewidzieli, ale która teraz wydaje się oczywista i nieunikniona. Zawsze trudno jest czynić negatywne twierdzenia i trzeba się zastrzegać – ale nie znam żadnego tekstu science fiction lub futurologicznego sprzed roku 2000, który choćby wspominał rolę algorytmów mediów społecznościowych lub innych informacyjnych algorytmów w społeczeństwie i kulturze (jak zawsze, dajcie mi znać, jeśli coś mi umknęło). W bardzo krótkim czasie jednak stały się one poważnym wyzwaniem dla wielu społeczeństw. Teraz jest także łatwo wyobrazić sobie, że komputerowe algorytmy będą dominującym tematem w przyszłości. Ludzie będą prawdopodobnie dyskutować o ich roli, kto je kontroluje i kto powinien je kontrolować, i jakie powinny być regulacje, jeśli w ogóle jakieś.

Najgorszym rezultatem byłby brak takich dyskusji, bo będzie to znaczyło, że ludzie nie są świadomi roli algorytmów w ich życiu i tego, kto je kontroluje. Zasadniczo to właśnie dzieje się w Chinach i innych autorytarnych krajach. Algorytmy mediów społecznościowych są marzeniem autokraty – dają mu niewiarygodną możliwość kontrolowania tego, co ludzie widzą, jak informacja do nich dociera i do pewnego stopnia, co myślą. To jest „rok 1984” na sterydach. Orwell wyobrażał sobie, że w celu kontrolowania tego, co i jak ludzie myślą, autokraci będą kontrolować język. Ogranicz język, a ograniczysz myśl. To był interesujący pomysł sprzed czasów sieci i sprzed mediów społecznościowych. Teraz komputerowe algorytmy mogą kontrolować informację i, przez przedłużenie, to, co ludzie wiedzą i myślą – bezszwowo, niewidzialnie oraz z przerażającą mocą.  


Jednak także w otwartych, demokratycznych społeczeństwach niewidzialna ręka komputerowych algorytmów może dokonać spustoszeń. Badacze społeczni, którzy studiują to zjawisko, biją coraz mocniej na alarm. Niedawnym przykładem jest antyekstremistyczna grupa w Wielkiej Brytanii, która ostrzega obecnie, że według ich badań algorytmy Facebooka aktywnie promują negację Holocaustu i inne teorie spiskowe. Odkryli (co w zasadzie nie powinno nikogo dziwić), że odwiedzający strony Facebooka, które zaprzeczają Holocaustowi, są kierowania do innych stron, które także negują Holocaust. To z kolei prowadzi do innych spisków, które kierują do dalszych treści spiskowych i wpadasz w czarną dziurę.  

 

Nie jest żadną tajemnicą, dlaczego to się dzieje. Jak wyjaśniał pewien inżynier, były pracownik Google:

Algorytmy mediów społecznościowych kontynuują promocję szkodliwych treści przez “optymalizację czasu oglądania za wszelką cenę” – mówi Guillaume Chaslot.

Media społecznościowe podkręcają swoje algorytmy, by maksymalizować swoje zyski, co znaczy maksymalizowanie ilości czasu jaki odwiedzający pozostają na ich witrynie, co znaczy dalej karmienie ich materiałem, który wydają się chcieć i którym mogą być zainteresowani. To jest znakomity przykład niezamierzonych konsekwencji – media społecznościowe wyewoluowały w konkurencyjnym środowisku, by przeżyć przez trzymanie surfujących w Internecie na swojej stronie tak długo, jak to możliwe.  Jako epifenomen jednak, algorytmy zaprojektowane do osiągania tego celu mają także tendencję do radykalizowania użytkowników mediów społecznościowych przez karmienie ich coraz bardziej ekstremalnymi treściami. Jeśli posuwasz się o krok w jednym kierunku, media społecznościowe wciągają cię dalej aż do skrajności, wszystko po to, by trzymać cię przy oglądaniu ich stron tak długo, jak to możliwe.    


Na marginesie: tak właśnie działają siły ewolucyjne, także w ewolucji biologicznej. Krótkoterminowe korzyści prowadzą czasami w ślepe zaułki, czasem prowadząc w końcu do eksterminacji. Na przykład, pawie “zradykalizowały” swoje upierzenie, by zmaksymalizować krótkoterminowy sukces reprodukcyjny, ale niemal z pewnością w efekcie skazały swój gatunek na znacznie wcześniejsze wymarcie. (Im bardziej wyspecjalizowany gatunek, tym krótsza jego długowieczność, podczas gdy „wszystkoiści” na ogół trwają dłużej.) Jest tak z powodu ślepoty ewolucji: zna ona tylko krótkoterminowe przeżycie i rozmnożenie się. Nie ma mechanizmu na długotrwałą strategię. Oczywiście jednak, istnieją miliony gatunków, więc przez przypadek niektóre mogą natrafić na rzeczywiście dobre długoterminowe strategie i przetrwać.


Jeśli więc, rozszerzymy perspektywę i spojrzymy na to z bardzo wysoka, jak powinniśmy optymalnie zaprojektować i kierować naszym społeczeństwem? Zwolennicy wolnego rynku argumentują, że powinniśmy  wykorzystywać siłę systemów “z dołu do góry”, pozwolić miliardom transakcji na organiczne wypracowanie rozwiązania. Ten proces tworzy olbrzymią ilość informacji, jakiej nie może powtórzyć żaden komitet. Z drugiej strony spektrum, orędownicy socjalizmu/regulacji argumentują, że całkowicie wolne systemy łatwo wykorzystywać. W sposób nieunikniony coraz więcej władzy i zasobów znajdzie drogę do rąk coraz mniejszej liczby ludzi, aż społeczeństwo załamie się. Historycznie jest to prawdą w właściwie 100% wypadków. Z czasem ludzie z władzą i siłą znajdą sposób na użycie tej władzy, by zdobyć więcej władzy i przekazać korzyści swoim dzieciom. W końcu potrzeba regulacji, by wyrównać boisko, bo inaczej masz rewolucję, która wymazuje tablicę do czysta i wszystko zaczyna się od nowa.


Oba krańce tego spectrum są poprawne – ewolucyjny “wolny rynek” i siły demokratyczne są potężne i mądrze zrobimy wykorzystując je. Jest także pewna sprawiedliwość w rozdzielaniu zasobów według ich wewnętrznej wartości oraz wartości pracy i kreatywności. Siły ewolucyjne jednak są krótkowzroczne i ostatecznie autodestrukcyjne, podobnie jest z siłami, które kontrolują rynek, lub algorytmy mediów społecznościowych,. Równocześnie więc potrzebujemy jakiejś, działającej “z góry do dołu”, długoterminowej strategii. To oznacza regulacje, majsterkowanie przy siłach ewolucyjnych tak, by nie szły w autodestrukcyjnym kierunku. Nie możemy jednak pozwolić systemowi na to, by był zbyt mocno sterowany “z góry do dołu”, bo to prowadzi do innego rodzaju nadużyć, takich jak pogoń za zyskiem, kumoterstwo, handel wpływami i do prostego faktu, że ci, którzy mają własne interesy prawdopodobnie przeważą nad tymi, którzy są tylko zainteresowani w lobbowaniu i innych politycznych działaniach.


Podobnie więc jak w wielu innych sytuacjach, musimy starannie równoważyć jedno z drugim, by mieć najlepsze z obu stron. Niechaj rządzi wolność i demokracja, ale z barierkami, które powstrzymają nas przez upadkiem w przepaść. I potrzebujemy systemu, w którym wiele instytucji trzyma się wzajemnie w szachu i nie ma absolutnej lub ostatecznej władzy, ale są mechanizmy samonaprawy.   


Możemy zastosować to wszystko do algorytmów mediów społecznościowych. Media społecznościowe są wspaniałe dla demokracji z powodu tego, że pozwalają każdemu prywatnemu obywatelowi szerzyć swoje słowa. Nie ma strażników przy bramach, nie ma dłużej oligarchii kilku gigantów medialnych.  


Media społecznościowe są jednak również straszliwe dla demokracji, ponieważ zamiast strażników przy bramach, którzy przynajmniej pozornie mieli standardy kontroli jakości, mamy teraz korporacyjnych gigantów, którzy kontrolują nurt informacji tylko w celu maksymalizacji własnych zysków. Są po prostu innym rodzajem strażników przy bramie ale takich, których model biznesu opiera się w jeszcze mniejszym stopniu na jakości dostarczanej informacji, a tylko na przykuwaniu wzroku do ekranów. (Jasne, to dotyczy również tradycyjnych mediów, prowadząc do pogoni za sensacją i całej reszty, ale jest tu różnica stopnia.). Ponadto, to wszystko jest zautomatyzowane komputerowymi algorytmami.


To wszystko dzieje się w kontekście ludzkiej psychologii, błędów poznawczych i sposobów, na jakie ludzie budują swoje przekonania i postrzegają informację. Ta mieszanka może być toksyczna, prowadząc ludzi ku coraz bardziej ograniczonym i radykalnym poglądom. Wynik – płaskoziemcy, QAnon, odrodzenie się antyszczepionkowców i szerzenie się niezliczonych teorii spiskowych. Informacja jest zagrzebana w dezinformacji. Podobnie do Tribblesów, które zmarły w głodu i komorze pełnej ziarna (przepraszam, nie mogłem się oprzeć), jesteśmy społeczeństwem głodującym z braku prawdy w informacyjnym ekosystemie zalanym informacją.


Co gorsza, to, co się dzieje, jest ślepą, niezamierzoną konsekwencją. Są jednak w tym niecni aktorzy, którzy wiedzą teraz, że mogą wykorzystać system, by świadomie maksymalizować chaos i negatywne rezultaty. Kończy nam się przestrzeń dzieląca nas od skraju przepaści, a oni popychają nas z tyłu.  


Jest kilka sposobów na radzenie sobie z tym i te sposoby nie wykluczają się wzajemnie. Pierwszym jest konieczność , by użytkownicy mediów społecznościowych byli świadomi tego, jak działają platformy, których używają i żądali, by prowadzące je firmy zachowywały się lepiej. Możemy głosować nogami. Trudno to jednak skoordynować i trudno wiedzieć (bez niezbędnej przejrzystości), co właściwie robią algorytmy w naszych mediach społecznościowych. Drugim jest nadzór, przejrzystość i regulacje, by traktować giganty mediów społecznościowych jak publiczne usługi i wymagać, by końcowi użytkownicy mieli więcej kontroli i wiedzy o tym, jak używana jest ich informacja i jaką informacją są karmieni.


I oczywiście, musimy nadal uczyć ludzi, by lepiej rozumieli media. To jest skuteczne na indywidualnym poziomie, ale nie tak bardzo na społecznym poziomie, ponieważ trudno jest o znaczny zasięg. Im więcej jest jednak ludzi, którzy rozumieją media tym lepiej i powinniśmy wbudować wiedzę o mediach w nasze programy szkolne. To powinno być w dodatku do wymogu większej przejrzystości ze strony gigantów mediów społecznościowych i rozważenia ostrożnych regulacji, by zapewnić „informacyjną merytokrację” – chcemy, by informacja była uszeregowana ze względu na obiektywną jakość, a nie tylko zdolność hipnotyzowania.


How Algorithms Affect Your Life

NeuroLogica Blog, 18 sierpnia 2020

Tłumaczenie: Małgorzata Koraszewska



Steven Novella 

Neurolog, wykładowca na Yale University School of Medicine. Przewodniczący i współzałożyciel New England Skeptical Society. Twórca popularnych (cotygodniowych) podkastów o nauce The Skeptics’ Guide to the Universe. Jest również dyrektorem Science-Based Medicine będącej częścią James Randi Educational Foundation (JREF), członek Committee for Skeptical Inquiry (CSI) oraz członek założyciel Institute for Science in Medicine. Prowadzi blog Neurologica.

Skomentuj Tipsa en vn Wydrukuj






Nauka

Znalezionych 1470 artykuły.

Tytuł   Autor   Opublikowany

Uprawy GM są dobre dla środowiska     2014-07-08
Bliskie spotkania z baronem MünchausenemPaulina Łopatniuk     2017-07-22
Indyjscy farmerzy wysiali ziarna GMO w proteście obywatelskiego nieposłuszeństwa     2019-06-13
Coraz mniejsza część głównych plonów roślin jadalnych na świecie idzie na wyżywienie głodnych, a coraz więcej wykorzystuje się do celów niespożywczych     2022-05-28
Maniok o wysokiej zawartości żelaza i cynku może poprawić odżywianie i zdrowie w Afryce Zachodniej     2019-02-05
Pierwsze spojrzenie na mikroby współczesnych łowców zbieraczy     2014-04-23
Wojna domowa w ludzkim genomie     2014-10-13
Badania dowodzą, że fakty nie mają znaczenia: jak propaganda wykorzystuje i normalizuje antysemityzm     2022-08-03
Nazistowscy lekarze i dzisiejsi antysemici: redefinicja etyki, żeby usprawiedliwić prześladowania Żydów     2022-07-18
Film dokumentalny “Know GMO”, nakręcany w Afryce, stawia wyzwanie panikarskiej kampanii straszenia ludzi     2015-11-07
Carl Zimmer o gatunkach i ochronie     2024-02-29
Maleńkim lisom na Wyspach Santa Barbara brakuje różnorodności genetycznej i strachu przed ludźmi     2016-05-15
Ekomodernizm i zrównoważona intensyfikacja     2015-06-17
Chemicznie zakamuflowana żaba     2015-12-12
Nie jesteśmy wszyscy neandertalczykami: tak postępuje nauka     2016-02-02
Strepsiptera – najdziwaczniejsze owady?     2015-12-22
Nigeria gotowa na spełnienie oczekiwań rolników     2022-07-08
Ogniska odry w Brooklynie w 2013 r.: Badanie kosztów antyszczepionkowej pseudonauki     2018-08-14
Atak “doktorostwa Wolfson” na rodziców chłopca, który zmarł na koklusz     2018-09-20
Naiwna promocja “integrowania” znachorstwa do medycyny     2018-01-29
Triumf Mao: Światowa Organizacja Zdrowia oficjalnie akceptuje szarlatanerię tradycyjnej chińskiej medycyny     2019-06-04
Rolnictwo biodynamiczne: podobne do antropozoficznej medycyny, ale dla farm     2018-04-06
Fabrizio Benedetti pyta: “Czy badania placebo wzmacniają pseudonaukę?”     2019-11-01
Naturopaci: potrafią uczynić nawet sól z Epsom potencjalnym zabójcą     2017-10-23
Obniżenie poprzeczki dla tradycyjnej medycyny chińskiej dla ideologii i zysku     2017-12-29
Szarlatan handlujący fałszywą nadzieją     2017-05-12
Czego może nas nauczyć była zwolenniczka antyszczepionkowców, Kelley Watson-Snyder     2019-08-30
Nanocząstki: nowy, jedyny, prawdziwy powód wszystkich chorób?     2017-03-24
Finansowanie społecznościowe terapii komórkami macierzystymi o nieudowodnionej skuteczności: wykorzystywanie hojności obcych, by płacić za szarlatanerię     2018-05-18
Antyszczepionkowcy - pielęgniarka lub lekarz nie powinni opiekować się dziećmi     2018-09-10
Wybuchy epidemii odry w Europie: zapowiedź tego, co przyjdzie do USA?     2017-07-24
Szczepionka HPV działa. Koniec kropka     2019-07-13
Akupunktura kontra nauka, wersja lingwistyczna     2017-06-01
Śmiertelność z powodu raka nadal spada wbrew twierdzeniom szarlatanów     2020-02-11
Efekt Krugera-Dunninga, antyszczepionkowcy i arogancja ignorancji     2018-08-09
Dlaczego sądy nie powinny rozstrzygać o nauce     2018-12-13
Tydzień Świadomości Homeopatii. Pomaga przypomnieć ludziom, że jest to szarlataneria!     2018-05-02
Plastry uśmierzające ból z Luminas: gdzie słowa „kwantum” i „energia” w rzeczywistości znaczą „magia”     2018-09-07
Zabobonne pojęcia u sedna przekonań antyszczepionkowych     2017-08-21
Tako rzecze antyszczepionkowa “wojowniczka mama”, Brittney Kara: jeśli szczepionki są tak wspaniałe, to dlaczego nie wspomina ich Biblia?     2018-04-26
Jak to jest, że Stanisław Burzyński nadal żeruje na zrozpaczonych pacjentach z rakiem?     2018-05-12
Helen Lawson i czarna maść: wycinanie, wypalanie i zatruwanie w sposób „naturalny”     2018-06-09
Homeopatia, wibracje i oszustwo     2018-06-12
Kolejne przypomnienie, nie ma epidemii autyzmu     2017-03-13
Akupunktura jadu pszczelego: śmiercionośne znachorstwo, które może zabić     2018-04-23
Naturopatyczna propaganda głosi normalne porady dotyczące stylu życia jako własne i dodaje szamaństwo     2018-02-14
Rzekł antyszczepionkowiec: Szczepionki powodują autyzm u psów!     2017-04-28
Dychotomiczne myślenie, niepewność i zaprzeczanie nauce     2020-01-01
Dlaczego szarlatani nie powinni nadzorować sami siebie     2019-05-08
Zły tydzień dla homeopatii jest dobrym tygodniem dla nauki     2018-03-23
Inicjatywa „Globalna Spójność”: nonsens na globalną skalę     2018-04-11
Dziennik z Mozambiku: Sybilla     2014-03-01
Dwudziestu dziewięciunaukowców publikuje artykuł w obronie merytorycznych podstaw w nauce     2023-05-01
Musi się potępić akademicki mobbing uczonego     2018-12-14
Przekonania antyoświeceniowe są „zaskakująco trwałe”     2018-05-11
Na zdrowie: izraelscy naukowcy warzą piwo na ”wskrzeszonych” drożdżach sprzed 5000 lat     2019-05-31
Ostateczna klęska teorii ewolucji     2016-02-15
Co mówi nam ruch płaskiej Ziemi     2018-05-17
Organiczne środki owadobójcze są szkodliwe dla pożytecznych owadów     2022-04-30
Wspólne pochodzenie sygnałów płodności   Cobb   2014-01-28
Uderzające podobieństwo: rewolucyjne wyniki badań nad bliźniętami   Dynesen   2018-08-27
Opera mydlana z życia łysek amerykańskich, część III   Lyon   2017-07-28
Edytowanie genów kluczem do ulepszenia podstawowych upraw w Afryce   Abugu   2021-10-01
Aktywiści anty-GMO w Afryce szerzą mity i strach, ale nie przedstawiają żadnych naukowych dowodów   Abutu   2023-08-14
Ugandyjscy studenci nalegają na powszechne stosowanie biotechnologii i uchwalenie prawa o biobezpieczeństwie   Agaba   2021-11-17
Afrykańscy naukowcy wzywają do polityki poparcia biologii syntetycznej i innych innowacji   Agaba   2021-12-02
 Syntetyczna biologia oferuje obietnicę rozwiązania globalnego problemu z plastikiem   Agaba   2021-12-13
Czy wykształceni ludzie są bardziej antysemiccy?   Albert Cheng i Ian Kingsbury   2021-04-05
Fałszywe nadzieje i niewidzialni wrogowie   Anomaly   2018-02-09
Skuteczny kontra patologiczny altruizm   Anomaly   2018-10-10
Dziwaczny rodzaj rasistowskiego patriarchatu   Arora   2020-12-31
Pierwsza spożywcza roślina GMO w Ghanie   Baffour-Awuah   2022-04-16
Wszystkie antyizraelskie wiadomości zasługują na publikację   Bard   2021-09-04
Strzelby, zarazki, maszyny to zdecydowanie antyrasistowska książka. Dlaczego lewica jej nie kocha?   Barnett   2021-10-13
Opowieść o dwóch krzywych dzwonowych   Ben Winegard   2017-04-12
Przeddarwinowscy “darwiniści”   Berry   2020-10-16
Nie karm mózgu śmieciowym jedzeniem   Bhogal   2022-08-10
Niebezpieczne życie antropologa   Blackwell   2019-10-12
Nowe zastosowania zużytych filtrów do dializy   Blum   2018-08-07
Odwołajcie antyszczepionkową konferencję w Tel Awiwie   Blum   2019-11-15
Fałszywa pokora nie uratuje planety   Boudry   2020-01-09
Dlaczego środowiskowcy stanowią większą przeszkodę dla skutecznej polityki klimatycznej niż negacjoniści?   Boudry   2022-02-21
Ryzyko niewarte podejmowania: list otwarty do moich kolegów w świecie akademickim   Boutwell   2017-06-14
Stagnacja socjologii i jej przyczyny   Boutwell   2017-03-21
Ewolucyjne wyjaśnienie nienaukowych przekonań   Bretl   2020-01-31
Dlaczego leniwce wypróżniają się na ziemi?   Bruce Lyon   2014-02-02
Zaprzeczanie neuronauce o różnicach płci   Cahill   2019-04-05
Propaganda w wykonaniu nauczycieli akademickich   Chesler   2021-06-02
Nagonka na Izrael grasuje w stowarzyszeniach nauk ścisłych, medycyny i edukacji   Chesler   2021-06-24
Ugandyjski dziennikarz: jak informować o biotechnologii, kiedy jej krytycy rozsiewają dezinformację?   Christopher Bendana   2017-11-03
A polać wielką wodą…   Cipiur   2019-05-18
Zrozumienie nowoczesnych horrorów afrykańskich zakorzenionych w handlu niewolnikami przez Ocean Indyjski   Clarfield   2019-02-28
Ewolucyjne korzyści udawania ofiary   Clark   2021-03-11
Co byłoby, gdyby Wilkins i Franklin umieli ze sobą współpracować?   Cobb   2016-09-03
Ewolucja człowieka: zarośnięty brzeg   Cobb   2016-02-24
Google świętuje Antoniego van Leeuwenhoeka   Cobb   2016-10-31
Ogony CAT osłabiają centralny dogmat – dlaczego ma to znaczenie i dlaczego nie ma   Cobb   2015-01-08
Z okazji urodzin Maxa Delbrücka   Cobb   2016-09-22
Wesołych Świąt od Oswalda Avery’ego – ale co byłoby, gdyby zmarł wcześniej?   Cobb   2016-12-30
Kacze dzioby, Umwelt i a priori Kanta   Cobb   2019-03-04

« Poprzednia strona  Następna strona »
Polecane
artykuły

Lekarze bez Granic


Wojna w Ukrainie


Krytycy Izraela


Walka z malarią


Przedwyborcza kampania


Nowy ateizm


Rzeczywiste łamanie


Jest lepiej


Aburd


Rasy - konstrukt


Zielone energie


Zmiana klimatu


Pogrzebać złudzenia Oslo


Kilka poważnych...


Przeciwko autentyczności


Nowy ateizm


Lomborg


„Choroba” przywrócona przez Putina


„Przebudzeni”


Pod sztandarem


Wielki przekret


Łamanie praw człowieka


Jason Hill


Dlaczego BIden


Korzenie kryzysu energetycznego



Obietnica



Pytanie bez odpowiedzi



Bohaterzy chińskiego narodu



Naukowcy Unii Europejskiej



Teoria Rasy



Przekupieni



Heretycki impuls



Nie klanial



Cervantes



Wojaki Chrystusa


Listy z naszego sadu
Redaktor naczelny:   Hili
Webmaster:   Andrzej Koraszewski
Współpracownicy:   Jacek, , Małgorzata, Andrzej, Henryk