Prawda

Niedziela, 26 czerwca 2022 - 01:01

« Poprzedni Następny »


Jak algorytmy wpływają na twoje życie


Steven Novella 2020-08-24


Stopień, do jakiego komputerowe algorytmy wpływają na twoje życie to jest jedna z tych rzeczy, których futurolodzy nie przewidzieli, ale która teraz wydaje się oczywista i nieunikniona. Zawsze trudno jest czynić negatywne twierdzenia i trzeba się zastrzegać – ale nie znam żadnego tekstu science fiction lub futurologicznego sprzed roku 2000, który choćby wspominał rolę algorytmów mediów społecznościowych lub innych informacyjnych algorytmów w społeczeństwie i kulturze (jak zawsze, dajcie mi znać, jeśli coś mi umknęło). W bardzo krótkim czasie jednak stały się one poważnym wyzwaniem dla wielu społeczeństw. Teraz jest także łatwo wyobrazić sobie, że komputerowe algorytmy będą dominującym tematem w przyszłości. Ludzie będą prawdopodobnie dyskutować o ich roli, kto je kontroluje i kto powinien je kontrolować, i jakie powinny być regulacje, jeśli w ogóle jakieś.

Najgorszym rezultatem byłby brak takich dyskusji, bo będzie to znaczyło, że ludzie nie są świadomi roli algorytmów w ich życiu i tego, kto je kontroluje. Zasadniczo to właśnie dzieje się w Chinach i innych autorytarnych krajach. Algorytmy mediów społecznościowych są marzeniem autokraty – dają mu niewiarygodną możliwość kontrolowania tego, co ludzie widzą, jak informacja do nich dociera i do pewnego stopnia, co myślą. To jest „rok 1984” na sterydach. Orwell wyobrażał sobie, że w celu kontrolowania tego, co i jak ludzie myślą, autokraci będą kontrolować język. Ogranicz język, a ograniczysz myśl. To był interesujący pomysł sprzed czasów sieci i sprzed mediów społecznościowych. Teraz komputerowe algorytmy mogą kontrolować informację i, przez przedłużenie, to, co ludzie wiedzą i myślą – bezszwowo, niewidzialnie oraz z przerażającą mocą.  


Jednak także w otwartych, demokratycznych społeczeństwach niewidzialna ręka komputerowych algorytmów może dokonać spustoszeń. Badacze społeczni, którzy studiują to zjawisko, biją coraz mocniej na alarm. Niedawnym przykładem jest antyekstremistyczna grupa w Wielkiej Brytanii, która ostrzega obecnie, że według ich badań algorytmy Facebooka aktywnie promują negację Holocaustu i inne teorie spiskowe. Odkryli (co w zasadzie nie powinno nikogo dziwić), że odwiedzający strony Facebooka, które zaprzeczają Holocaustowi, są kierowania do innych stron, które także negują Holocaust. To z kolei prowadzi do innych spisków, które kierują do dalszych treści spiskowych i wpadasz w czarną dziurę.  

 

Nie jest żadną tajemnicą, dlaczego to się dzieje. Jak wyjaśniał pewien inżynier, były pracownik Google:

Algorytmy mediów społecznościowych kontynuują promocję szkodliwych treści przez “optymalizację czasu oglądania za wszelką cenę” – mówi Guillaume Chaslot.

Media społecznościowe podkręcają swoje algorytmy, by maksymalizować swoje zyski, co znaczy maksymalizowanie ilości czasu jaki odwiedzający pozostają na ich witrynie, co znaczy dalej karmienie ich materiałem, który wydają się chcieć i którym mogą być zainteresowani. To jest znakomity przykład niezamierzonych konsekwencji – media społecznościowe wyewoluowały w konkurencyjnym środowisku, by przeżyć przez trzymanie surfujących w Internecie na swojej stronie tak długo, jak to możliwe.  Jako epifenomen jednak, algorytmy zaprojektowane do osiągania tego celu mają także tendencję do radykalizowania użytkowników mediów społecznościowych przez karmienie ich coraz bardziej ekstremalnymi treściami. Jeśli posuwasz się o krok w jednym kierunku, media społecznościowe wciągają cię dalej aż do skrajności, wszystko po to, by trzymać cię przy oglądaniu ich stron tak długo, jak to możliwe.    


Na marginesie: tak właśnie działają siły ewolucyjne, także w ewolucji biologicznej. Krótkoterminowe korzyści prowadzą czasami w ślepe zaułki, czasem prowadząc w końcu do eksterminacji. Na przykład, pawie “zradykalizowały” swoje upierzenie, by zmaksymalizować krótkoterminowy sukces reprodukcyjny, ale niemal z pewnością w efekcie skazały swój gatunek na znacznie wcześniejsze wymarcie. (Im bardziej wyspecjalizowany gatunek, tym krótsza jego długowieczność, podczas gdy „wszystkoiści” na ogół trwają dłużej.) Jest tak z powodu ślepoty ewolucji: zna ona tylko krótkoterminowe przeżycie i rozmnożenie się. Nie ma mechanizmu na długotrwałą strategię. Oczywiście jednak, istnieją miliony gatunków, więc przez przypadek niektóre mogą natrafić na rzeczywiście dobre długoterminowe strategie i przetrwać.


Jeśli więc, rozszerzymy perspektywę i spojrzymy na to z bardzo wysoka, jak powinniśmy optymalnie zaprojektować i kierować naszym społeczeństwem? Zwolennicy wolnego rynku argumentują, że powinniśmy  wykorzystywać siłę systemów “z dołu do góry”, pozwolić miliardom transakcji na organiczne wypracowanie rozwiązania. Ten proces tworzy olbrzymią ilość informacji, jakiej nie może powtórzyć żaden komitet. Z drugiej strony spektrum, orędownicy socjalizmu/regulacji argumentują, że całkowicie wolne systemy łatwo wykorzystywać. W sposób nieunikniony coraz więcej władzy i zasobów znajdzie drogę do rąk coraz mniejszej liczby ludzi, aż społeczeństwo załamie się. Historycznie jest to prawdą w właściwie 100% wypadków. Z czasem ludzie z władzą i siłą znajdą sposób na użycie tej władzy, by zdobyć więcej władzy i przekazać korzyści swoim dzieciom. W końcu potrzeba regulacji, by wyrównać boisko, bo inaczej masz rewolucję, która wymazuje tablicę do czysta i wszystko zaczyna się od nowa.


Oba krańce tego spectrum są poprawne – ewolucyjny “wolny rynek” i siły demokratyczne są potężne i mądrze zrobimy wykorzystując je. Jest także pewna sprawiedliwość w rozdzielaniu zasobów według ich wewnętrznej wartości oraz wartości pracy i kreatywności. Siły ewolucyjne jednak są krótkowzroczne i ostatecznie autodestrukcyjne, podobnie jest z siłami, które kontrolują rynek, lub algorytmy mediów społecznościowych,. Równocześnie więc potrzebujemy jakiejś, działającej “z góry do dołu”, długoterminowej strategii. To oznacza regulacje, majsterkowanie przy siłach ewolucyjnych tak, by nie szły w autodestrukcyjnym kierunku. Nie możemy jednak pozwolić systemowi na to, by był zbyt mocno sterowany “z góry do dołu”, bo to prowadzi do innego rodzaju nadużyć, takich jak pogoń za zyskiem, kumoterstwo, handel wpływami i do prostego faktu, że ci, którzy mają własne interesy prawdopodobnie przeważą nad tymi, którzy są tylko zainteresowani w lobbowaniu i innych politycznych działaniach.


Podobnie więc jak w wielu innych sytuacjach, musimy starannie równoważyć jedno z drugim, by mieć najlepsze z obu stron. Niechaj rządzi wolność i demokracja, ale z barierkami, które powstrzymają nas przez upadkiem w przepaść. I potrzebujemy systemu, w którym wiele instytucji trzyma się wzajemnie w szachu i nie ma absolutnej lub ostatecznej władzy, ale są mechanizmy samonaprawy.   


Możemy zastosować to wszystko do algorytmów mediów społecznościowych. Media społecznościowe są wspaniałe dla demokracji z powodu tego, że pozwalają każdemu prywatnemu obywatelowi szerzyć swoje słowa. Nie ma strażników przy bramach, nie ma dłużej oligarchii kilku gigantów medialnych.  


Media społecznościowe są jednak również straszliwe dla demokracji, ponieważ zamiast strażników przy bramach, którzy przynajmniej pozornie mieli standardy kontroli jakości, mamy teraz korporacyjnych gigantów, którzy kontrolują nurt informacji tylko w celu maksymalizacji własnych zysków. Są po prostu innym rodzajem strażników przy bramie ale takich, których model biznesu opiera się w jeszcze mniejszym stopniu na jakości dostarczanej informacji, a tylko na przykuwaniu wzroku do ekranów. (Jasne, to dotyczy również tradycyjnych mediów, prowadząc do pogoni za sensacją i całej reszty, ale jest tu różnica stopnia.). Ponadto, to wszystko jest zautomatyzowane komputerowymi algorytmami.


To wszystko dzieje się w kontekście ludzkiej psychologii, błędów poznawczych i sposobów, na jakie ludzie budują swoje przekonania i postrzegają informację. Ta mieszanka może być toksyczna, prowadząc ludzi ku coraz bardziej ograniczonym i radykalnym poglądom. Wynik – płaskoziemcy, QAnon, odrodzenie się antyszczepionkowców i szerzenie się niezliczonych teorii spiskowych. Informacja jest zagrzebana w dezinformacji. Podobnie do Tribblesów, które zmarły w głodu i komorze pełnej ziarna (przepraszam, nie mogłem się oprzeć), jesteśmy społeczeństwem głodującym z braku prawdy w informacyjnym ekosystemie zalanym informacją.


Co gorsza, to, co się dzieje, jest ślepą, niezamierzoną konsekwencją. Są jednak w tym niecni aktorzy, którzy wiedzą teraz, że mogą wykorzystać system, by świadomie maksymalizować chaos i negatywne rezultaty. Kończy nam się przestrzeń dzieląca nas od skraju przepaści, a oni popychają nas z tyłu.  


Jest kilka sposobów na radzenie sobie z tym i te sposoby nie wykluczają się wzajemnie. Pierwszym jest konieczność , by użytkownicy mediów społecznościowych byli świadomi tego, jak działają platformy, których używają i żądali, by prowadzące je firmy zachowywały się lepiej. Możemy głosować nogami. Trudno to jednak skoordynować i trudno wiedzieć (bez niezbędnej przejrzystości), co właściwie robią algorytmy w naszych mediach społecznościowych. Drugim jest nadzór, przejrzystość i regulacje, by traktować giganty mediów społecznościowych jak publiczne usługi i wymagać, by końcowi użytkownicy mieli więcej kontroli i wiedzy o tym, jak używana jest ich informacja i jaką informacją są karmieni.


I oczywiście, musimy nadal uczyć ludzi, by lepiej rozumieli media. To jest skuteczne na indywidualnym poziomie, ale nie tak bardzo na społecznym poziomie, ponieważ trudno jest o znaczny zasięg. Im więcej jest jednak ludzi, którzy rozumieją media tym lepiej i powinniśmy wbudować wiedzę o mediach w nasze programy szkolne. To powinno być w dodatku do wymogu większej przejrzystości ze strony gigantów mediów społecznościowych i rozważenia ostrożnych regulacji, by zapewnić „informacyjną merytokrację” – chcemy, by informacja była uszeregowana ze względu na obiektywną jakość, a nie tylko zdolność hipnotyzowania.


How Algorithms Affect Your Life

NeuroLogica Blog, 18 sierpnia 2020

Tłumaczenie: Małgorzata Koraszewska



Steven Novella 

Neurolog, wykładowca na Yale University School of Medicine. Przewodniczący i współzałożyciel New England Skeptical Society. Twórca popularnych (cotygodniowych) podkastów o nauce The Skeptics’ Guide to the Universe. Jest również dyrektorem Science-Based Medicine będącej częścią James Randi Educational Foundation (JREF), członek Committee for Skeptical Inquiry (CSI) oraz członek założyciel Institute for Science in Medicine. Prowadzi blog Neurologica.

Skomentuj     Wyślij artykuł do znajomego:     Wydrukuj






Nauka

Znalezionych 1306 artykuły.

Tytuł   Autor   Opublikowany

Dramatyczny wzrost cen paliw kopalnych jest bolesny, ale daje niewielkie korzyści w walce z globalnym ociepleniem   Lomborg   2022-06-25
Efekt grupy – paskudny błąd poznawczy   Novella   2022-06-22
Nasiona z edytowanymi genomami będą miały przystępną cenę   Maina   2022-06-15
„Zapylisz mnie!”: nachalni bohaterowie świata roślin   Júnior   2022-06-11
Agroekologia zmienia biednych farmerów w biedniejszych   Muhumuza   2022-06-09
Kartofel z Matką Boską w jednej klapie i Karolem Marksem w drugiej   Koraszewski   2022-06-06
Jak nasze wspomnienia są powiązane   Novella   2022-06-04
Wielka Brytania dąży do zezwolenia na edytowanie genów   Novella   2022-06-02
„Grubogłowi przedsiębiorcy pogrzebowi w noc żywych trupów”   Júnior   2022-05-31
Coraz mniejsza część głównych plonów roślin jadalnych na świecie idzie na wyżywienie głodnych, a coraz więcej wykorzystuje się do celów niespożywczych     2022-05-28
Naukowiec z Ghany: “Afryka potrzebuje GMO bardziej niż reszta świata”   Gakpo   2022-05-26
GMO i edytowanie genów: jaka jest różnica?   Karavolias   2022-05-23
Toksyczny nektar, czyli ostrożnie z tureckim miodem   Júnior   2022-05-20
Kolejna nieudana i podyktowana ideologią próba wykazania, że płeć u ludzi nie jest binarna   Coyne   2022-05-18
Brian Charlesworth o błędach nowego artykułu rzekomo pokazującego, że fundamentalne założenie ewolucji neodarwinowskiej jest błędne   Coyne   2022-05-16
Trutnie i inni fruwający panowie   Junior   2022-05-13
Wygnanie z uniwersyteckiego świata – dwa lata później   Winegard   2022-05-10
Życie kwitnące po śmierci   Junior   2022-05-05
Organiczne środki owadobójcze są szkodliwe dla pożytecznych owadów     2022-04-30
Oxitec rozszerza próby z komarami GMO, by zredukować szerzenie się malarii   Conrow   2022-04-28
Słowa w wosku zapisane   Tonhasca Junior   2022-04-26
Rodzice, szkoła, państwo: kultura niskich oczekiwań   Koraszewski   2022-04-25
Nowoczesne ulepszanie roślin uprawnych przyjmuje historyczne podejście   Karavolias   2022-04-20
Pierwsza spożywcza roślina GMO w Ghanie   Baffour-Awuah   2022-04-16
Indie zwalniają edytowanie genów z wymaganej dla GMO oceny bezpieczeństwa   Paranjape   2022-04-11
Metamorfozy    Júnior   2022-04-09
Rolnicy nie mogą uprawiać tego, na co ich nie stać   Ongu   2022-04-07
Rośliny zmodyfikowane: odkłamać opinię o GMO   Conrow   2022-04-07
Odmowa szczelinowania jest szaleństwem   Ridley   2022-04-02
Jak wirusy chorób układu oddechowego ewoluują, by stać się łagodniejsze   Ridley   2022-03-22
Czy globalne ocieplenie może być dla nas dobre?   Ridley   2022-03-03
Południowa Afryka powinna przemyśleć regulacje dotyczące genetycznie modyfikowanych roślin   i Priyen Pillay   2022-03-01
Dlaczego środowiskowcy stanowią większą przeszkodę dla skutecznej polityki klimatycznej niż negacjoniści?   Boudry   2022-02-21
O figach i osach   Júnior   2022-02-18
Pień liczący 40 tysięcy lat przekazany Maorysom zamiast nauce   Coyne   2022-02-14
Propaganda anty-GMO obraża drobnych farmerów w Afryce i w Azji   Gakpo   2022-02-08
Jak “tubylcza medycyna” różni się od medycyny   Coyne   2022-02-07
Biotechnologia podnosi plony wysokobiałkowego afrykańskiego pochrzynu   Wetaya   2022-02-04
Spadanie w przepaść   Turski   2022-01-27
Czy koniki morskie coś nam mówią o LGBT? Błąd naturalistyczny popełniony przez Sussex Wildlife Trust   Coyne   2022-01-25
Ojczyznę wolną (od GMO) zachowują pany   Koraszewski   2022-01-22
Namawianie roślin, żeby podjęły ryzyko   Karavolias   2022-01-20
Czy uczenie się metodą prób i błędów jest „nauką”?   Coyne   2022-01-14
Czy gaz i energia jądrowa są “zielone”   Novella   2022-01-12
Ptasia grypa w czasach ludzkiej zarazy   Collins   2022-01-11
Rasa jest kontinuum. Płeć jest cholernie binarna   Dawkins   2022-01-10
Komiczne krzyki o klimatycznej Apokalipsie –— 50 lat nieuzasadnionego siania paniki   Lomborg   2022-01-06
Gnidy, o których PIS ci nie powie   Koraszewski   2022-01-05
Niebezpieczeństwo upolitycznienia nauki   Krylov   2022-01-01
Specjalne przesłanie do muzułmanów na całym świecie   Pandavar   2021-12-28
Nowe badania pokazują, że kraje rozwijające się płacą wysoką cenę za ograniczanie upraw roślin GMO   Maina   2021-12-25
Jajo, które wywołało sensację   Koraszewski   2021-12-24
Pięć powodów zakończenia debaty o GMO   Evanea   2021-12-16
Richard Dawkins pisze do “przyjaciół nauki i rozumu” w Nowej Zelandii   Coyne   2021-12-14
 Syntetyczna biologia oferuje obietnicę rozwiązania globalnego problemu z plastikiem   Agaba   2021-12-13
Nigeria wzywa Afrykę, by szła w jej ślady w sprawie GM wspięgi wężowatej   Opoku Gakpo   2021-12-09
Małe nietoperze idą do przedszkola   Koraszewski   2021-12-06
Afrykańscy naukowcy wzywają do polityki poparcia biologii syntetycznej i innych innowacji   Agaba   2021-12-02
Uprawy GMO zredukowały zatrucia farmerów pestycydami   Maina   2021-11-27
Czy genetyka może pomóc wyeliminować nierówność?   Coyne   2021-11-26
Matematyka i prawdziwa historia katastrofy klimatycznej   Lomborg   2021-11-24
Nigeria daje zielone światło kukurydzy GMO   Conrow   2021-11-22
Ugandyjscy studenci nalegają na powszechne stosowanie biotechnologii i uchwalenie prawa o biobezpieczeństwie   Agaba   2021-11-17
Organiczny eksperyment Sri Lanki   Novella   2021-11-16
Ruanda skwapliwie przyjmuje biotechnologię poprzez ekspansję OFAB   Meeme   2021-11-12
Sprzeciw wobec anulowania Huxleya   Coyne   2021-11-05
Farmerka z Kenii zbiera obfity plon z bawełny GM   Meeme   2021-11-04
Czarni uczeni i nauka o rasizmie   Koraszewski   2021-11-03
Kłusownictwo narzuca na słonie dobór w kierunku ewolucji słoni bez ciosów   Coyne   2021-11-01
Marnujemy naszą wielką szansę na edytowanie genów   Ridely   2021-10-29
“Czarne tygrysy” w małym indyjskim rezerwacie sugerują losowy dryf genetyczny   Coyne   2021-10-26
Wytwarzanie białek w roślinach przez rolnictwo molekularne   Novella   2021-10-20
Strzelby, zarazki, maszyny to zdecydowanie antyrasistowska książka. Dlaczego lewica jej nie kocha?   Barnett   2021-10-13
Nigeryjscy farmerzy nie mogą się doczekać wystarczających ilości GM nasion wspięgi wężowatej   Gakpo   2021-10-12
Dobór płciowy versus dobór naturalny: na przykładzie chrząszczy   Coyne   2021-10-08
Edytowanie genów kluczem do ulepszenia podstawowych upraw w Afryce   Abugu   2021-10-01
Bakłażan GMO jest udokumentowaną wygraną ubogich farmerów   Conrow   2021-09-23
O Jezu, wskrzeszają mamuta!   Koraszewski   2021-09-17
Wszystkie antyizraelskie wiadomości zasługują na publikację   Bard   2021-09-04
Tożsamość etniczna i rasa   Coyne   2021-08-30
Środowiskowcy mylili się – nie stoimy przed apokalipsą owadów   Ridley   2021-08-13
Czy znaleziono najstarszy dowód na istnienie zwierzęcia? Nowa gąbko-podobna skamieniałość liczy 890 milionów lat   Coyne   2021-08-11
Psy rozumieją ludzi   Novella   2021-08-06
Nowy start nauki o życiu w epoce genu   Ridley   2021-08-05
Użycie ognia przez homininy: przykład szybkiej ewolucji kulturowej?   Coyne   2021-08-04
Historia pandemii jest historią zaprzeczania   Jackoby   2021-07-27
Nieuchwytny neuron babci   Novella   2021-07-22
Cierpienie i pytanie, czy przestaniemy jeść mięso   Koraszewski   2021-07-14
Czy nadchodzi hydroponika?   Novella   2021-07-13
Raport Unii Europejskiej o glifosacie   Novella   2021-07-10
Dlaczego ideologii nie należy mieszać z nauką   Coyne   2021-06-30
Nagonka na Izrael grasuje w stowarzyszeniach nauk ścisłych, medycyny i edukacji   Chesler   2021-06-24
Szczęśliwi pracoholicy   Witkowski   2021-06-03
Propaganda w wykonaniu nauczycieli akademickich   Chesler   2021-06-02
Ewolucja wielokomórkowości   Novella   2021-05-07
Polityczna polaryzacja jest przesadzona   Novella   2021-05-04
Wrotki były kiedyś sztandarową grupą istot bez seksu, a teraz sądzi się, że ukradkiem odstawiają szybkie numerki   Coyne   2021-04-22
Błędna historia antykolonializmu   Tupy   2021-04-21
Mayflower wyrusza w podróż raz jeszcze   Koraszewski   2021-04-19
Genetyczny przełącznik CRISPR   Novella   2021-04-16

« Poprzednia strona  Następna strona »
Polecane
artykuły

„Przebudzeni”


Pod sztandarem


Wielki przekret


Łamanie praw człowieka


Jason Hill


Dlaczego BIden


Korzenie kryzysu energetycznego



Obietnica



Pytanie bez odpowiedzi



Bohaterzy chińskiego narodu



Naukowcy Unii Europejskiej



Teoria Rasy



Przekupieni



Heretycki impuls



Nie klanial



Cervantes



Wojaki Chrystusa



 Palestyńskie weto



Wzmacnianie układu odpornościowego



Wykluczenie Tajwanu z WHO



Drzazgę źle się czyta



Sześć lat



Pochodzenie



Papież Franciszek



Schadenfreude



Pseudonaukowa histeria...


Panstwo etc



Biły się dwa bogi


 Forma przejściowa


Wstęga Möbiusa


Przemysł produkcji kłamstw


Jesteś tym, co czytasz,



Radykalne poglądy polityczne


Einstein



Socjologia


Listy z naszego sadu
Redaktor naczelny:   Hili
Webmaster:   Andrzej Koraszewski
Współpracownicy:   Jacek, , Malgorzata, Andrzej, Marcin, Henryk