Dylemat społeczny (film)

Film Dylemat społeczny opisuje psychologiczne podstawy i techniki manipulacji, za pomocą których, jak twierdzą autorzy, firmy z branży mediów społecznościowych i technologii uzależniają użytkowników. Firmy te obserwują, śledzą i mierzą aktywność użytkowników w sieci, a następnie wykorzystują te dane do tworzenia modeli sztucznej inteligencji, które przewidują działania użytkowników.

Dylemat społeczny koncentruje się na społecznym i kulturowym wpływie korzystania z mediów społecznościowych na zwykłych użytkowników, ze szczególnym uwzględnieniem algorytmicznie wspomaganych form modyfikacji zachowań i manipulacji psychologicznej. W filmie poruszono szereg powiązanych ze sobą tematów, w tym uzależnienie od technologii, fake newsy, depresję i lęk^[1].

Tristan Harris, były etyk projektowy Google i współzałożyciel Center for Humane Technology, wyjaśnia w dokumencie, że firmy technologiczne mają trzy główne cele:

1. Cel zaangażowania: zwiększenie korzystania i zapewnienie, że użytkownicy będą kontynuować przewijanie (ang. infinite scroll)^[a].
2. Cel rozwoju: upewnienie się, że użytkownicy będą wracać i zapraszać znajomych, którzy zaproszą jeszcze więcej znajomych.
3. Cel reklamowy: upewnienie się, że podczas gdy powyższe dwa cele są realizowane, firmy zarabiają jak najwięcej pieniędzy na reklamach.

Harris podsumował to ostrzeżeniem: „Jeśli nie płacisz za produkt, to ty jesteś produktem”, parafrazując wcześniejsze spostrzeżenia z książki Television Delivers People, Toma Johnsona i Andrew Lewisa^[3].

Inny rozmówca, Jonathan Haidt, psycholog społeczny ze Stern School of Business na Uniwersytecie Nowojorskim porusza kwestię zdrowia psychicznego w kontekście mediów społecznościowych. Z wywiadu przeprowadzonego przez Haidta wynika, że osoby urodzone po 1996 dorastały w społeczeństwie, w którym korzystanie z mediów społecznościowych było normą. Efektem tego jest nieustanny kontakt z przytłaczającą ilością treści od najmłodszych lat.

W napisach końcowych filmu, rozmówcy proponują widzom podjęcie działań, aby się bronić, np. wyłączenie powiadomień, nieakceptowanie polecanych filmów na YouTube, korzystanie z wyszukiwarek, które nie zapisują historii wyszukiwania i ustanowienie w domu zasad dotyczących korzystania z telefonu komórkowego^[4].

W dokumencie wykorzystano fikcyjną, zdramatyzowaną narrację, aby zilustrować „przeciętną amerykańską rodzinę z klasy średniej”^[5], w której każdy z członków rodziny inaczej komunikuje się z internetem: Ben, nastoletni uczeń liceum, który coraz bardziej pogrąża się w uzależnieniu od mediów społecznościowych i radykalizacji w sieci; Isla, nastolatka, u której się rozwija depresja i ma niską samoocenę z powodu nierealistycznych standardów piękna w mediach społecznościowych^[6]; Cassandra, starsza nastolatka, która nie ma telefonu komórkowego i jest przedstawiana jako wolna od manipulacji w sieci; oraz ich matka i ojczym, którzy starają się ograniczyć czas spędzany przez swoje dzieci przed ekranem, ale nie do końca rozumieją czynniki wpływające na sytuację. W narracji Ben i Isla są przedstawiani jako osoby coraz bardziej dotknięte uzależnieniem od mediów społecznościowych i internetu, napędzani przez reklamy i sztuczną inteligencję, reprezentowane przez antropomorfizowanych dyrektorów technicznych w pokoju kontrolnym „za ekranem”, nie przejmujących się zbytnio dobrem ludzi ani dobrem społeczeństwa^[5][4].

• Tristan Harris, wcześniej pracownik Google na pozycji etyka w projektowaniu^[7], założyciel i prezes Apture (2007), oraz założyciel the Center for Humane Technology^[8]; współgospodarz podcastu Your Undivided Attention wspólnie z Aza Raskin^[9].
• Tim Kendall, były dyrektor ds. monetyzacji w Facebook^[10], były prezes Pinterest i dyrektor generalny Moment (aplikacji mobilnej, która śledzi czas spędzany przed ekranem)^[11].
• Jaron Lanier, pisarz zajmujący się filozofią komputerową, informatyk, artysta wizualny i kompozytor współczesnej muzyki klasycznej; autor książki Ten Arguments for Deleting Your Social Media Accounts Right Now(2018)^[12], polskie wydanie Dziesięć powodów, dla których powinieneś natychmiast usunąć swoje konta z mediów społecznościowych (2021)^[13].
• Roger McNamee, dawniej inwestor w akcje Facebooka^[14], autor książki Zucked: Waking Up to the Facebook Catastrophe (2019) i współzałożyciel firmy venture capital Elevation Partners.
• Aza Raskin, były szef działu doświadczony użytkownik w Mozilla Labs i kreatywny lider Firefox^[15]; współzałożyciel Center for Humane Technology^[8] i założyciel Massive Health^[16], wynalazca nieskończonego przewijania^[b][a].
• Justin Rosenstein, były menadżer ds. inżynieryjnych w Facebook^[17], były menedżer ds. produktów w Google^[18] oraz współzałożyciel Asana^[19] i One Project.
• Shoshana Zuboff, emerytowana profesor w Harvard Business School, autorka The Age of Surveillance Capitalism (2019)^[20].
• Jeff Seibert, były dyrektor ds. produktu w firmie Twitter^[21], przedsiębiorca technologiczny i współzałożyciel Digits^[22].
• Anna Lembke, dyrektor medyczny ds. medycyny uzależnień w Stanford University School of Medicine^[23].
• Jonathan Haidt, psycholog społeczny w New York University Stern School of Business, autor The Righteous Mind: Why Good People are Divided by Politics and Religion (2012) i współautor The Coddling of the American Mind: How Good Intentions and Bad Ideas Are Setting Up a Generation for Failure (2018)^[24].
• Sandy Parakilas, były menedżer ds. operacji na platformie Facebook^[25] i były menedżer ds. produktu w Uber^[26].
• Cathy O'Neil, naukowczyni zajmująca się danymi i autorka Weapons of Math Destruction (2016)^[27].
• Randy Fernando, były menedżer ds. produktu w Nvidia, były dyrektor wykonawczy w Mindful Schools, oraz założyciel i dyrektor wykonawczy w Center for Humane Technology^[28].
• Joe Toscano, były konsultant ds. projektów w Google i autor Automating Humanity (2018)^[29].
• Bailey Richardson, dawniejszy członek zespołu w Instagram oraz partner w People & Company^[30].
• Rashida Richardson, profesor (uczelni) prawa i nauk politycznych w Northeastern University School of Law^[31] oraz były dyrektor ds. badań politycznych w AI Now Institute^[32][33].
• Guillaume Chaslot, były inżynier oprogramowania w Google (YouTube) oraz założyciel AlgoTransparency^[34].
• Renée DiResta, kierownik ds. badań technicznych w Stanford Internet Observatory^[35] oraz były szef działu polityki w Data for Democracy.
• Cynthia M. Wong, była starsza badaczka (ang. senior researcher) internetu w Human Rights Watch^[36].
• Alex Roetter, były starszy wiceprezes ds. inżynierii w Twitter^[37].
• Lynn Fox, były dyrektor ds. PR korporacyjnego i Mac PR w Apple^[38], były dyrektor ds. komunikacji korporacyjnej w Google^[39].

• Skyler Gisondo jako Ben^[40].
• Kara Hayward jako Cassandra^[40].
• Sophia Hammons jako Isla^[40].
• Chris Grundy jako ojczym^[41].
• Barbara Gehring jako Matka^[41].
• Vincent Kartheiser jako sztuczna inteligencja^[40].

Jeff Orlowski, reżyser i producent, znany z produkcji wcześniejszych filmów dokumentalnych Chasing Coral i Chasing Ice, zrealizował Dylemat społeczny w 2019. Orlowski podczas panelu dyskusyjnego na wydarzeniu 'Deadline Hollywood Contenders Documentary', powiedział, że „zawsze interesowały go wielkie wyzwania systemowe i społeczne”. Doszedł do wniosku, że „niewidzialnie, garstka projektantów w Dolinie Krzemowej pisze kod, który kształtuje życie miliardów ludzi na całym świecie”^[42]. Mówiąc o genezie powstania filmu Orlowski powiedziałː

Za grafikę, animację i efekty wizualne filmu odpowiadała firma Mass FX Media^[44], a za produkcję i dystrybucję Netflix^[4].

Muzykę do filmu skomponował Mark A. Crawford, kompozytor i filmowiec, nominowany, za prace do filmu, do nagród Primetime Emmy i ASCAP^[45][46].

Stacja CNBC podała, że użytkownicy mediów społecznościowych mieli wątpliwości, czy powinni dalej korzystać z Facebooka lub Instagrama, po obejrzeniu filmu Dylemat społeczny. Jednak gdy zapytano Facebooka o możliwość spadku liczby użytkowników, ten odmówił odpowiedzi i komentarza na ten temat^[55].