Czas odrzucić naiwny optymizm wobec technologii informacyjnych i dostrzec w końcu ich skomplikowane relacje z polityką, ekonomią i życiem społecznym. Na początek obalmy kilka popularnych przekonań.

Artykuł rozszerza wystąpienie na konferencji InternetBeta 2017. W kolejnym tekście rozwinę wątek, który na konferencji i tutaj udało mi się tylko zasygnalizować – bardziej dojrzałego podejścia do technologii informacyjnych.  

„Jeśli zrozumiemy ten slajd, wygramy wojnę” powiedział w 2009 roku generał Stanley A. McChrystal, dowódca sił NATO w Afganistanie, gdy pokazano mu powyższy slajd. Wyjaśnia on amerykańską strategię w Afganistanie.

Inny amerykański generał powiedział „PowerPoint nas ogłupia”, a jeszcze inny uznał go za „zagrożenie wewnętrzne” i zakazał. Dlaczego? PowerPoint został wymyślony i kochamy go, bo wydaje nam się, że ułatwia przekazywanie informacji. Nie zdajemy sobie jednak sprawy z negatywnych skutków jego używania. Okazuje się, że przedstawianie informacji w formie prezentacji daje nam złudzenie zrozumienia i kontroli. Nawet najbardziej skomplikowany problem można zamienić w przejrzystą listę punktów. Po drodze niestety gubimy zawiłości i szczegóły oraz skomplikowane związki między zjawiskami. Dodatkowo forma spotkań, w których jedna osoba zarządza kluczowymi informacjami ogranicza dyskusję i krytyczne myślenie.

Właśnie dlatego Jeff Bezos zakazał w Amazonie spotkań w formie prezentacji. Gdy ktoś chce przedyskutować nowy pomysł, musi opisać go na kilku stronach. Na początku spotkania uczestnicy w ciszy czytają notatki, a następnie przechodzą do zadawania pytań.

PowerPoint to tylko jeden z wielu przykładów narzędzi, które na pierwszy rzut oka wydają się rozwiązywać jakiś problem, a w rzeczywistości tworzą nowe, często poważniejsze od tych rozwiązywanych. Za naszą miłością do tego typu technologii stoi ideologia techno-optymizmu. Ten artykuł ma na celu choć trochę nas na nią uodpornić. To z kolei powinno poprawić nasze zrozumienie złożonych relacji między technologią a jej użytkownikami, a w efekcie umożliwić projektowanie lepszych produktów i usług.

Technologiczny solucjonizm

Szczególnie szkodliwą odmianą technologicznego optymizmu jest solucjonizm. Zjawisko to najlepiej opisał Evgeny Morozov w książce „To save everything click here.” Ten artykuł w znacznym stopniu na niej bazuje.

Czym jest technologiczny solucjonizm? To przekonanie, że do rozwiązania wszystkich problemów ludzkości wystarczą odpowiednie narzędzia i dostateczna moc obliczeniowa. To fascynacja prostymi rozwiązaniami niezwykle skomplikowanych problemów. Za najkrótsze podsumowanie solucjonizmu uważam cytat z książki Umberto Eco:

„Każdy skomplikowany problem ma proste rozwiązanie i jest ono błędne.”

Ulepszanie w nieskończoność

Cechą charakterystyczną solucjonistów jest chęć ulepszania wszystkiego. Jeśli coś da się ulepszyć to znaczy, że jest tam problem do rozwiązania. A to z kolei powoduje, że solucjoniści uznają czasem za problem coś, co problemem nie jest. Podam przykład dotyczący dostępu do danych publicznych, pochodzący z książki Morozova.

Dostęp do danych publicznych może być łatwiejszy bądź trudniejszy, szerszy lub węższy. Solucjoniści oczywiście chcieliby, aby był jak najłatwiejszy i najszerszy. Nie biorą niestety pod uwagę negatywnych konsekwencji. Weźmy mapy przestępczości udostępniane w internecie przez policję. Pierwsza myśl – świetne rozwiązanie, każdy może sprawdzić przestępczość w swoim mieście. Ale jest i druga strona medalu. Pewna firma ubezpieczeniowa przeprowadziła badanie, które pokazało, że 11% świadków przestępstw nie zgłosiło ich na policję, bo bało się, że przełoży się to na spadek ceny ich nieruchomości. Dobre w zamierzeniu rozwiązanie ma konsekwencje gorsze od problemu, który rozwiązuje, czyli łatwiejszego dostępu do danych.

Święte wskaźniki

Kolejną cechą charakterystyczną solucjonizmu jest przypisywanie wartości tylko do tego co da się zmierzyć, bo tylko to co da się zmierzyć można ulepszyć. Wniosek: jeśli czegoś nie da się zmierzyć, to nie warto tego robić. Mierniki, KPI, wskaźniki są postrzegane jako obiektywne i święte, podczas gdy w rzeczywistości ich wybór jest wynikiem subiektywnych decyzji.

Warto pamiętać, że przerabianie świata na dane dla komputerów prowadzi do ogromnych uproszczeń. Allison Parrish w fantastycznej prezentacji mówi o tym, że programowanie to zapominanie – zapominanie o tym wszystkim, czego nie uwzględniliśmy w systemie. Autorka pokazuje to w ten sposób.

Tak naprawdę ten szary wycinek jest nieskończenie mały, bo rzeczywistość jest nieskończenie skomplikowana. Oznacza to, że dane, na których operujemy prawie na pewno mają mało wspólnego z analizowanym zjawiskiem, nie oddają jego złożoności i wszystkich istotnych czynników.

Epokalizm

Kolejną pułapką techno-optymistów, o której pisze Morozov jest epokalizm, czyli przekonanie, że narodzenie się internetu zapoczątkowało zupełnie nową epokę w rozwoju ludzkości. A skoro żyjemy w innej epoce, to nie powinny nas krępować stare zasady. Trwa rewolucja, upada stary porządek, nowy dopiero się tworzy, wszystko wolno, nie należy w żaden sposób hamować postępu.

Morozov zachęca do przyjęcia na chwilę odwrotnej perspektywy: pomyślcie, że internet nie zmienia niczego. Autor cytuje historyka Marshalla Poe, który mówi mniej więcej coś takiego:

„Internet to poczta, kiosk z gazetami, wypożyczalnia wideo, galeria handlowa, salon gier, kasyno i sex shop w jednym.  Ok, to naprawdę niesamowite. Ale to niesamowite w ten sam sposób, jak niesamowita jest zmywarka do naczyń – pozwala robić rzeczy trochę łatwiej niż wcześniej.”

To duże uproszczenie, ale z drugiej strony, dlaczego uproszczenie o rewolucji technologicznej ma być bardziej właściwe? Miejmy trochę pokory. Nasze czasy wcale nie są tak wyjątkowe.

Jednym z fundamentów wiary w cyfrową rewolucję jest przekonanie, że internet umożliwia porozumienie między ludźmi tak doskonałe jak nigdy wcześniej. Ale taka wiara nie jest nowa. Już w połowie XIX wieku przewidywano, że transport drogowy zlikwiduje podziały między narodami i niedługo wszyscy będą mówić tym samym językiem. Mniej więcej w tym samym czasie francuski minister mówił, że telegraf zmniejszy liczbę wojen na świecie, bo wojny biorą się z niezrozumienia między ludźmi. Przypominam, że słowa te padły przed obiema wojnami światowymi.

Techno-defetyzm

Oto cecha, która najbardziej dziwi mnie u techno-optymistów. Otóż wielu okazuje się być technologicznymi defetystami, czyli uważają, że nie mamy wpływu na technologię. Że rozwija się ona jakimś z góry ustalonym tokiem i nic nie jest w stanie tego zmienić. Opór jest daremny. Dziwi mnie to tym bardziej, że często techno-defetystami są ludzie uważani za innowatorów, np. pracownicy startupów, czy managerowie firm IT.

Techno-defetysta wierzy, że jedynym sposobem reakcji na nową technologię jest zmiana prawa i  dostosowanie się społeczeństwa. Jeśli krytykujesz nową technologię i protestujesz to jesteś naiwnym przegrywem, który nie rozumie jak działa świat. Tak jak taksówkarze protestujący przeciwko Uberowi, którzy rzekomo nie walczą z amerykańską korporacją, ale z samym Wielkim Postępem Technologicznym.

Osoby wierzące w niepowstrzymany marsz technologii opierają swoje przekonanie na wybiórczych przykładach, jak historia aparatu fotograficznego, który wywołał dyskusje o prywatności, ale w końcu nauczyliśmy się z nim żyć. Skoro społeczeństwo dostosowało się do aparatów fotograficznych, to dlaczego nie możemy zrobić tego samego z Uberem? To nie takie proste. Fotografia to tylko jedna z wielu technologii, a dostosowanie się społeczeństwa to tylko jeden z wielu sposobów reakcji na nową technologię. Historia zna przykłady, gdy to ludzie dostosowali technologię do siebie.

W miastach na początku XIX wieku panował ogromny hałas. To czasy, gdy drogi były wybrukowane i nie używano gumowych opon. W odpowiedzi na nasilający się problem, ludzie zaczęli się organizować i walczyć z hałasem. Oczywiście także w XIX wieku byli tacy, którzy uważali, że hałas jest nieunikniony, a ludzie muszą się przyzwyczaić. Przeciwnicy hałasu byli nazywani przewrażliwionymi fanatykami próbującymi powstrzymać postęp. Na szczęście ostatecznie to oni wygrali. Doprowadzili między innymi do wprowadzenia tłumików w pojazdach, gumowych opon i wyciszenia nawierzchni dróg. Hałasu nie udało się wyeliminować całkowicie, ale sytuacja znacząco się poprawiła.

A co z motoryzacją, jedną z największych innowacji ostatnich 200 lat. Czy dziwi nas, że produkcja i używanie aut obwarowane jest tyloma przepisami? Czy wyobrażamy sobie świat bez przepisów o ruchu drogowym? Bez wymogów dotyczących bezpieczeństwa pasażerów?

Skoro już jesteśmy przy motoryzacji. Niedawne strajki taksówkarzy wywołały u kilku moich znajomych mniej więcej takie reakcje:

„Dlaczego taksówkarze nie rozumieją, że ten zawód ma przed sobą max 5-8 lat? #automatyzacja”

Zastanawiam się, co ten kreatywny przedsiębiorca z branży nowych technologii miał na myśli. Czy uważa, że dla taksówkarzy lepszą strategią jest poddać się i siedzieć cicho niż próbować wywalczyć o lepsze warunki na te kilka lat? Dodam, że chciałem założyć się z autorem cytatu, że za 5 lat zawód taksówkarza nadal będzie istniał. Kolega nie przyjął zakładu, więc chyba sam zwątpił w swoją prognozę.

Pułapki postępu

Wielu techno-optymistów wierzy w nadejście technologicznej osobliwości, po której dobra i potężna sztuczna inteligencja zaopiekuje się nami wszystkimi. Mój znajomy, Marcin Zaremba, powiedział kiedyś, że wiara ta przypomina mu wiarę religijną. Tylko w ten sposób można tłumaczyć przekonanie, że w niedającej się przewidzieć przyszłości, spośród niezliczonej liczby możliwych scenariuszy, ziści się akurat ten pozytywny dla ludzkości.

Najlepszym powodem, aby przestać wierzyć w niepowstrzymany marsz technologii jest to, że nie ma żadnego uniwersalnego prawa, którym rozwój technologii się rządzi. Ray Kurzwail w swoich prognozach dotyczących nadejścia technologicznej osobliwości oparł się na tzw. Prawie Moore’a i rozciągnął je z informatyki na inne dziedziny. Problem w tym, że Prawo Moore’a nie istnieje. Morozov w swojej książce przywołuje badania Ilkka Tuomi i zwraca uwagę, że Moore zmieniał je dwukrotnie i nie zostało ono potwierdzone solidnymi badaniami.

Jest jeszcze co najmniej jeden dobry powód, aby nie wierzyć w postęp technologiczny jako niepowstrzymany i zmierzający zawsze w dobrą stronę. Otóż historia ludzkości zna przypadki, gdy wykorzystanie technologii doprowadzało do upadku cywilizacji.

Ronald Wright w książce i serii wykładów „A short history of progress” spopularyzował termin „pułapka rozwoju”. Oznacza on sytuację, gdy społeczeństwo goniąc za postępem tworzy nowe problemy, których nie potrafi rozwiązać, bo brakuje mu zasobów albo woli politycznej. Brak chęci rozwiązania nowych problemów wynika z obawy przed krótkoterminowym obniżeniem statusu i jakości życia. Z kolei narastanie problemu prowadzi do zatrzymania rozwoju lub nawet upadku cywilizacji.

Brzmi zawile, a więc przykład.  Dla naszych przodków postępem było wymyślenie włóczni, która pozwalała zabić dużego zwierza. Kolejnym krokiem był łuk. Ale w niektórych regionach skuteczne metody myśliwskie doprowadziły do wybicia zwierzyny, braku pożywienia i w efekcie upadku plemienia.

Wracając do naszych czasów. Dobrym przykładem pułapki rozwoju jest wykorzystanie paliw kopalnych, jak ropa i węgiel.

Globalne emisje węgla z paliw kopalnych w latach 1800-2007

Przez długi czas czerpaliśmy z tego wiele korzyści, ale w którymś momencie została przekroczona granica i rozpoczął się proces globalnego ocieplenia, który może doprowadzić do upadku całej ludzkiej cywilizacji. Czy istnieje obecnie więcej takich technologii?

Zastanówmy się przez chwilę. Ile czasu łącznie wszyscy ludzie na świecie spędzają w social media? Ile uwagi im poświęcamy? Jak zmieniły one relacje społeczne, politykę, dziennikarstwo, postrzeganie prywatności? Jakie nowe problemy wygenerowały?

Może social media są kolejną pułapką rozwoju?

Interneto-centryzm

Ostatnią pułapką technologicznego optymizmu jest zjawisko nazwane przez Morozova interneto-centryzmem. Polega ono na dwóch założeniach:

• Istnieje coś takiego jak mityczny „internet”. Dlaczego cudzysłów? Aby odróżnić go od internetu jako technologicznej infrastruktury. „Internet” to twór wyobrażony, któremu przypisuje się moc obalania rządów czy uzależniania ludzi. Wiecie, chodzi o te newsy w TV o ludziach uzależnionych od „internetu”.
• Drugie założenie interneto-centryzmu to przekonanie, że „internet” to ostateczny wzór dla wszystkich innych dziedzin życia. Że „internet” oparty jest na jakiś uniwersalnych, obiektywnych zasadach, które mają zastosowanie zawsze i wszędzie.

Według Morozova nie istnieje coś takiego jak jedna logika „internetu” czy jeden wspólny zbiór reguł nim rządzących. Właściwszym podejściem jest analizowanie każdej platformy, serwisu czy technologii z osobna.

Popularność interneto-centryzmu wynika według mnie z tego, że wszyscy widzimy, że branża IT błyskawicznie się rozwija. Firmy, jak Facebook i Google w ekspresowym tempie zarobiły miliardy dolarów i stały się największymi potęgami na świecie, a ich założyciele stali się guru i wyroczniami cytowanymi przez media na całym świecie. Ulegliśmy złudzeniu, że za sukcesem biznesowym stoją jakieś uniwersalne zasady, reguły i wzorce.

Morozov zauważa, że interneto-centryzm wdziera się do wszystkich dziedzin życia i wprowadza tam swoje wartości, głównie otwartość i transparentność. Działania firm i rządów są oceniane przez pryzmat zgodności z „zasadami internetu”. Ileż to razy słyszeliśmy, że rządy lub firmy czyhają na „internet”.

Przez wiele lat sam byłem wyznawcą interneto-centryzmu. Pierwsze wątpliwości pojawiły się w trakcie pisania pracy magisterskiej o polityce w „internecie”. Analizowałem wybory prezydenckie w Korei Południowej w 2002 roku, które powszechnie w mediach nazywano „pierwszymi wyborami internetowymi”, wygranymi rzekomo głównie dzięki aktywności młodych ludzi w sieci. Rzuciłem się na ten przykład tak jak na 24-letniego geeka przystało. Jakie było moje zdziwienie, gdy po głębszej analizie okazało się, że „internet” pomógł prezydentowi tylko w niewielkim stopniu. Potem nie dziwiłem się już tak bardzo, gdy media nazywały kolejne rewolucje „internetowymi”, jak np. wydarzenia w Iranie czy Egipcie. Warto pamiętać, że niemal wszyscy rewolucjoniści, którzy próbowali przenieść zasady „internetu” do świata real politik i organizowali się w luźne struktury sieciowe ostatecznie przegrali. Władzę zachowali lub przejęli gracze robiący politykę w starym stylu – poprzez organizacje o solidnej strukturze i jasnej hierarchii.

Gdzie nas doprowadził techno-optymizm

Złóżmy wszystko do kupy. Sferą naszego życia, gdzie według mnie najlepiej widać skutki pułapek techno-optymizmu jest rynek mediów. Przypomnijmy.

• Media internetowe rozwijały się przez lata nie podlegając właściwie żadnym przepisom. A na pewno nie tak rygorystycznym, jak prasa, radio czy telewizja. W sieci kwitło piractwo i kradzież treści.
• Było to możliwe, bo zarówno politycy, jak i biznes uwierzyli, że żyjemy w nowej epoce, w której stare zasady nie obowiązują. Cyfrowa rewolucja rzekomo wszystko zmieniła.
• Dodajmy do tego wiarę, że technologii nic nie zatrzyma. Skoro tak, to obrona prywatności użytkowników i walka z amerykańskimi cyber-korpami jest bezcelowa.
• I na koniec solucjonizm z wiarą w proste rozwiązania wszystkich problemów i obsesją na punkcie mierzenia. Tylko to co da się zmierzyć ma wartość. Odsłony muszą się zgadzać!

Do czego technologiczny optymizm doprowadził rynek mediów?

• W USA liczba pracowników gazet spadła o ponad połowę w porównaniu z początkiem lat ’90. Nie rekompensuje tego wzrost zatrudnienia w mediach online – pracuje w nich mniej więcej tyle samo osób, co obecnie w gazetach.
• Oczywiście pieniądze z reklam powędrowały do mediów internetowych. Mimo to media internetowe nie palą się do płacenia za solidne dziennikarstwo. Najważniejsze tematy nadal odkrywają w zdecydowanej większości „stare media”.
• W sumie jednak nie powinniśmy się dziwić, że media internetowe nie mają pieniędzy, skoro połowę wszystkich pieniędzy na reklamę cyfrową zgarniają Facebook i Google, które w ogóle nie zatrudniają dziennikarzy.
• Ciągle słyszymy obietnice, że reklama internetowa trafia tylko do właściwych odbiorców. A prawda jest tak, że w zeszłym roku oszuści wyłudzili od reklamodawców kilkanaście miliardów dolarów. Dwa razy więcej niż rok wcześniej. Największy znany botnet, MethBot, wyłudzał 5 milionów dolarów dziennie na reklamach, których nikt nie widział.
• W ogóle jest problem z dokładnym mierzeniem tego, kto widzi reklamy. Na pewno nie widzi ich 30% polskich użytkowników internetu, którzy używają adblocków.
• Do tego mamy zalew fake newsów i botów, które odpowiadają za coraz większy ruch w social media.

Jeśli uznamy, że znaczenie mediów dla społeczeństwa można wyrazić liczbami, to widzimy pasmo sukcesów – więcej odsłon, użytkowników mediów społecznościowych, komentarzy i lajków. Ale chyba nie tylko ja uważam, że rola mediów to coś więcej i trudno to przedstawić na wykresie. Możecie się ze mną nie zgodzić, ale uważam, że techno-optymizm na rynku mediów przyniósł więcej szkód niż korzyści. Jako obywatele coraz bardziej zamykamy się w bańkach informacyjnych. Nasila się polaryzacja polityczna – zwolennicy i przeciwnicy rządu w Polsce czy USA nie są już w stanie ze sobą normalnie rozmawiać, żyją w oddzielnych rzeczywistościach. Że nie wspomnę o rosnącej liczbie przeciwników szczepień.

Case study

Świeżym przykładem solucjonizmu w działaniu jest wewnętrzna akcja Agory. Cytując WirtualneMedia.pl:

Agora (…) zaczęła motywować dziennikarzy „Gazety Wyborczej” by tak konstruowali treści na serwis Wyborcza.pl, aby przyciągały w jak największym stopniu cyfrowych prenumeratorów. Ci pracownicy, którzy wywiążą się najlepiej z zadania, otrzymują raz w miesiącu kilkuset złotowe nagrody pieniężne (…). Nie są to jednak nagrody uznaniowe: przyznający je redaktorzy opierają się na twardych danych z wewnętrznego systemu (…). Nagrody mają skłonić dziennikarzy (…) przede wszystkim do osobistego dbania o to, by jak najlepiej promować swoje teksty m.in. za pośrednictwem mediów społecznościowych.

Na pierwszy rzut oka – świetny pomysł! Agora zwiększymy sprzedaż poprzez zachęcenie dziennikarzy do większej aktywności w social media i tworzenia tekstów, które są jeszcze bardziej wartościowe dla czytelników. Arbitrem całego procesu będzie obiektywny system informatyczny.

Z dyskusji z kilkoma osobami z branży mediów wiem, że nie tylko ja mam poważne obawy, że akcja może długofalowo przynieść efekt zupełnie odwrotny od pożądanego.

Na początek przeanalizujmy pobieżnie model sprzedaży cyfrowych prenumerat. Piszę to z własnego doświadczenia, jako osoba płacąca za paywall Wyborczej od momentu jego wprowadzenia.

• Wyborcza oferuje super oferty na wielomiesięczne prenumeraty. Nie opłaca się kupować pakietów na krócej niż kwartał.
• Czytelnicy Wyborczej nie kupują prenumeraty przez przypadek, ze względu na jeden tekst. A już na pewno nie przedłużają z tego powodu prenumeraty na kolejny kwartał.
• Głównym powodem płacenia za Wyborczą są dla mnie duże teksty, reportaże i inne materiały, które właściwie nie występują w darmowych mediach internetowych.
• Równocześnie większość czytanych przeze mnie tekstów to newsy ze strony głównej, którą sprawdzam przy śniadaniu.
• W efekcie najczęściej o skończeniu prenumeraty dowiaduję się czytając krótki news. Szybko przedłużam na wiele miesięcy i wracam do czytania.

Do jakich zachowań może doprowadzić „program motywacyjny”:

• System informatyczny nie uwzględnia takich czynników, jak siła marki Wyborczej, wiarygodność, inne czytane/widziane teksty etc. Fakt, że ktoś przedłużył prenumeratę na newsie o kolejnej wpadce Trumpa może być zupełnym przypadkiem. Równocześnie, statystycznie rzecz biorąc, większość ludzi będzie przedłużać prenumeraty na newsach i artykułach o największym zasięgu. Dziennikarze będą zatem mieli motywację, aby wpływać na kolegów odpowiedzialnych za dobór treści promowanych na stronie głównej i w social media. Czyjś tekst wyląduję na Facebooku, czyjś nie. W redakcji pogorszy się atmosfera.
• Zakładam, że dziennikarze znają badania nt. tego, jakie treści robią zasięgi w social media, a jakie nie. W skrócie: smutne, obiektywne, stonowane artykuły zasięgów w social media nie robią. Dziennikarze zaczną pisać teksty wywołujące gniew oraz odwołujące się do identyfikacji grupowej.
• Wyborcza już w tym momencie ma problem, bo przez wielu potencjalnych czytelników odbierana jest jako medium jednego środowiska, nieobiektywne. Podążanie dalej w tym kierunku – motywowane zasięgami w social media – nie daje nadziei na poszerzenie grona czytelników.
• Dotychczasowi czytelnicy mogą z kolei zrazić się do Wyborczej, jeśli wyważone, solidne teksty zaczną być wypierane przez rozemocjonowane manifesty.

Przez jakiś czas wykresy w systemie będą jednak rosnąć.

Strategie na przyszłość

Odrzucenie wspomnianych przeze mnie pułapek technologicznego optymizmu nie oznacza odrzucenia technologii jako sposobu na poprawę naszego życia. Wprost przeciwnie! Jeśli przestaniemy wpadać w te pułapki i zaczniemy dostrzegać złożoność problemów, będziemy mogli projektować lepsze rozwiązania.

Więcej o nowym, bardziej świadomym podejściu do technologii i jego przykładach przeczytacie w kolejnym wpisie.

Źródła:

1. http://www.nytimes.com/2010/04/27/world/27powerpoint.html
2. http://www.businessinsider.com/jeff-bezos-email-against-powerpoint-presentations-2015-7
3. Evgeny Morozov , „To save everything click here”
4. http://opentranscripts.org/transcript/programming-forgetting-new-hacker-ethic/
5. The lives and death of Moore’s Law http://firstmonday.org/ojs/index.php/fm/article/view/1000/921
6. https://www.theguardian.com/media/greenslade/2016/jun/06/almost-60-of-us-newspaper-jobs-vanish-in-26-years#img-1
7. http://fortune.com/2017/07/28/google-facebook-digital-advertising/
8. http://www.businessinsider.com/ad-fraud-estimates-doubled-2017-3
9. https://pagefair.com/blog/2017/adblockreport/
10. http://www.wirtualnemedia.pl/artykul/dziennikarze-gazety-wyborczej-dostane-premie-za-teksty-zwiekszajace-cyfrowa-prenumerate