Killer feature*

Miliony ludzi na całym świecie straciły nad sobą kontrolę i rzuciły się na przypadkowe osoby. Jak się później okazało, tego tragicznego dnia 2027 roku, atak agresji dotknął wyłącznie „odrutowanych”, czyli posiadaczy cyber-wszczepów. Jedynie garstka wtajemniczonych wie, że do incydentu doprowadziła tajna organizacja Iluminati, która przekonała rzesze „odrutowanych” do wymiany swoich chipów na specjalnie zmodyfikowane modele. Iluminati planowali wykorzystać je do uzyskania kontroli nad masami, ale jeden z członków organizacji użył ich do wywołania u ludzi zabójczego szału. Liczył, że przekona to opinię publiczną do porzucenia technologii cyborgizacji, jako niebezpiecznej i niegodnej zaufania.

To streszczenie finału cyberpunkowej gry Deus Ex: Human Revolution. Miliony ludzi ginących z powodu luki w softwarze – brzmi nieprawdopodobnie, co?

Jasne, przecież spiskowcy z Iluminati nie istnieją.

Twórcy filmów, książek i gier mają skłonność do powielania schematu, w którym za katastrofy odpowiada pojedynczy czarny charakter albo garstka spiskowców sterujących światem. Ma to niewiele wspólnego z rzeczywistością, ale lepiej sprawdza się z punktu widzenia scenariusza. Kto chciałby oglądać Jamesa Bonda walczącego z niekompetencją urzędników i ignorancją konsumentów?

To, że nie istnieją globalne spiski nie oznacza jednak, że nie może dojść do upadku naszej cywilizacji.

Aktualizacja software’u

Wróciłem myślami do finału Deus Ex: HR, gdy aplikacja TimeHop przypomniała mi, że rok temu mój Nexus 7 stał się niezdatny do użytku po aktualizacji do Androida 5.0.

Android 5.0 bładNie mogłem wówczas zrozumieć, jak tak wielka i poważna firma jak Google mogła wypuścić na rynek aktualizację, która drastycznie pogorszyła funkcjonowanie milionów urządzeń (nie tylko Nexusy 7 miały problemy). Kolejne wpadki gigantów IT tylko pogłębiły moje zdumienie. Zaliczyłem między innymi aktualizację Windowsa 10, która wyłączyła polskie znaki, a użytkownicy produktów Apple musieli przełknąć aktualizacją do iOS 9, skutkującą m.in. radykalnym skróceniem czasu pracy baterii. Aktualizacja może też wywołać błąd 53, zamieniający iPhone’a w bezużyteczną cegłę.

Ale spokojnie, przecież to tylko gadżety, prawda?

Nowa funkcja: zapalenie płuc

Niedawno błąd oprogramowania zaliczyły „inteligentne” termostaty firmy Nest (kupionej przez Google w 2014 roku za 3,2 mld dolarów). W jego wyniku dochodziło do rozładowania baterii urządzenia i wyłączenia ogrzewania w mieszkaniu. Problem dotknął wielu właścicieli termostatów i zbiegł się z falą mrozów w USA. Jak zauważył dziennikarz New York Timesa – dla osób starszych lub małych dzieci wyłączenie ogrzewania w domu może mieć poważne konsekwencje zdrowotne. Ze stratami materialnymi muszą się z kolei liczyć osoby używające Nest do zdalnego sterowania temperaturą, podczas gdy są poza domem – wyłączenie ogrzewania grozi zamarznięciem i rozsadzeniem rur instalacji grzewczej.

This points to a larger problem with so-called smart devices that we are inviting into our lives: Small glitches can cause huge problems.

Dodam, że umowa, którą musi zaakceptować każdy użytkownik Nest zakazuje klientom pozywania firmy lub dołączania do pozwów zbiorowych. Wszelkie spory mogą być rozstrzygane tylko na drodze arbitrażu… w San Francisco. Jego wynik z kolei musi pozostać tajny, więc poszkodowany nie może nikogo ostrzec.

Restart systemu na 10 000 metrów

Tuż przed świętami Bożego Narodzenia 2015 roku polski Dreamliner został uziemiony z powodu konieczności aktualizacji oprogramowania. Może i lepiej, że doszło do przymusowego postoju, bo w oprogramowaniu Dreamlinerów znaleziono błąd, który skutkuje wyłączeniem zasilania w samolocie. Niezależnie od fazy lotu.

Problemy z oprogramowaniem mają również producenci samochodów, co pokazało między innymi śledztwo w sprawie samochodów Toyoty, które niespodziewanie przyspieszały, w wyniku czego dochodziło do wypadków – w tym śmiertelnych. Można przypuszczać, że oprogramowanie tworzone z myślą o sterowaniu samochodami powstaje z najwyższą starannością. Tymczasem eksperci, którzy je badali byli negatywnie zaskoczeni – kod źródłowy był złej jakości, zawierał błędy (mogące skutkować właśnie niezamierzonym przyspieszaniem), a systemy-bezpieczniki (fail-safe) były wadliwe i niewystarczające.

Komunikat: przejmuję kierownicę

Większe zagrożenie niż w błędach twórców oprogramowania widzę jednak w działaniach „złych ludzi” – przestępców, trolli i wszelkiej maści złośliwców. To już się dzieje.

W Teksasie niezadowolony ex-pracownik salonu samochodowego unieruchomił ponad setkę pojazdów za pośrednictwem systemu montowanego przez sprzedawców na wypadek opóźnień w spłacie kredytu.

Trudno ten przypadek nazwać atakiem hakerskim, bo sprawca uzyskał dane do logowania od innego pracownika. Co mogą zrobić prawdziwi specjaliści, pokazuje przykład ataku na Jeepa prowadzonego przez dziennikarza Wired. Hakerzy byli w stanie sterować klimatyzacją, systemem audio, utrudnić widoczność kontrolując wycieraczki i spryskiwacze, a w końcu wyłączyć silnik i hamulce. Niedługo później Chrysler wypuścił aktualizację dla 1,4 miliona aut, które mogły być podatne na atak. Zareagowali również senatorzy,  rozpoczynając prace nad regulacjami informatycznego bezpieczeństwa samochodów. Cytowany w artykule specjalista ds. bezpieczeństwa krytykuje tę inicjatywę – w tak szybko zmieniającej się dziedzinie prawne regulacje nie mają szans nadążyć za nowymi formami ataków. Lepiej, aby firmy konkurowały na tym polu tak samo, jak w zakresie fizycznego bezpieczeństwa pasażerów.

We’re all fairly tolerant of cell phones and laptops not working, but you’re not relying on your cell phone or laptop to keep you alive.

John Capp, GM, New Yorker

Kto chce płacić za bezpieczeństwo?

Nie wierzę, aby państwowe regulacje mogły zagwarantować bezpieczeństwo informatyczne urządzeń. Gdyby tak było, nie mielibyśmy zainstalowanych programów antywirusowych nieustannie aktualizujących bazy zagrożeń. Jakieś regulacje jednak by się przydały, bo gdy producentom zostawia się wolną rękę, to na rynek trafiają miliony kamerek podłączonych do internetu, do których tak łatwo uzyskać dostęp, że powstała już nawet wyszukiwarka obrazów przez nie przesyłanych. Sytuacja tylko się pogarsza i na rynek trafia coraz więcej kiepsko lub w ogóle nie zabezpieczonych urządzeń. Autorzy z Ars Technica obwiniają o to konsumentów, którzy nie widzą wartości w bezpieczeństwie i nie mają ochoty za nie dodatkowo płacić. Natomiast producenci kamerek rywalizują ceną i nie chcą zwiększać kosztów poprzez poprawianie bezpieczeństwa produktów.

The bigger picture here is not just personal privacy, but the security of IoT devices. As we expand that connectivity, when we get into systems that affect public safety and human life—medical devices, the automotive space, critical infrastructure—the consequences of failure are higher than something as shocking as a Shodan webcam peering into the baby’s crib.

Scott Erven, security researcher, Ars Technica UK

Do tej pory działało…

Dlaczego o tym wszystkim piszę? W 2004 roku Ronald Wright spopularyzował termin „pułapka rozwoju”. Oznacza on sytuację, gdy społeczeństwo w pościgu za postępem nieumyślnie tworzy nowe problemy, do których rozwiązania brakuje zasobów lub woli politycznej. Brak chęci rozwiązania nowego problemu wynika z obawy elit przed krótkoterminowym obniżeniem jakości życia lub utratą statusu. Narastanie problemu prowadzi natomiast do zatrzymania rozwoju, lub nawet upadku cywilizacji.

Według Wrighta społeczeństwa często popełniały błąd – obserwowały, że coś działa dobrze na małą skalę i uznawały, że tak będzie również w dużej skali. Przykładowo, dla naszych przodków postępem było wymyślenie włóczni, która umożliwiała im zabicie dużego zwierzęcia. Kolejnym krokiem był łuk, zwiększający bezpieczeństwo myśliwych. Ale w niektórych regionach skuteczne metody myśliwskie doprowadziły do wybicia zwierzyny, braku wystarczającej ilości pożywienia i w efekcie upadku plemion lub migracji.

W książce „A short history of progress”, jako przykład społeczeństw, które upadły przez pułapki rozwoju Wright przedstawia m.in. cywilizacje Wyspy Wielkanocnej i Sumerii. Obie rozwinęły się i upadły w wyniku wyczerpania zasobów, mimo że były świadome tego procesu. Nie były jednak zdolne do zmiany postępowania. Na Wyspie Wielkanocnej wycinka drzew zniszczyła ekosystem i doprowadziła do wojen o resztki drewna. W Sumerii z kolei rozwój systemów irygacyjnych, intensywna hodowla zwierząt i rolnictwo  doprowadziły do pustynnienia oraz zbyt dużego zasolenia gruntów, a w efekcie do upadku rolnictwa.

Więcej połączeń, więcej konsekwencji

Wracając do naszych czasów. Pomyśl:

A co, jeśli postępująca informatyzacja i podłączanie wszystkiego do sieci jest pułapką rozwoju?

Ciągle jeszcze wydaje nam się, że procesy te przynoszą naszej cywilizacji rosnące korzyści, ale czy będzie tak zawsze? Czy nie zbliżamy się do momentu, w którym negatywne skutki rozwoju technologicznego przewyższą te pozytywne?

Właśnie przed tym ostrzega Wright, odnosząc przykłady z historii do naszego współczesnego społeczeństwa. Zwraca też uwagę na kolejne zagrożenie. W czasach, gdy istnieje globalna cywilizacja, a 950 milionów telefonów z Androidem można zhakować jednym MMS-em, jeśli rzeczywiście dojdzie do upadku, to dotknie on całej ludzkości, a nie tylko odizolowanych społeczeństw, jak to miało miejsce do tej pory.

Things are moving so fast that inaction itself is one of the biggest mistakes. The 10,000-year experiment of the settled life will stand or fall by what we do, and don’t do, now. The reform that is needed is not anti-capitalist, anti-American, or even deep environmentalist; it is simply the transition from short-term to long-term thinking. From recklessness and excess to moderation and the precautionary principle.

Ronald Wright, A short history of progress

Epilog

deusexDeus Ex: Mankind Divided

W 2029 roku, dwa lata po tym jak „odrutowani” na całym świecie wpadli w szał i zabili tysiące ludzi, osoby z cyber-wszczepami żyją w gettach. Reszta społeczeństwa im nie ufa, obawiają się, że incydent może się powtórzyć. Dla bezpieczeństwa ludzkości technologia cyber-wszczepów została zakazana. Ich producenci – w tym lider rynku Sarif Industries – upadli. Po okresie technologicznego renesansu, gdy ludzkość entuzjastycznie parła naprzód nadszedł ponury, mroczny barok.

Tak zaczyna się kolejna część gry Deus Ex: Mankind Divided (premiera w sierpniu).

*Killer feature – w marketingu cecha produktu kluczowa dla danego segmentu klientów ze względu na swoją użyteczność. Killer feature „zabija” konkurencję.