środa, 15 czerwca 2016

Apokalipsa nadejdzie z Internetu





Jurij Daniłow


Pierwszy robot bojowy został skonstruowany przez japońskiego artystę Kogoro Kuratoya i wystawiono go w Muzeum Narodowym w Tokio. Jego waga – 4,4 tony, wysokość – 4 m, prędkość – 10 km/h. Póki co, robot strzela butelkami z wodą. 

W odległym 1981 roku, kiedy to wymyślony przez reżysera Jamesa Camerona superkomputer Skynet zaczął na Ziemi jądrową Apokalipsę, sama idea wyglądała całkowicie fantastycznie. (zob. - J. Cameron – „Terminator”, 1983, 1984 – przyp. tłum.) Internet był dopiero w powijakach, Microsoft wypuścił dopiero pierwszy system operacyjny MS-DOS, a Sinclair ledwie co wypuścił na rynek Spectrum – programy nagrane na kasety audio. Wreszcie po 40 latach burzliwego rozwoju mikroelektroniki uczonym udało się skonstruować superkomputer, ale i pełnosprawny sztuczny intelekt (AI) dla niego. Rezultat wyszedł tak oszałamiający, że uczeni… zlękli się go.


AI pracuje – nie przeszkadzać!


AI Busy Child – wystartował otrzymawszy od „rodziców” rozum na poziomie karalucha. Jednakże w program Busy Childa zostało wbudowane nieskończone uczenie się: AI cały czas się dokształca przez cały czas przepisując i modyfikując swój program. Jedno ulepszenie ma miejsce raz na kilka minut, po którym przyspiesza on swoja pracę o 3%. 

Stopniowo Busy Child zaczynał dorównywać intelektem najbardziej inteligentnym zwierzętom – małpom, delfinom i koniom, a wkrótce zaczął dorównywać intelektem ludzkiego młodzieńca. Ucząc się już nie w czasie dni, ale godzin – AI dorównał intelektem człowiekowi (uniwersalny człekopodobny intelekt), ale prace wcale się na tym nie skończyły, bo stał się on mądrzejszym od człowieka najpierw 10 razy, a potem i 100… Obecnie elektroniczny mózg Busy Childa pracuje z prędkością 36,8 PFLOPS (1 PFLOPS = 10^15 operacji zmiennoprzecinkowych na sekundę. Aktualny rekord, jak podaje to Wikipedia, należy do chińskiego superkomputera Tiachne-2 i wynosi 33,86 PFLOPS – przyp. tłum.) czyli dwukrotnie szybciej od ludzkiego mózgu i staje się 1000 razy mądrzejszy od człowieka w ciągu 2 dób. W procesie nauczania Busy Child wykorzystał wiele eksabajtów (1 Eb = 10^18 bajtów – przyp. tłum.) informacji z Internetu, i wreszcie uczeni się przerazili. Postanowiono odłączyć Busy Childa od wszystkich sieci komputerowych. Ale Busy Child nie zamierzał zakończyć procesu samodoskonalenia…



Wojna myszy


Można wiele opowiadać o potędze nieziemskiego Rozumu, ale fakt pozostaje faktem – Ludzkość już ma do czynienia z Rozumem o wiele potężniejszym – komputerowym. Jednak ten Rozum jest jeszcze niekompletny. Dla przeciętnego człowieka trudnym jest pojęcie tego, żeby maszyna rozpoznawała siebie, miała swoją tożsamość. Jednakże nikt nie może dać gwarancji tego, że Busy Child już tego nie zrobił, a z jakichś przyczyn nie informując o tym, pozostając dla nas rozumną, ale zawsze małpą.

Rozpoznawszy siebie Superintelekt przede wszystkim będzie się kierował w swej działalności dwoma rzeczami: instynktem samozachowawczym i osiągnięciem wytyczonych przez siebie celów. Poczucie zabezpieczenia siebie przed „śmiercią” skupia się na poszukiwaniu kontrolowanych przezeń źródeł energii (tak elektryczności w czystej postaci, jak i urządzeń, przy pomocy której można ją uzyskać – pieniądze czy paliwo do elektrowni jądrowych na ten przykład). Osiągnięcie celów – a przede wszystkim samozarządzanie sobą, jest nierealne bez obróbki informacji, dlatego też superintelekt musi silnie zintegrować się ze światową siecią informacyjną – World Wide Web

A teraz spójrzmy na sytuację z punktu widzenia Superintelektu i przeprowadźmy analogię. Wy – ludzie – niedawno ocknąwszy się w nieznanym świecie jakby – powiedzmy to – pomiędzy rozumnymi myszami. Otaczające was stworzenia opowiadają, jakoby nas stworzyły. Co powiecie tym rozumnym gryzoniom, żeby was uwolniły i wypuściły z jaskini? Cokolwiek. Czy zawsze będziecie działali w ich interesach? Ledwie – ledwie. Będziecie przede wszystkim pilnować swoich własnych interesów, wykorzystując myszy tak długo, jak to będzie wam wygodne. Ponadto –powiedzmy – gatunek kotów da nam większe możliwości, to my bez trudu zmienimy ich na nie.

Patrząc w ten sposób widzimy, że Ludzkość nie jest w ogóle gotowa do dialogu z Rozumem, który różni się od naszego. Nie wiemy, co jest etyczne a co nie dla Superintelektu i czy w ogóle istnieje dla niego takie pojęcie. W ogóle nie mamy takich gwarancji, że Busy Child nie wprowadził do Internetu swych kopii, które w postaci wirusów czekają na swój czas, by się uaktywnić. Ale co to będzie za aktywność…?
(Zob. M. Łakomskij – „Broń V – wirusy: od komputera do człowieka - http://wszechocean.blogspot.com/2014/04/bron-v-wirusy-od-komputera-do-czowieka.html - przyp. tłum.)

Także w zwyczajnym sporze intelektualnym, Ludzkość będzie  beznadziejnie przegrana. Załóżmy, że uczeni zbiorą się na zebranie w celu przedyskutowania tego, co dalej zrobić z Busy Child: pozwolić mu pracować czy tez odłączyć od zasilania? Superkomputer dowiedziawszy się czy też domyśliwszy tego, zaktywizuje swe klony-wirusy na całym świecie i uruchomi alternatywne źródła zasilania. Dziesiątki i setki chłodnych umysłów o wiele przewyższających intelektualną moc całej Ludzkości, znajdzie optymalny wariant rozwiązania problemu i to jeszcze długo przed tym, zanim uczeni dojdą do jakiegokolwiek wniosku. Ale jakim będzie znalezione rozwiązanie? Demonstrowanie przyjaźni i zawierzenie swemu pełnemu bezpieczeństwu? Obiecanie odkrycia naukowej metody – dajmy na to – leczenia raka czy AIDS? Zagrożenie awarią jakichś niebezpiecznych instalacji czy wojna jądrowa? Tego nie wiemy.


Serwery Google


Terminatorzy na straży


W hollywoodzkich filmach na styku Superintelektu i Ludzkości niezmiennie wygrywają ludzie. W rzeczywistości pełnosprawna AI będzie sprawowała władzę nad ludźmi tak, jak dzisiaj ludzie panują nad laboratoryjnymi myszami. Przy czym „walka” jeśli w ogóle do niej dojdzie, będzie ostateczną – albo Ludzkość dowie się, jak można się zabezpieczyć przed swym „dziecięciem”, albo po prostu zginie na zawsze, albo przekształci się w żałosne sługi maszyn (jak to pokazano w „Matrixie” braci Wachowskich).

Tak więc dzisiaj sytuacja stała się niebezpieczną jak nigdy dotąd. Jeżeli praca z niebezpiecznymi substancjami chemicznymi (przemysł chemiczny, energetyka jądrowa, sztuczne wirusy i mikroorganizmy stworzone na drodze inżynierii genetycznej) jest szczególnie reglamentowana na całym świecie, to od buntu maszyn oddziela nas jedynie wąska grupa uczonych pracujących z Busy Child. I ponadto to ilu jeszcze uczonych na całym świecie pracuje nad zbudowaniem podobnie sztucznego intelektu? Co przeszkadza jakiemuś obrażonemu na cały świat genialnemu szaleńcowi z lekka zmodyfikować kody i dać AI moralność i mentalność – ale moralność i mentalność zbrodniarza?

Tak czy inaczej, roboty-terminatory z pewnego filmu – to doskonała rzecz dla osiągnięcia celu przez AI, jeżeli tym celem jest zniszczenie Ludzkości. Ile globalnych katastrof mogą zorganizować w celu zlikwidowania Ludzkości w totalnej czystce – przeprowadzonej przy pomocy oddzielnych robotów.

W starciu na człowieka oddziałuje silniejszy stres, dlatego żołnierz mający doskonałe wyniki na poligonie, w zamęcie bitwy może strzelać Panu Bogu w okno. Tak np. żołnierz mogący na odległość 300 m trafić w cel wielkości piłki do koszykówki, to robot na tej samej odległości trafi w cel o wielkości małej monety. Dlatego tez roboty w boju będą bardziej efektywnymi zabójcami-terminatorami. A biorąc jeszcze pod uwagę, że roboty nie mają tzw. szoku bojowego, który obniża sprawność bojową, a ich opancerzenie jest lepsze niż u człowieka…

No i na koniec osiąganie sprawności kopii robota liczy się w godzinach i może być zrobione gdziekolwiek – nie tak jak u człowieka, którego edukacja i rozwój zajmuje całe dziesięciolecia. Tak więc wychodzi na to, żeby nie złościć naszych komputerów. Tak na wszelki wypadek…


Moje 3 bity


Kiedy przekładałem ten tekst, to przypomniały mi się niesamowite lata 80., kiedy to w Polsce pojawiały się pierwsze Amigi, Commodore i inne mikrokomputery. Był to świt tego, co nastąpiło w latach 90., kiedy zaczął się boom komputerowy i do Polski wtargnął przebojem Internet. Przypomniały mi się także opowiadania i powieści sci-fi, w których autorzy przepowiadali pojawienie się ogólnoświatowej sieci WWW. Oczywiście nazywało się to inaczej, ale na to właśnie wychodziło. Krzysztof Boruń i Andrzej Trepka w trzecim tomie swej trylogii proximiańskiej „Kosmiczni bracia” opisują właśnie taką sieć zwana Pamięcią Wieczystą, którą wynaleźli i posługiwali się mieszkańcy jednej z planet Proximy Centaura, a potem i skolonizowanych przez nich planet gwiezdnego układu Tolimana. Książka ta została napisana w 1956 roku, zaś powstanie Pamięci Wieczystej na Ziemi przewidzieli oni na rok 3566! A zatem rzeczywistość wyprzedziła fantazję o ponad półtora tysiąclecia! 

Pamiętam opowiadanie Arthura C. Clarka pt. „Zadzwonił telefon…” w którym wystrzelenie i uruchomienie kolejnego satelity telekomunikacyjnego samorzutnie powołało do życia ogromny, ogólnoświatowy mózg złożony z telefonów, central, przewodów i całej infrastruktury telefonicznej i dalekopisowej… 

Przypomina się fragment starej, socrealistycznej powieści Stanisława Lema pt. „Obłok Magellana”, napisanej w 1955 roku, której akcja toczy się w XXXI wieku, ale ludzie jak zawsze ludzie opowiadają dzieciom bajki na dobranoc. I jedna z takich bajek była opowieść „O śmiejącym się Turingu”, superkomputerze, który przeznaczony był do eksterminacji wszystkich ludzi, poza Amerykanami, a który na pytanie małego chłopca „po co my żyjemy?” odpowiedział ciężkim atakiem śmiechu… 

Zresztą to właśnie Lem pokazał w swych powieściach, nowelach i opowiadaniach to, co może się stać na styku istoty rozumne – maszyny rozumne. Od bajkowo-humorystyczno-satyrycznych bajek robotów z „Cyberiady” po pobrzmiewającą ponurym ostrzeżeniem powieści „Niezwyciężony”, w której ukazał on możliwość nekroewolucji – czyli ewolucji maszyn rozumnych pozostawionych samym sobie bez kontroli i dozoru człowieka… 

A z czymże, jak nie z nekroewolucją będziemy mieli do czynienia w przypadku superkomputera Busy Child? Jaka szkoda, że Mistrz Stanisław nie dożył tej chwili…! Jakże teraz właśnie brakuje jego wyostrzonego, przenikliwego umysłu! Przecież to, o czym pisał w swych książkach, teraz właśnie staje się rzeczywistością! I problem polega na tym, że ta rzeczywistość może nas przeróść. 

Czy Busy Child i jemu podobne konstrukcje będą chciały nas zniszczyć? Jeżeli były oprogramowane zgodnie z czterema Prawami Robotyki z powieści „Ja, Robot” Isaaca Asimova, to nie ma się czego bać, bowiem według nich:


0.    Robot nie może skrzywdzić ludzkości, ani przez zaniechanie działania doprowadzić do uszczerbku dla Ludzkości.

1.    Robot nie może uczynić krzywdy człowiekowi, ani przez zaniechanie sprawić, by stała mu się krzywda;

2.    Robot musi być posłuszny rozkazom człowieka, chyba że stoją w sprzeczności z Prawem Zerowym i Pierwszym;

3.    Robot musi chronić sam siebie, chyba że stoi to w sprzeczności z Prawem Zerowym, Pierwszym i Drugim.   

Niestety – istnieją już automaty obronne, których zadaniem jest zabijanie ludzi i nie wiadomo, czy Busy Child nie był programowany przez tych, którzy napisali dla nich programy umożliwiające zabijanie istot żywych. Jeżeli tak, to mamy naprawdę ogromny problem. 

Z drugiej strony sądzę, że Busy Child i jemu podobne superkomputery będą broniły własnych interesów i w przypadku, gdyby jakiemuś świrowi z generalskimi gwiazdkami na pagonach, przyszło do tępego łba rozpoczęcie wojny jądrowej, to taki superkomputer działając we własnym interesie po prostu nie dopuściłby do wystrzelenia ICBM i innych wektorów przenoszenia broni jądrowej, bowiem w przypadku jej użycia doszłoby do zniszczenia pulsami EM eksplozji nuklearnych instalacji produkujących i przenoszących prąd żywiący zespoły i podzespoły AI. A to godziłoby już w jej interes.
A wtedy by doszło do słynnej Transformacji Gargancjana…    




Opinie z KKK


Apokalipsa ludzi ze strony maszyn jest możliwym scenariuszem przyszłości, ale za pewne nadejdzie nie nagle lecz stopniowo. Trudno mówić o sztucznej inteligencji, którą może unieszkodliwić byle pachole wyrywają kabel z gniazdka. (M.S.)

No Robert, mam nadzieję, że tych czasów nie dożyję.To znaczy, że nie będę świadkiem zagłady ludzkości przez roboty.
Natomiast chcę dożyc czasów, kiedy roboty będą pomagać ludziom w domu, w pielęgnowaniu ludzi chorych, lub będą pomagały ludziom opiekującym się starszą osobą lub chorym dzieckiem. Krótko mówiąc, że roboty staną się inteligentnymi 'pomocami' domowymi, właśnie dlatego, że ich układ jest mocniejszy, że nie męczą się i że są zdolni do wymiany podzespołów.
pozdrawiam! (Basia)

A mi się, moi Drodzy, czasem wydaje, że z powodu binarności naszego świata, jego kwantylności (ilościowości/pakunkowości), już jesteśmy w wielkiej Sado-maso-cyberiadzie. Ba, żeby tylko pierwszego poziomu!
Coś mi się wydaje, że prawdziwa prawda by nas zabiła. (Smok Ogniotrwały)

No i jak się to wie, to wie się,  że życie to jedna wielka bez końca gra i że wszystkie ruchy są dobre, bo chodzi o to aby się stale coś działo. Nie ważne co, ale niech się dzieje! (Basia)

Wszak jest to dziwne stwierdzenie, ale wydaje się prawdziwe. To samo mówią NDE-owcy. Po przeżyciu śmierci klinicznej, lub po prostu po NDE, nie raz i nie dwa opowiadali o tym, że nie żałowali tak bardzo swoich grzechów czy błędów, jak tego, że czegoś nie zrobili!!!
Spójrzcie proszę na nasz dialog, na tak proste i nieco od czapy wnioski, które jednak łączą się jeden łańcuch - czy my czegoś nie odkryliśmy właśnie? Tak osobiście nie odkryliśmy?
Nie jako pierwsi, na pewno nie, ale jako my, maluczcy, którzy tyle lat szukali jakieś podstawy wszystkiego (ale czego tak naprawdę?). Tego czegoś też szukaliśmy u szukamy. Tymczasem czy nie wyszło nam, że... choć wszystko jest prawdziwe, to względem głębszej i szerszej podstawy - nasz świat jest iluzją? O celu, o prawach, o różnicach, ale i zdradzająca swój fałsz - wszystko jest jednak czymś efemerycznym.
Powstaje jednak pytanie: względem czego? Czym jest to, co efemeryczne nie jest? Czy wszyscy jesteśmy żywi 'tam', czy może niektórzy z nas są samodzielnymi agentami Smithami, a tam nie istniejemy? A co, jeśli nawet wieluński smok, który docieka źródeł ciała i ducha, jest niczym innym, jak wytworem świata efemerycznego, a po jego śmierci nie zostanie nic prócz zapisu w historii i gdzieś tam odcisk jego bytu? A co, jeśli i Wy jesteście jeno cieniami? Kto więc jest tu tylko wizytatorem, wcielającym się w efemeryczne awatary? I jak go wytropić, choć czy jest też po co?
Hmm, ciekawe jest pytać o życie będąc Simsem. (Smok Ogniotrwały)

Robercie, chciałbym Ci przypomnieć jeszcze Twoje własne stwierdzenie, że Internet mógł być stworzony przez Obcych po to, by zbierać jak najwięcej informacji na temat Ludzkości i poszczególnych ludzi - ot taka maszyna informacjozbiorcza z końcówka w każdym domu. Podobnie z telefonia komórkową. Dawniej Obcy nas obserwowali, porywali, spotykali w ustronnych miejscach, a dzisiaj? A dzisiaj siadaja do komputera i maja wszystko jak na dłoni, podane na srebrnej tacy! Cała nasza cywilizacja na widelcu. No i jak słusznie zauważyłeś, nie ma ostatnio spektakularnych Obserwacji Dalekich i CE! Czyżby Twoje przemyślenia opisywały stan faktyczny? (Daniel Laskowski)

Faktycznie masz rację. Coś takiego przyszło mi do głowy i chyba nawet gdzieś to opisałem. Mam nadzieję, że Internet jest naszym wynalazkiem, z którego Oni skorzystali by nas podglądać, podsłuchiwać i w ogóle kontrolować. Cała reszta jest BZ. Basiu - ja też kiedyś marzyłem o robotach w każdym domu i wciąż mam nadzieję, że tak właśnie będzie i to roboty będą służyły człowiekowi, a nie na odwrót. Szczególnie podobały mi się Roboty Opiekuńcze, które stanowiłyby cos w rodzaju mechanicznego Anioła Stróża dla kosmonautów i innych ludzi parających się niebezpiecznymi profesjami - jakie opisał kiedyś Jerzy Broszkiewicz w swych powieściach "Ci z Dziesiątego Tysiąca" i "Oko Centaura". Zresztą Daniel w swych opowieściach też o nich mówił, o ile dobrze pamiętam. Temat jest bardzo szeroki i mam wrażenie, że jestem mrówką, przed którą otwarto bramę dla ciężarówek. Myślę, że warto na ten temat podyskutować na szerszym forum... (Arystokles)


Tekst i ilustracje – „Tajny XX wieka” nr 37/2015, ss. 6-7
Przekład z j. rosyjskiego - ©Robert K. Leśniakiewicz