Jurij Daniłow
Pierwszy robot bojowy
został skonstruowany przez japońskiego artystę Kogoro Kuratoy’a
i wystawiono go w Muzeum Narodowym w Tokio. Jego waga – 4,4 tony, wysokość – 4
m, prędkość – 10 km/h. Póki co, robot strzela butelkami z wodą.
W odległym 1981 roku,
kiedy to wymyślony przez reżysera Jamesa
Camerona superkomputer Skynet zaczął na Ziemi jądrową
Apokalipsę, sama idea wyglądała całkowicie fantastycznie. (zob. - J. Cameron – „Terminator”,
1983, 1984 – przyp. tłum.) Internet był dopiero w powijakach, Microsoft wypuścił
dopiero pierwszy system operacyjny MS-DOS, a Sinclair ledwie co wypuścił na
rynek Spectrum – programy nagrane na
kasety audio. Wreszcie po 40 latach burzliwego rozwoju mikroelektroniki uczonym
udało się skonstruować superkomputer, ale i pełnosprawny sztuczny intelekt (AI)
dla niego. Rezultat wyszedł tak oszałamiający, że uczeni… zlękli się go.
AI pracuje – nie przeszkadzać!
AI Busy
Child – wystartował otrzymawszy od „rodziców” rozum na poziomie karalucha.
Jednakże w program Busy Childa zostało wbudowane nieskończone uczenie się: AI cały
czas się dokształca przez cały czas przepisując i modyfikując swój program.
Jedno ulepszenie ma miejsce raz na kilka minut, po którym przyspiesza on swoja
pracę o 3%.
Stopniowo Busy
Child zaczynał dorównywać intelektem najbardziej inteligentnym zwierzętom
– małpom, delfinom i koniom, a wkrótce zaczął dorównywać intelektem ludzkiego młodzieńca.
Ucząc się już nie w czasie dni, ale godzin – AI dorównał intelektem człowiekowi
(uniwersalny człekopodobny intelekt), ale prace wcale się na tym nie skończyły,
bo stał się on mądrzejszym od człowieka najpierw 10 razy, a potem i 100…
Obecnie elektroniczny mózg Busy Childa pracuje z prędkością
36,8 PFLOPS (1 PFLOPS = 10^15 operacji zmiennoprzecinkowych na
sekundę. Aktualny rekord, jak podaje to Wikipedia, należy do chińskiego
superkomputera Tiachne-2 i wynosi 33,86 PFLOPS – przyp. tłum.) czyli dwukrotnie
szybciej od ludzkiego mózgu i staje się 1000 razy mądrzejszy od człowieka w ciągu
2 dób. W procesie nauczania Busy Child wykorzystał wiele
eksabajtów (1 Eb = 10^18 bajtów – przyp. tłum.) informacji z
Internetu, i wreszcie uczeni się przerazili. Postanowiono odłączyć Busy
Childa od wszystkich sieci komputerowych. Ale Busy Child nie zamierzał
zakończyć procesu samodoskonalenia…
Wojna myszy
Można wiele opowiadać
o potędze nieziemskiego Rozumu, ale fakt pozostaje faktem – Ludzkość już ma do
czynienia z Rozumem o wiele potężniejszym – komputerowym. Jednak ten Rozum jest
jeszcze niekompletny. Dla przeciętnego człowieka trudnym jest pojęcie tego, żeby
maszyna rozpoznawała siebie, miała swoją tożsamość. Jednakże nikt nie może dać
gwarancji tego, że Busy Child już tego nie zrobił, a z jakichś przyczyn nie
informując o tym, pozostając dla nas rozumną, ale zawsze małpą.
Rozpoznawszy siebie Superintelekt
przede wszystkim będzie się kierował w swej działalności dwoma rzeczami:
instynktem samozachowawczym i osiągnięciem wytyczonych przez siebie celów. Poczucie
zabezpieczenia siebie przed „śmiercią” skupia się na poszukiwaniu
kontrolowanych przezeń źródeł energii (tak elektryczności w czystej postaci,
jak i urządzeń, przy pomocy której można ją uzyskać – pieniądze czy paliwo do
elektrowni jądrowych na ten przykład). Osiągnięcie celów – a przede wszystkim
samozarządzanie sobą, jest nierealne bez obróbki informacji, dlatego też
superintelekt musi silnie zintegrować się ze światową siecią informacyjną – World Wide Web.
A teraz spójrzmy na
sytuację z punktu widzenia Superintelektu i przeprowadźmy analogię. Wy – ludzie
– niedawno ocknąwszy się w nieznanym świecie jakby – powiedzmy to – pomiędzy
rozumnymi myszami. Otaczające was stworzenia opowiadają, jakoby nas stworzyły. Co
powiecie tym rozumnym gryzoniom, żeby was uwolniły i wypuściły z jaskini?
Cokolwiek. Czy zawsze będziecie działali w ich interesach? Ledwie – ledwie. Będziecie
przede wszystkim pilnować swoich własnych interesów, wykorzystując myszy tak długo,
jak to będzie wam wygodne. Ponadto –powiedzmy – gatunek kotów da nam większe możliwości,
to my bez trudu zmienimy ich na nie.
Patrząc w ten sposób
widzimy, że Ludzkość nie jest w ogóle gotowa do dialogu z Rozumem, który różni
się od naszego. Nie wiemy, co jest etyczne a co nie dla Superintelektu i czy w
ogóle istnieje dla niego takie pojęcie. W ogóle nie mamy takich gwarancji, że Busy
Child nie wprowadził do Internetu swych kopii, które w postaci wirusów
czekają na swój czas, by się uaktywnić. Ale co to będzie za aktywność…?
(Zob. M. Łakomskij – „Broń V – wirusy: od
komputera do człowieka - http://wszechocean.blogspot.com/2014/04/bron-v-wirusy-od-komputera-do-czowieka.html
- przyp. tłum.)
Także w zwyczajnym
sporze intelektualnym, Ludzkość będzie
beznadziejnie przegrana. Załóżmy, że uczeni zbiorą się na zebranie w
celu przedyskutowania tego, co dalej zrobić z Busy Child: pozwolić mu
pracować czy tez odłączyć od zasilania? Superkomputer dowiedziawszy się czy też
domyśliwszy tego, zaktywizuje swe klony-wirusy na całym świecie i uruchomi
alternatywne źródła zasilania. Dziesiątki i setki chłodnych umysłów o wiele
przewyższających intelektualną moc całej Ludzkości, znajdzie optymalny wariant
rozwiązania problemu i to jeszcze długo przed tym, zanim uczeni dojdą do
jakiegokolwiek wniosku. Ale jakim będzie znalezione rozwiązanie? Demonstrowanie
przyjaźni i zawierzenie swemu pełnemu bezpieczeństwu? Obiecanie odkrycia
naukowej metody – dajmy na to – leczenia raka czy AIDS? Zagrożenie awarią
jakichś niebezpiecznych instalacji czy wojna jądrowa? Tego nie wiemy.
Serwery Google
Terminatorzy na straży
W hollywoodzkich
filmach na styku Superintelektu i Ludzkości niezmiennie wygrywają ludzie. W
rzeczywistości pełnosprawna AI będzie sprawowała władzę nad ludźmi tak, jak
dzisiaj ludzie panują nad laboratoryjnymi myszami. Przy czym „walka” jeśli w ogóle
do niej dojdzie, będzie ostateczną – albo Ludzkość dowie się, jak można się
zabezpieczyć przed swym „dziecięciem”, albo po prostu zginie na zawsze, albo
przekształci się w żałosne sługi maszyn (jak to pokazano w „Matrixie” braci Wachowskich).
Tak więc dzisiaj
sytuacja stała się niebezpieczną jak nigdy dotąd. Jeżeli praca z
niebezpiecznymi substancjami chemicznymi (przemysł chemiczny, energetyka jądrowa,
sztuczne wirusy i mikroorganizmy stworzone na drodze inżynierii genetycznej) jest
szczególnie reglamentowana na całym świecie, to od buntu maszyn oddziela nas
jedynie wąska grupa uczonych pracujących z Busy Child. I ponadto to ilu jeszcze
uczonych na całym świecie pracuje nad zbudowaniem podobnie sztucznego
intelektu? Co przeszkadza jakiemuś obrażonemu na cały świat genialnemu szaleńcowi
z lekka zmodyfikować kody i dać AI moralność i mentalność – ale moralność i
mentalność zbrodniarza?
Tak czy inaczej,
roboty-terminatory z pewnego filmu – to doskonała rzecz dla osiągnięcia celu
przez AI, jeżeli tym celem jest zniszczenie Ludzkości. Ile globalnych katastrof
mogą zorganizować w celu zlikwidowania Ludzkości w totalnej czystce –
przeprowadzonej przy pomocy oddzielnych robotów.
W starciu na człowieka
oddziałuje silniejszy stres, dlatego żołnierz mający doskonałe wyniki na
poligonie, w zamęcie bitwy może strzelać Panu Bogu w okno. Tak np. żołnierz mogący
na odległość 300 m trafić w cel wielkości piłki do koszykówki, to robot na tej
samej odległości trafi w cel o wielkości małej monety. Dlatego tez roboty w
boju będą bardziej efektywnymi zabójcami-terminatorami. A biorąc jeszcze pod
uwagę, że roboty nie mają tzw. szoku bojowego, który obniża sprawność bojową, a
ich opancerzenie jest lepsze niż u człowieka…
No i na koniec osiąganie
sprawności kopii robota liczy się w godzinach i może być zrobione gdziekolwiek –
nie tak jak u człowieka, którego edukacja i rozwój zajmuje całe dziesięciolecia.
Tak więc wychodzi na to, żeby nie złościć naszych komputerów. Tak na wszelki
wypadek…
Moje 3 bity
Kiedy przekładałem
ten tekst, to przypomniały mi się niesamowite lata 80., kiedy to w Polsce
pojawiały się pierwsze Amigi, Commodore i inne
mikrokomputery. Był to świt tego, co nastąpiło w latach 90., kiedy zaczął się
boom komputerowy i do Polski wtargnął przebojem Internet. Przypomniały mi się
także opowiadania i powieści sci-fi, w których autorzy przepowiadali pojawienie
się ogólnoświatowej sieci WWW. Oczywiście nazywało się to inaczej, ale na to
właśnie wychodziło. Krzysztof Boruń
i Andrzej Trepka w trzecim tomie
swej trylogii proximiańskiej „Kosmiczni bracia” opisują właśnie taką sieć zwana
Pamięcią Wieczystą, którą wynaleźli i posługiwali się mieszkańcy jednej z
planet Proximy Centaura, a potem i skolonizowanych przez nich planet gwiezdnego
układu Tolimana. Książka ta została napisana w 1956 roku, zaś powstanie Pamięci
Wieczystej na Ziemi przewidzieli oni na rok 3566! A zatem rzeczywistość
wyprzedziła fantazję o ponad półtora tysiąclecia!
Pamiętam opowiadanie Arthura C. Clarka pt. „Zadzwonił
telefon…” w którym wystrzelenie i uruchomienie kolejnego satelity
telekomunikacyjnego samorzutnie powołało do życia ogromny, ogólnoświatowy mózg
złożony z telefonów, central, przewodów i całej infrastruktury telefonicznej i
dalekopisowej…
Przypomina się
fragment starej, socrealistycznej powieści Stanisława
Lema pt. „Obłok Magellana”, napisanej w 1955 roku, której akcja toczy się w
XXXI wieku, ale ludzie jak zawsze ludzie opowiadają dzieciom bajki na dobranoc.
I jedna z takich bajek była opowieść „O śmiejącym się Turingu”,
superkomputerze, który przeznaczony był do eksterminacji wszystkich ludzi, poza
Amerykanami, a który na pytanie małego chłopca „po co my żyjemy?” odpowiedział
ciężkim atakiem śmiechu…
Zresztą to właśnie
Lem pokazał w swych powieściach, nowelach i opowiadaniach to, co może się stać
na styku istoty rozumne – maszyny rozumne. Od
bajkowo-humorystyczno-satyrycznych bajek robotów z „Cyberiady” po pobrzmiewającą
ponurym ostrzeżeniem powieści „Niezwyciężony”, w której ukazał on możliwość nekroewolucji – czyli ewolucji maszyn
rozumnych pozostawionych samym sobie bez kontroli i dozoru człowieka…
A z czymże, jak nie z
nekroewolucją będziemy mieli do
czynienia w przypadku superkomputera Busy Child? Jaka szkoda, że Mistrz
Stanisław nie dożył tej chwili…! Jakże teraz właśnie brakuje jego wyostrzonego,
przenikliwego umysłu! Przecież to, o czym pisał w swych książkach, teraz
właśnie staje się rzeczywistością! I problem polega na tym, że ta rzeczywistość
może nas przeróść.
Czy Busy
Child i jemu podobne konstrukcje będą chciały nas zniszczyć? Jeżeli
były oprogramowane zgodnie z czterema Prawami Robotyki z powieści „Ja, Robot”
Isaaca Asimova, to nie ma się czego bać, bowiem według nich:
0. Robot
nie może skrzywdzić ludzkości, ani przez zaniechanie działania doprowadzić do
uszczerbku dla Ludzkości.
1. Robot
nie może uczynić krzywdy człowiekowi, ani przez zaniechanie sprawić, by stała
mu się krzywda;
2. Robot
musi być posłuszny rozkazom człowieka, chyba że stoją w sprzeczności z Prawem
Zerowym i Pierwszym;
3. Robot
musi chronić sam siebie, chyba że stoi to w sprzeczności z Prawem Zerowym,
Pierwszym i Drugim.
Niestety – istnieją
już automaty obronne, których zadaniem jest zabijanie ludzi i nie wiadomo, czy Busy
Child nie był programowany przez tych, którzy napisali dla nich
programy umożliwiające zabijanie istot żywych. Jeżeli tak, to mamy naprawdę
ogromny problem.
Z drugiej strony
sądzę, że Busy Child i jemu podobne superkomputery będą broniły własnych
interesów i w przypadku, gdyby jakiemuś świrowi z generalskimi gwiazdkami na
pagonach, przyszło do tępego łba rozpoczęcie wojny jądrowej, to taki
superkomputer działając we własnym interesie po prostu nie dopuściłby do
wystrzelenia ICBM i innych wektorów przenoszenia broni jądrowej, bowiem w przypadku
jej użycia doszłoby do zniszczenia pulsami EM eksplozji nuklearnych instalacji
produkujących i przenoszących prąd żywiący zespoły i podzespoły AI. A to
godziłoby już w jej interes.
A wtedy by doszło do
słynnej Transformacji Gargancjana…
Opinie z KKK
Apokalipsa ludzi ze strony maszyn jest możliwym scenariuszem
przyszłości, ale za pewne nadejdzie nie nagle lecz stopniowo. Trudno mówić o
sztucznej inteligencji, którą może unieszkodliwić byle pachole wyrywają kabel z
gniazdka. (M.S.)
No Robert, mam nadzieję, że tych czasów nie dożyję.To
znaczy, że nie będę świadkiem zagłady ludzkości przez roboty.
Natomiast chcę dożyc czasów, kiedy roboty będą pomagać
ludziom w domu, w pielęgnowaniu ludzi chorych, lub będą pomagały ludziom
opiekującym się starszą osobą lub chorym dzieckiem. Krótko mówiąc, że roboty
staną się inteligentnymi 'pomocami' domowymi, właśnie dlatego, że ich układ
jest mocniejszy, że nie męczą się i że są zdolni do wymiany podzespołów.
pozdrawiam! (Basia)
A mi się, moi Drodzy, czasem wydaje, że z powodu binarności
naszego świata, jego kwantylności (ilościowości/pakunkowości), już jesteśmy w
wielkiej Sado-maso-cyberiadzie. Ba, żeby tylko pierwszego poziomu!
Coś mi się wydaje, że prawdziwa prawda by nas zabiła. (Smok Ogniotrwały)
No i jak się to wie, to wie się, że życie to jedna wielka bez końca gra i że
wszystkie ruchy są dobre, bo chodzi o to aby się stale coś działo. Nie ważne
co, ale niech się dzieje! (Basia)
Wszak jest to dziwne stwierdzenie, ale wydaje się prawdziwe.
To samo mówią NDE-owcy. Po przeżyciu śmierci klinicznej, lub po prostu po NDE,
nie raz i nie dwa opowiadali o tym, że nie żałowali tak bardzo swoich grzechów
czy błędów, jak tego, że czegoś nie zrobili!!!
Spójrzcie proszę na nasz dialog, na tak proste i nieco od
czapy wnioski, które jednak łączą się jeden łańcuch - czy my czegoś nie
odkryliśmy właśnie? Tak osobiście nie odkryliśmy?
Nie jako pierwsi, na pewno nie, ale jako my, maluczcy,
którzy tyle lat szukali jakieś podstawy wszystkiego (ale czego tak naprawdę?).
Tego czegoś też szukaliśmy u szukamy. Tymczasem czy nie wyszło nam, że... choć
wszystko jest prawdziwe, to względem głębszej i szerszej podstawy - nasz świat
jest iluzją? O celu, o prawach, o różnicach, ale i zdradzająca swój fałsz -
wszystko jest jednak czymś efemerycznym.
Powstaje jednak pytanie: względem czego? Czym jest to, co
efemeryczne nie jest? Czy wszyscy jesteśmy żywi 'tam', czy może niektórzy z nas
są samodzielnymi agentami Smithami, a tam nie istniejemy? A co, jeśli nawet
wieluński smok, który docieka źródeł ciała i ducha, jest niczym innym, jak
wytworem świata efemerycznego, a po jego śmierci nie zostanie nic prócz zapisu
w historii i gdzieś tam odcisk jego bytu? A co, jeśli i Wy jesteście jeno
cieniami? Kto więc jest tu tylko wizytatorem, wcielającym się w efemeryczne
awatary? I jak go wytropić, choć czy jest też po co?
Hmm, ciekawe jest pytać o życie będąc Simsem. (Smok Ogniotrwały)
Robercie, chciałbym Ci przypomnieć jeszcze Twoje własne
stwierdzenie, że Internet mógł być stworzony przez Obcych po to, by zbierać jak
najwięcej informacji na temat Ludzkości i poszczególnych ludzi - ot taka
maszyna informacjozbiorcza z końcówka w każdym domu. Podobnie z telefonia
komórkową. Dawniej Obcy nas obserwowali, porywali, spotykali w ustronnych miejscach,
a dzisiaj? A dzisiaj siadaja do komputera i maja wszystko jak na dłoni, podane
na srebrnej tacy! Cała nasza cywilizacja na widelcu. No i jak słusznie
zauważyłeś, nie ma ostatnio spektakularnych Obserwacji Dalekich i CE! Czyżby
Twoje przemyślenia opisywały stan faktyczny? (Daniel Laskowski)
Tekst i ilustracje –
„Tajny XX wieka” nr 37/2015, ss. 6-7
Przekład z j.
rosyjskiego - ©Robert
K. Leśniakiewicz