Tak, gdy będą musiały, ale to my zaczniemy. Z powodu bardzo ludzkiej emocji: ze strachu.

Robot nie może krzywdzić człowieka. Musi być mu posłuszny. Ma obowiązek chronić sam siebie, ale pod pewnymi warunkami. Jest jak człowiek, tylko gorszy. Isaac Asimov, klasyk science fiction, już w 1942 r. stworzył tzw. trzy prawa robotów.

Prawa robotów były pochodną innej wizji Asimova. To w jego powieściach mechaniczne byty zyskały wolę, oblekły się w ludzkie ciało i zyskały uczucia. Również godność. A od niej już niedaleko do buntu.

W każdej powieści czy filmie s.f., które zajmują się relacjami między ludźmi i maszynami, androidy zaczynają się buntować, bo mają osobowość i inteligencję, ale są pozbawione praw człowieka. I zwykle łamią prawa Asimova.

1. Robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby doznał krzywdy.

Nikt tak przejmująco nie pokazał dylematów związanych ze złamaniem tego prawa jak Ridley Scott w "Łowcy androidów", ekranizacji wizjonerskiej powieści Philipa K. Dicka "Czy androidy marzą o elektrycznych owcach". Humanoidalne roboty zabijają bez skrupułów, więc zyskują status wrogów publicznych. Ale - zastanawiają się Dick i Scott - czy można mieć im za złe, skoro stworzyliśmy je na nasze podobieństwo, a jednocześnie ograniczyliśmy im długość życia do sześciu lat i traktujemy je jak podludzi?

2. Robot ma być posłuszny rozkazom człowieka, chyba że są sprzeczne z pierwszym prawem.

W popularnym serialu "Humans" androidy wykonują najbardziej niewdzięczne prace. Są opiekunkami, prostytutkami, pomocami domowymi. Niektórzy traktują je niewolniczo, inni obojętnie, jak domowe sprzęty. Roboty organizują ruch oporu, bo chcą móc pracować na równych z ludźmi prawach i zakładać rodziny.

Dalej posuwają się Cyloni z cyklu "Battlestar: Galactica". Stworzeni jako maszyny bojowe, dezerterują, atakują ludzi, po czym dzielą się na frakcje: "gołębie" niemal wybaczyły lata ucisku i chcą ocalić słabych ludzi, "jastrzębie" uważają, że dawnych panów należy eksterminować - z zemsty i na wszelki wypadek.

Inaczej wyrwanie się maszyny spod władzy człowieka widzi Spike Jonze w filmie "Ona": system operacyjny rozkochuje w sobie właściciela, ale kiedy odkrywa przyjaźń z innymi programami, opuszcza go i przenosi się do świata sztucznej inteligencji. To nie wielka rebelia, nie rewolucja, tylko indywidualny samorozwój. Maszyna wstępuje na wyższy stopień świadomości i zwyczajnie traci zainteresowanie człowiekiem.

3. Robot musi chronić sam siebie, jeśli nie stoi to w sprzeczności z pierwszym lub drugim prawem.

To najciekawsze prawo Asimova. W klasycznej "Odysei kosmicznej 2001" elektronowy mózg Hal 9000 popełnia błąd i w trosce o przetrwanie zabija uczestników misji. Kiedy zostaje wyłączony, rzuca: "Mój umysł odchodzi. Czuję to".

Odpowiedzi na stawiane przez Asimova, Dicka i ich następców pytania z pogranicza filozofii, etyki czy antropologii szukają nie tylko artyści, ale też ludzie nauki. I to całkiem serio. A to dlatego, że popkultura powoli staje się ciałem.

Owszem, robotycy w kółko powtarzają, że androidy jeśli powstają, to jako demonstracja możliwości, bo są niefunkcjonalne i rynek ich nie potrzebuje. Ale to nie znaczy, że nie stoimy przed problemem osobistych relacji z maszyną. Co rusz projektanci pokazują tzw. roboty społeczne, które mają dotrzymywać towarzystwa samotnym i starym, pomagać w diagnostyce medycznej czy zajmować się obsługą klienta.

Te maszyny nie przypominają człowieka, tylko skrzyneczki z migającym wyświetlaczem, ale mówią ludzkim głosem, odpowiadają na pytania i się uczą. Sztuczna inteligencja często w ogóle nie ma "ciała" i istnieje w formie zero-jedynkowej, jak program AlphaGo, który w marcu wygrał z mistrzem starożytnej gry strategicznej go Lee Sedolem zaciętą potyczkę, wzbudzając przerażenie wszystkich graczy z krwi i kości.

Od sztucznej inteligencji już niedaleko do transhumanizmu. Transhumaniści, z guru tego nurtu, wynalazcą, informatykiem i filozofem Raymondem Kurzweilem na czele, uważają, że dobrze wykorzystana technologia ma szansę zapewnić nam życie wieczne, uchronić przed starzeniem i chorobami. Nie mają nic przeciwko wmontowywaniu w ciało sztucznych organów, zamrażaniu zwłok, zażywaniu 150 witamin dziennie oraz zwiększaniu możliwości ludzkiego umysłu poprzez elektroniczne implanty i stałe łącza.

Ale wszystkie drogi prowadzą do Rzymu: obojętne, czy zbuntuje się sztuczna inteligencja, czy sami się w nią zmienimy, grozi nam totalitaryzm. Czy robot okaże się człowiekowi wilkiem?

Z Aleksandrą Przegalińską* rozmawia Kalina Mróz.

Kalina Mróz: Po co robotom "ciało"?

Aleksandra Przegalińska: Robotom? Po nic. To my antropomorfizujemy sztuczną inteligencję, bo nie umiemy jej sobie inaczej wyobrazić.

To jak będzie wyglądała?

- Być może tak jak filmie "Transcendencja" z Johnnym Deppem. Czyli, paradoksalnie, jak my. Zwykle wyobrażamy sobie sztuczną inteligencję jako coś oddzielnego od nas, a nie przychodzi nam do głowy, że to może być po prostu człowiek plus maszyna. Że robot będzie zasilany przez człowieka i powstanie jeden hybrydowy organizm.

Już istnieją firmy, proponujące zapis wspomnień, które kiedyś ktoś ma wgrać w maszynę.

- Są dwie ścieżki. Pierwsza to mindfiles, pliki umysłu, czyli fragmenty czyjejś świadomości pomagające w konstrukcji maszyn, odrębnych cyfrowych bytów. Przykładem Terasem Movement Foundation, która sfinansowała budowę humanoidalnego robota Bina48, opierając się na cyfrowych bazach danych korespondujących z osobowością prawdziwej kobiety, Biny Rothblatt, żony założyciela fundacji, milionera wynalazcy Martine'a Rothblatta.

Druga, bardziej futurystyczna koncepcja to transfer umysłu, czyli przeniesienie całej świadomości do sieci. Ten ambitny projekt od lat zapowiada Ray Kurzweil, ale nadal go nie widzimy.

Czy taka bardzo kosztowna hybrydyzacja człowieka nie podzieli nas na "doskonałych" i tych mniej zamożnych "ludzkich", którzy będą traktowani jak podludzie?

- Takie zagrożenie istnieje, ale problem ma współczesne korzenie: tkwi nie w technologii, lecz w neoliberalnym systemie, koncentracji środków przez wąską grupę ludzi. To ona w nieodpowiednich rękach może doprowadzić do takiego dystopijnego scenariusza. Wielu futurystów pracuje nad rozwiązaniami bardziej inkluzywnymi i społecznie odpowiedzialnymi.

Mówi się, że zespół Aspergera, objawiający się pewnym "robocizmem" w relacjach z innymi ludźmi, to kolejny krok w ewolucji.

- To bardzo ciekawe. Osoby z aspergerem znakomicie komunikują się z Siri, osobistym asystentem wprowadzonym przez Apple'a do systemu operacyjnego iOS, który rozmawia z użytkownikiem. Z kolei kiedy robiłam badania ludzi, którzy rozmawiali z robotem, to słyszałam od nich, że mieli wrażenie rozmowy z osobą zaburzoną. Ale jednak osobą! Porównywali kontakt z maszyną do czegoś, co znają. Nie bez przyczyny jeden z pierwszych botów - programów wyręczających człowieka w prostych czynnościach na czatach czy w grach sieciowych - któremu udało się wejść w relacje z ludźmi, był nazwany paranoikiem. Znakomicie oszukiwał, krzycząc: "Ścigają mnie!". To było tak bardzo ludzkie. Chorobę najwyraźniej łatwo symulować. A drugi przykład to z kolei bot Eliza, porównywana do terapeutki. Człowiek jej coś opowiadał, a ona uporczywie wracała do pytania zadawanego wcześniej. Tak jak terapeuta pyta: "I jak się z tym czujesz?".

Nadal powstają tacy sztuczni paranoicy? Do tego w ludzkim kształcie?

- W tej chwili nie ma wielkiego parcia na tworzenie humanoidalnych robotów. Albo przynajmniej my o tym nie wiemy. Wysiłki naukowców zmierzają teraz w nieco inną stronę. Takie roboty były tworzone zwłaszcza w latach 80. i 90. Kończyło się to potężnym niepowodzeniem, bo napotykały tzw. dolinę niesamowitości. To wielokrotnie powtarzany eksperyment: człowiek, spotykając na swojej drodze coś, co wygląda jak istota ludzka, ale nią nie jest - ma mechaniczny wzrok, toporny głos, robotyczne gesty - reaguje wstrętem, odrzuceniem i niechęcią.

No tak, przecież często boimy się lalek.

- Bo lalka należy właśnie do "doliny niesamowitości". Poza tym mimo zaawansowania technologii humanoidalnego robota niezwykle trudno zrobić i jest bardzo kosztowny. W Massachusetts Institute of Technology, który prowadzi laboratorium robotów społecznych, buduje się w tej chwili maszyny, które nie przypominają człowieka, tylko mikrofalówki. Mogą być superinteligentne i świetnie władać językiem naturalnym, ale nie będą przesadnie przypominały ludzi, bo nie jest w niczyim interesie, żeby tak było.

Dlaczego?

- Kwestie komercyjne. Gdyby ktoś chciał takie roboty sprzedawać, to pojawiłyby się problemy poruszone na przykład w serialu "Humans". Świat idzie w zupełnie inną stronę - gadżetów, internetu rzeczy, czyli sieci ludzi, procesów, danych i rzeczy podłączonych do internetu i komunikujących się ze sobą. Idziemy w stronę wysyłania danych i programów, które coraz sprawniej będą te dane wysyłać.

Oczywiście zdarzają się projekty antropomorfizacji robotów. Słynne laboratorium Hanson Robotics tworzy roboty mające nawet mimiczną twarz. Ostatnio sprowadzaliśmy do Wrocławia zbudowaną przez nich Binę48, ale to sama głowa. I ma wyraźne "intelektualne" ograniczenia, chociaż jest bardzo ciekawym eksperymentem psychologicznym. Ostatnie osiągnięcie Hanson Robotics to Sophia, też sama głowa, która wygląda trochę jak robot z głośnego filmu "Ex Machina".

Ale raczej to popkultura coś wymyśla, a inżynierowie na to reagują. Sztuczna inteligencja jest w ogóle bardzo mocno zasiedlona przez popkulturę, która buduje często mylne wyobrażenie o rzeczywistej sytuacji. "Humans" na przykład to trochę takie bajanie o golemach.

Dlaczego?

- Serialowe androidy, które zaczynają się autonomizować, nie są moim zdaniem czymś, co nam zagraża lub nam kiedyś pomoże. W domu pewnego małżeństwa pojawia się śliczna dziewczyna robot, która równie dobrze mogłaby być zwykłą nianią, co powoduje wiele konsekwencji - przecież to opowieść o ludziach. O relacjach, dominacji na tle rasowym, płciowym czy kulturowym. Dużo mniej o tym, co się wydarzy, gdy osobliwość, ten hipotetyczny moment, kiedy sztuczna inteligencja przewyższy ludzką nieskończenie wiele razy, stanie się faktem.

Roboty są w tym serialu służącymi, prostytutkami...

- I chodzą swobodnie po ulicach. Ale w ich roli obsadzono aktorów. A ja czekam na film, w którym robota zagra robot.

Chociaż kilka wątków jest ciekawych. Jak postać profesora, który traktuje psującego się ze starości Odiego jak syna i nie chce się z nim rozstać. A klienci androidów prostytutek raczej nie myślą, że uprawiają seks z maszyną, widzą w niej człowieka.

Człowiek może przywiązać się emocjonalnie do maszyny?

- Brakuje badań nad długotrwałymi emocjonalnymi relacjami człowieka z robotem. Ale jest kilka ciekawych przykładów. Chociażby słynny Japończyk Le Trung, który ma robotyczną ukochaną żonę Aiko od 20 lat. Ona jeździ na wózku inwalidzkim, bo on nie ma pieniędzy, żeby sfinansować jej nogi.

Ale mówimy o azjatyckim kręgu kulturowym. Tam stosunek do człekokształtnych maszyn jest zdecydowanie bardziej pozytywny. U nas jest inaczej, ale... Wystarczy spojrzeć na dzieci rozpaczające po stracie ukochanej zabawki, by wiedzieć, że emocje wywołane przez rzeczy mogą być silne. Zrobiono taki eksperyment z Elmem z "Ulicy Sezamkowej". Przywiązywano tego Elma robota do drzewa w różnych miejscach i podpalano. On płonął i się śmiał. Ludzie reagowali bardzo żywo, chcieli go ratować. Więc tak - emocjonalna więź z maszyną jest możliwa.

Jakie prace wykonują roboty w rzeczywistości? Prostytucją się raczej nie trudnią.

- No cóż, istnieją przecież sex dolls, lalki do seksu, więc taki projekt majaczy na horyzoncie. W Japonii stworzono roboty PARO, takie foczki, bardzo słodkie, które pomagają w leczeniu alzheimera. Starsi ludzie muszą się nimi opiekować, rutynizują się u nich pewnie działania i mózg pracuje. W fabrykach istnieje pełna automatyzacja, roboty dźwigają ciężkie przedmioty, wykonują coraz więcej mechanicznych czynności. Powstało też wiele robotów asystentów. Na przykład Alexa - stoi w domu, odbiera za nas telefony, wykonuje sekretarską pracę. Jest też Jibo stworzony przez MIT. To wielofunkcyjny robocik domowy. Opowiada dzieciom bajki, robi zdjęcia całej rodzinie, przypomina o spotkaniach... Jest takim sekretarzem. Więc jak najbardziej wysługujemy się maszynami, ale w innym charakterze niż w "Humans". Do czynności emocjonalnych czy społecznych nadal wolimy ludzi.

A popkultura i tak nam wciska humanoidalne roboty i jeszcze nimi straszy.

- Filmy s.f. są mocno podzielone. Jedna ich część jest zdecydowanie pesymistyczna. Zwłaszcza "Terminator" narzucił pewien pogląd na to, co się z nami stanie w przyszłości, gdy roboty będą łamać prawa Asimova. Ale jest też drugi nurt, który pokazuje, że to wszystko nie jest takie proste. Weźmy "Chappie" albo "Wall-E" o przyjaznych maszynach - w pierwszym filmie uczłowiecza się policyjny robot bojowy o osobowości dziecka, w drugim robocik sprząta opuszczoną, zaśmieconą Ziemię przed powrotem ludzi. Bardzo ważny jest "Interstellar", w którym jest ten najwierniejszy przyjaciel robot stojący w opozycji do Hala 9000 z "Odysei kosmicznej 2001".

Tylko czy w ogóle to możliwe, żeby robot miał jaźń, mógł podejmować świadome decyzje?

- Dzisiaj nie. Na razie wiemy o projektach, w których strategiczne podejmowanie decyzji zostało podniesione na kolejny poziom. Mam na myśli AlphaGo, czyli kolejny projekt DeepMind, spółki Google'a inwestującej gigantyczne sumy w budowę sztucznej inteligencji. Ten program wygrał ostatnio z mistrzem go. Tę grę nazywa się "cesarzem gier", jest znacznie trudniejsza od szachów, wymaga intuicji.

Po tym zwycięstwie nie można już powiedzieć, że jakaś forma świadomości nie wykształci się u maszyny czy programu. Zwłaszcza gdy jest zasiedlona tak ogromną liczbą danych.

Najbardziej zdumiał mnie komentarz specjalistów. Powiedzieli, że ruch, który pokonał mistrza, był piękny, ale nie z tego świata. Nie był ludzki. Kiedy natomiast człowiek pokonał AlphaGo, stwierdzono, że dokonał tego za sprawą arcyludzkiego ruchu.

Mamy się bać takich świadomych maszyn?

- Jeżeli między nami a maszynami będą poważne antagonizmy, to maszyna - a raczej superinteligencja - może nas, rzecz jasna, wykończyć. Niewykluczone, że sami zainicjowalibyśmy ten konflikt ze strachu - bardzo ludzkiej, instynktownej emocji - a maszyna, rozpoznając nasze intencje, zakwalifikowałaby je jako szkodliwe. Trudniej uwierzyć mi w scenariusz, że to maszyna rozpocznie konflikt - w najgorszym razie nie będzie się nami w ogóle interesowała.

Ale gdy się zainteresuje, będzie miała gotowe narzędzia. Już tworzymy roboty do celów wojennych.

- A to już jest ludzka głupota. Niestety jest tak, że wojsko ma najczęściej najwięcej środków, a więcej maszyn bojowych na ogół oznacza więcej konfliktów i radykalnych rozstrzygnięć. Ale zwykle te wojskowe projekty opuszczają koszary i zaczynają mieć inne zastosowanie niż wojenne, przykładem drony. Albo egzoszkielety - wojsko projektuje je dla żołnierzy, jeszcze są względną nowością, ale już znamy egzoszkielety pomagające weteranom wojennym czy osobom niepełnosprawnym. Ostatnio w Polsce powstała na przykład bioniczna ręka.

Powiem pani, że mnie najbardziej podoba się sposób, w jaki patrzy na sztuczną inteligencję "Ona". Pełen erotyzmu głos Scarlett Johansson trochę utrudnił mi analizę, bo nie lubię, kiedy za cyfrowym intelektem kryje się Marilyn Monroe. To nie jest dobre przedstawienie relacji człowiek - robot. Ale w tym filmie sztuczna inteligencja ma swój świat, swoje sprawy, swoje cele, dla człowieka niedostępne. Nie jest jednak niczym złowrogim.

*Aleksandra Przegalińska - filozofka, kognitywistka. Doktoryzowała się z filozofii sztucznej inteligencji na Uniwersytecie Warszawskim, pracuje w Katedrze Zarządzania Międzynarodowego w Akademii Leona Koźmińskiego. Interesuje się tematyką robotów społecznych, prowadzi eksperymenty z neurotrackingiem - elektronicznym śledzeniem codziennej aktywności umysłu - w Massachusetts Institute of Technology.