Dr Tomasz Rożek: czy powinniśmy obawiać się sztucznej inteligencji?

Tomasz Rożek to doktor fizyki, autor książek, popularyzator nauki i dziennikarz. Kieruje działem naukowym tygodnika „Gość Niedzielny”. Współpracował z periodykami „Wiedza i Życie”, „National Geographic”, „Wprost”, „Przekrój”, „Gazeta Wyborcza”, „Życie”, „Dziennik Zachodni”, „Rzeczpospolita”. Prowadzi program „Sonda2” w TVP1 oraz audycję „Pytania z kosmosu” w radiowej Trójce. Stworzył jeden z najpopularniejszych vlogów naukowych w Polsce „Nauka To Lubie”.

W Rybniku poruszył kilka kwestii związanych ze sztuczną inteligencją, tym jak wpływa na nasze życie, co może nas czekać w przyszłości oraz czy powinniśmy się jej obawiać. Wynotowaliśmy dla Was najważniejsze pytania i odpowiedzi:

Czy przyszłość można przewidzieć?

Przyszłości nie możemy przewidzieć, możemy ją szacować. Nie chodzi o to, że nie mamy odpowiednio silnych komputerów, odpowiednio mocnych teleskopów, czy urządzeń do przewidywania przyszłości. Przyszłości nie da przewidzieć się z definicji i z samej natury naszego wszechświata. Są w nim i rządzą nim zasady kwantowe, których nigdy nie poznamy. Nigdy nie dowiemy się czy elektron, na który patrzymy i który badamy, poleci w lewo czy w prawo. Możemy liczyć tylko prawdopodobieństwo.

Przykład?

Jeśli przez ostatnie 10 lat telefony były coraz bardziej płaskie, a ekrany były coraz większe to można by pomyśleć, że w przyszłości ten trend będzie dalej szedł w tę stronę. W którymś momencie jednak ten telefon będzie za duży, żeby zmieścić go do kieszeni. Dlatego też nie możemy przewidywać przyszłości na podstawie tego co było i jest.

Teraz maszyny są inne, buduje się je inaczej. Czym różnią się od tych konkstruowanych kiedyś?

Programy uczą się już same, a nie są programowane. Wcześniejsze maszyny można było nazwać wielkimi liczydłami. Dzisiaj projektujemy je inaczej i to projektowanie zaczyna przypominać budowę naszego mózgu. Fakt ten spowodował, że pojawiła się w środku – nazwijmy ją – czarna skrzynka, i nie wiemy, co w środku niej dokładnie się dzieje. Zaczyna działać trochę tak jak nasz mózg, bo też sami do końca nie wiemy, jak nasz mózg działa.

Co ma mózg, czego nie ma maszyna?

Odczuć, emocji, (samo)świadomości, kreatywności (w myśleniu, działaniu, rozwiązywaniu zadań), uczuć (nauka ścisła nie daje żadnych narzędzi do badania uczuć). Maszyny reagują tak samo jak człowiek i mogą mieć własne cele, co może w przyszłości wiązać się z samoświadomością, ale ona jeszcze nie nastąpiła.

Czy maszyny mogą być kreatywne? Wydawałoby się, że nie, jednak jest zupełnie inaczej.

Kreatywność to coś o czym mówimy, że człowiek ma, a maszyna mieć nigdy nie będzie. Niektóre zwierzęta też są kreatywne, oczywiście w nieporównywalnie mniejszym stopniu niż człowiek. Czy maszyny mogą być kreatywne? Tak, mogą, a nawet są, ponieważ już teraz piszą i tworzą np. muzykę.

Dr Rożek puścił fragment piosenki, którą napisała maszyna (algorytm). System sam nauczył się czym jest muzyka i jak się ją tworzy. Kiedy szukamy np. piosenek w internecie algorytmy sugerują nam te najbardziej właściwe dla nas na podstawie poprzednich wyszukiwań. Jak dodał dr Rożek: - Bez algorytmów samouczących się życie w internecie byłoby horrorem. - po czym dodał - Być może algorytmy znają nas dużo lepiej niż my sami siebie?

Jakie są przykłady użycia algorytmów w życiu, czyli tzw. sztucznej inteligencji?

Jakiś czas temu w Stanach Zjednoczonych w mieście Santa Cruz został uruchomiony program, który na podstawie danych o przestępstwach z przeszłości stworzył mapę miejsc, które miały największe prawdopodobieństwo wystąpienia przestępstw (na podstawie np. poprzednich przestępstw, gęstości zaludnienia czy nawet remontu dróg). Skierowano w nie większe ilości funkcjonariuszy, a ilość przestępstw spadła o kilkanaście %.

Czy użycie algorytmów może przynieść również negatywne skutki?

Jeśli poprosimy komputer, aby nie rozpoznawały przestępców, ale żeby identyfikowały wrogów politycznych to zaczyna się już robić nieciekawie. Algorytmy zastosowano też na ogromną skalę w Chinach w systemie SCS.

Na czym dokładnie polega nowo-wprowadzony SCS (Social Credit System)?

W Chinach stworzono system SCS, który ma za zadanie dawać ludziom punkty w zależności od tego co robią, gdzie robią, z kim robią, czy jak robią. Zgodziło się na niego dobrowolnie kilka milionów osób. Każdy na początku dostaje jakąś liczbę punktów, a później musi sobie już na nie zasłużyć. Nie chodzi tu o jakąś zabawę ale o konkretne decyzje. Jeśli przykładowo ktoś będzie miał za mało punktów, to nie dostanie paszportu. Za co można dostać karne punkty? Np. za to, że czyta się w internecie krytyczne dla władzy teksty, wzięło się udział w proteście albo napisało coś nieprzychylnego dla rządzących na twitterze, czy facebooku.

System został zapowiedziany 3 lata temu, a w zeszłym roku ruszył jego pilotaż. Co planuje się wprowadzić w najbliższych latach?

Przy 650 punktach można wypożyczyć auto bez składania depozytu, a przy 700 dostać wizę za granicę. Teraz w Chinach jest dyskusja czy program powinien być rozszerzony na dzieci? Jeśli rodzic będzie miał za mało punktów, to dziecko nie będzie mogło dostać się do szkoły lub na wyższą uczelnię.

Problem z wprowadzaniem algorytmów jest szerszy. Wiąże się z ryzykiem, jakie niesie ze sobą sztuczna inteligencja, jednak ryzyko to jest tylko pozorne.

Jakiś czas temu samochód prowadzony automatycznie przejechał kobietę w Stanach Zjednoczonych. Zaczęto wtedy mówić, że to pierwsza ofiara sztucznej inteligencji. Moim zdaniem to ofiara własnej głupoty, ponieważ kiedy ktoś wychodzi przed rozpędzony samochód pewne procesy są... nieuniknione. Powiem więcej, fakt, że był to samochód sterowany automatycznie. a nie przez człowieka, zwiększał szansę uniknięcia wypadku wielokrotnie, ponieważ czas reakcji człowieka byłby dużo powolniejszy.

Co w przypadku, kiedy program będzie musiał podjąć decyzję związaną z moralnością? I jak nauczyć program moralności?

Jeśli na jezdnię wyjdzie osoba, a komputer nie będzie miał czasu na reakcję, to czy samochód ma ją przejechać, czy też skręcić uderzając w drzewo i zabijając kierowcę? Stworzono też internetową ankietę, w której ludzie wypowiadali się na podstawie tego przykładu. Od kiedy jednak o tym czy coś jest moralne decyduje większość?

Wracając do tego, iż przyszłości nie da się przewidzieć, czy jesteśmy jednak w stanie przytoczyć najbardziej prawdopodobny scenariusz?

Uczeni rysują ją w czarnych barwach i narodziny sztucznej inteligencji porównują do odkrycia Ameryki. Cywilizacje zamieszkujące Nowy Świat uległy zagładzie, bo były mniej rozwinięte. To samo może spotkać ludzkość.

Czy nowa technologia może być groźna?

Nowa technologia może być źle wykorzystana. Nie myślę o niej jak o zagrożeniu samym w sobie, ponieważ dla mnie jest to po prostu narzędzie, które nie jest ani dobre, ani złe. Nie boję się sztucznej inteligencji, boję się człowieka, który dostanie sztuczną inteligencję i będzie korzystał z niej w sposób nieodpowiedzialny.

A co wy myślicie na temat sztucznej inteligencji? Mamy się czego obawiać?