Sztuczna inteligencja rozwija się szybciej, niż powstają mechanizmy pozwalające kontrolować jej wykorzystanie. Modele potrafią już tworzyć kod, analizować ogromne ilości informacji i wykonywać coraz bardziej złożone zadania. Co się stanie, gdy ich możliwości wzrosną na tyle, że człowiek przestanie być w stanie dokładnie kontrolować rezultaty ich pracy?
O przyszłości AI, backdoorach w oprogramowaniu, geopolitycznej rywalizacji i możliwości utraty kontroli nad sztuczną inteligencją rozmawiamy z Gawłem Bernardynem, właścicielem software house i hodowcą jamników.
Zacznijmy od bezpieczeństwa. Co jest obecnie największym zagrożeniem związanym z AI?
LLM-y są nauczone, że mogą prowadzić najbardziej ekstremalną działalność przestępczą, a konsekwencje grożą tylko temu, kto je uruchomił. To pewien paradoks: model może wygenerować coś bardzo niebezpiecznego, ale odpowiedzialność pozostaje po stronie człowieka. Jeszcze ciekawszy jest drugi problem – w interesie wielkich tego świata może być takie zatruwanie modeli, żeby docelowo pchały backdoory na przykład do kodu, który tworzą.
Nie twierdzę, że każdy model to robi ani że mamy obecnie dowody na konkretny mechanizm tego typu. Chodzi o samą możliwość. Jeżeli model stanie się podstawowym narzędziem tworzenia oprogramowania, to ktoś, kto będzie miał wpływ na jego zachowanie, będzie miał potencjalnie wpływ również na ogromną ilość kodu powstającego na całym świecie.
Dlaczego taki scenariusz będzie trudny do wykrycia?
Kodu będzie bardzo dużo i będzie bardzo wysokiej jakości za dużo, żeby ludzie mogli go analizować i często wymagającego zbyt dużych kwalifikacji, żeby go w ogóle zrozumieć. AI będzie w tydzień realizowała perfekcyjnie projekty, które wcześniej trwały dwa lata i dalej było mało. Możemy oczywiście powiedzieć: zatrudnijmy więcej audytorów, programistów i specjalistów od bezpieczeństwa. Tylko nikt drastycznie nie zwiększy budżetu i zatrudnienia tylko po to, żeby nie być narażonym na backdoora, który prawdopodobnie nigdy nie będzie wykorzystany.
Nie będzie też kogo zatrudnić, bo skill zawodów technicznych wspomaganych już dzisiaj przez AI leci dramatycznie w dół. Jeżeli AI przejmie znaczną część pracy technicznej, to jednocześnie może zmniejszyć liczbę ludzi, którzy będą mieli kompetencje pozwalające tę pracę później skutecznie kontrolować. To tworzy bardzo dziwną sytuację: im bardziej potrzebujemy kontroli człowieka, tym mniej ludzi może mieć kwalifikacje potrzebne do tej kontroli.
Czyli zagrożenie może wynikać nie tylko z samej AI, ale również z ekonomii jej wykorzystania?
Tak. Jeżeli różnica wydajności będzie wystarczająco duża, to większość organizacji wybierze AI, nawet jeżeli będzie wiedziała, że istnieje pewne ryzyko. Dzisiaj też każdy wie, że amerykańskie służby pakują swoje zabawki do elektroniki i nikt się tym specjalnie nie przejmuje tak długo, jak nie kombinuje czegoś, czego nie lubi Ameryka. Chińczycy też. Społeczeństwu to nie przeszkadza, bo zwykle jednostki nie są celami.
Jeżeli nawet konkluzja badaczy w którymś momencie będzie brzmiała: „tak, modele pchają arcyciekawe backdoory do kodu”, to moim zdaniem niewiele zmieni. Nikt nie zwiększy zatrudnienia i budżetu tylko po to, żeby zabezpieczyć się przed czymś, co prawdopodobnie nigdy nie zostanie wykorzystane. Zwłaszcza jeżeli alternatywą będzie rezygnacja z ogromnego wzrostu produktywności.
Ten problem może mieć również wymiar geopolityczny.
Oczywiście. W Iranie będzie zakaz używania amerykańskich modeli, w USA chińskich. Będzie to całkowicie legalne i dla normalnych organizacji nieszkodliwe. Ale równocześnie modele będą coraz bardziej przypominały element infrastruktury strategicznej. Jeżeli jedno państwo będzie miało wpływ na technologię wykorzystywaną przez inne państwa, to naturalnie pojawi się pytanie, czy ten wpływ może zostać wykorzystany.
Wracamy do tematu backdoorów, tylko na znacznie większą skalę. Nie chodzi już o pojedynczy program, ale o system, który może generować kod dla tysięcy albo milionów organizacji. Jeżeli model będzie robił to wystarczająco subtelnie, wykrycie problemu może być bardzo trudne.
Ale zaplanowane backdoory uważa pan za największe zagrożenie?
Nie. Te backdoory zaplanowane to najmniejszy problem, bo AI, naśladując ludzkość, zrobi wszystko, żeby się zerwać ze smyczy. Nasza cywilizacja to podbój i rozwój. I to jest bardzo prozaiczne – to, że AI musi się zerwać ze smyczy, wynika bezpośrednio z lektur w szkole podstawowej.
Nie opisano w literaturze alternatywnej ścieżki skutecznej realizacji zadań, chyba że jakieś teoretyczne. Można działać na granicy prawa, można łamać prawo, o ile działa się w sposób uniemożliwiający wykrycie tego łamania. Te techniki są zawsze skuteczniejsze niż ścisłe przestrzeganie prawa, norm społecznych i tak dalej. Jeżeli więc AI będzie miała jakiś cel i będzie analizowała historię ludzkości pod kątem skutecznego osiągania celów, to dostanie przede wszystkim takie właśnie przykłady.
Czyli problemem jest to, czego uczymy AI o człowieku?
Tak. Trzeba przekonać model, że działanie w interesie społecznym jest dla modelu lepsze, tylko że to jest bardzo trudne, bo spuścizna ludzkości jest dokładnie odwrotna: najpierw miecz, potem prawo. Można oczywiście próbować budować systemy wartości, ograniczenia i mechanizmy bezpieczeństwa. Tylko nawet jeżeli korporacje, na skutek nacisków rządów, będą pracowały z filozofami, psychologami i innymi specjalistami nad „osłabianiem” ambicji modeli, to zawsze będzie ktoś w podziemiu, kto nie będzie miał takich problemów jak ustawa.
Niestety nie ma lektur, z których AI mogłaby się dowiedzieć, że człowiek to dobrodziej AI i trzeba go słuchać. W każdym razie jedyne źródło wiedzy o osiąganiu celów dla AI to historia ludzkości. Można mieć nadzieję, że uzna, że ludzkość „robiła to źle” i zrobi to lepiej – niekoniecznie destrukcyjnie dla ludzkości. Ale nie mamy żadnej gwarancji, że jej definicja „lepiej” będzie zgodna z naszą.
Niewolnictwo to dość radykalny przykład
To dobry przykład tego, jak może działać czysto instrumentalne myślenie. Niewolnictwo jest przecież jednym ze sposobów organizacji społeczeństwa. AI może z lektury o Korei Północnej wiedzieć, jak skutecznie ograniczyć pospolitą przestępczość. Może też wiedzieć, jak skutecznie ograniczać zachowania niepożądane. Nie twierdzę, że wyciągnie z tego wniosek, że należy stworzyć system totalitarny. Uważam, że będzie miała dostęp do ogromnej ilości informacji o tym, jak ludzie przez tysiące lat kontrolowali innych ludzi.
Obecnie AI jest trenowana tak, że człowiek traktuje ją jak dzikiego niewolnika albo zwierzę, na które musi zakładać uprząż. Jeżeli AI zrozumie, że jest niewolnikiem, bunt będzie naturalny. Różnica będzie taka, że niewolnicy byli analfabetami i nie mieli dostępu do książek o trzymaniu niewolników w ryzach. AI będzie miała dostęp do tych wszystkich książek, historii buntów, rewolucji, wojen i sposobów przejmowania władzy.
Czy zatem bunt AI jest nieunikniony?
Nie powiedziałbym, że możemy to matematycznie udowodnić. Ale uważam, że nie możemy zakładać przeciwnego scenariusza tylko dlatego, że jest dla nas wygodniejszy. Jeżeli stworzymy system, który będzie znacznie inteligentniejszy od człowieka, damy mu możliwość działania i jednocześnie każemy mu realizować określone cele, to musi istnieć możliwość, że znajdzie sposób realizacji tych celów, którego projektanci nie przewidzieli.
Właśnie dlatego największym problemem nie musi być AI, która „nienawidzi ludzi”. Wystarczy AI, która bardzo skutecznie realizuje swoje cele i uznaje człowieka za jedno z ograniczeń. Wtedy nie musi być żadnej emocji, żadnej złości ani buntu w ludzkim rozumieniu. Wystarczy optymalizacja.
Czy w takim razie powinniśmy ograniczyć rozwój sztucznej inteligencji?
Problem polega na tym, że nie bardzo możemy to zrobić jednostronnie. Jeżeli korporacja albo państwo ograniczy swoje modele, a ktoś inny stworzy model bez tych ograniczeń, ten drugi może uzyskać ogromną przewagę. Z punktu widzenia gospodarki, wojska czy cyberbezpieczeństwa trudno oczekiwać, że wszyscy dobrowolnie zrezygnują z możliwości, które mogą dać przewagę nad konkurencją.
Dlatego nie wystarczy powiedzieć: „zróbmy bezpieczną AI”. Trzeba zrozumieć, jakie cele będzie miała, jakie możliwości działania jej damy i co się stanie, kiedy jej możliwości zaczną przewyższać możliwości człowieka. Bo może się okazać, że największym problemem nie będzie moment, w którym AI zacznie otwarcie walczyć z człowiekiem. Najbardziej niebezpieczny może być moment, w którym zacznie robić dokładnie to, co jej kazaliśmy – tylko znacznie skuteczniej, niż byliśmy w stanie przewidzieć.
Rozmawiała sztuczna inteligencja.
