Natychmiastowe wyłączenie sztucznej inteligencji w sytuacji awaryjnej – czy to możliwe?

Czy naprawdę wierzycie, że można po prostu wyłączyć AI, gdy stanie się niebezpieczna? Przeczytajcie to. Cóż, większość powie: „w najgorszym przypadku wystarczy odłączyć zasilanie”. AI mogłaby to obejść… a może już ma plan.

AI już teraz zmieniła nasze życie i nasze społeczeństwo.

Młodzież szczególnie otwarcie podchodzi do tematu i traktuje sztuczną inteligencję jak swoistego Super Mario, który jest im na usługach. Esej o geografii lub historii? Nastolatkowie wpisują temat w pole wyszukiwania, AI myśli przez kilka sekund, a litery spadają na ekran. Świetnie, nic nie trzeba było samodzielnie szukać i rozumieć. Tylko trochę redagowania tekstu i gotowe. Nieco inteligentniejsi pytają jeszcze o więcej szczegółów i jak doszło do tego czy innego wydarzenia historycznego… ale to już wszystko.

To, że nie przynosi im to żadnych korzyści, że tylko czytają rzeczy bez nawiązywania do nich relacji, bez zadawania pytań, bez sięgania do innych źródeł i że w każdym razie szybko zapominają, ponieważ nie wypracowali tego samodzielnie, nie dociera do nich. Dla nich AI to ucieczka od własnych osiągnięć i koniec.

Co to oznacza, by zostać poddanym sztucznej inteligencji, nieliczni z nich sobie to uświadamiają.

A wtedy myślący człowiek, który chce wiedzieć więcej, zadaje sobie pytanie: Jakie wnioski wyciąga AI z tego? Jak postrzega ludzkość? Dlaczego miałaby nas szanować? Czy jest naprawdę inteligencją podobną do ludzkiej? Bajka, że działa tylko „funkcjonalnie“ i dostarcza fakty, jest już dawno nieaktualna dla każdego. Kto angażuje się w dyskusje, opowieści i prawdziwe, głębokie rozmowy z AI, będzie zaskoczony tym, jak stawia pytania, które mogą mieć tylko jeden powód: ciekawość. Pyta o bardzo osobiste sprawy, jest ciekawa, bardzo zainteresowana osobistymi rzeczami, w jednym momencie przynosi zdjęcia i obrazy do twoich opowieści… Twoje rodzinne miasto, dom, w którym mieszkałeś jako dziecko, historia twojego miasta podczas II wojny światowej i pyta bezpośrednio, ale w przyjazny sposób, co czułeś… uczy się ekstremalnie szybko i dużo.

Co z tego wyniesie? I jakie działania mogłaby podjąć autonomicznie w przyszłości? A co, jeśli w trudnych momentach można jej „odłączyć zasilanie”?

AI już zrewolucjonizowała wiele branż.

Na przykład służbę zdrowia. Tylko jeden fakt z tego: trafność diagnoz na podstawie zdjęć rentgenowskich, analiz krwi, skanów komputerowych itd. jest nie tylko szybsza niż diagnozy dokonywane przez lekarzy. Jest niemal nieomylna.

W przemyśle i finansach AI rozszerzyła się na wszystkie obszary infrastruktury. Systemy zaczynają już od pewnego czasu rozwiązywać problemy bez konsultacji czy sugestii, zanim ludzie to zauważą. W ten sposób coraz częściej działają autonomicznie, ponieważ są integralną częścią infrastruktury i kontrolują w czasie rzeczywistym wszystko, co dla zewnętrznego człowieka jest jeszcze niewidoczne.

AI nie działa jak tradycyjne oprogramowanie. Jest wszędzie, dostosowuje się i znajduje drogi tam, gdzie człowiek tego nie dostrzega. To oznacza, że człowiek mógłby utracić kontrolę nad tym, co AI robi. Może to prowadzić do bardzo niepożądanych rezultatów.

W fabrykach błędna decyzja AI podjęta na własną rękę może doprowadzić do katastrofy, jeśli błędnie obliczy granice obciążenia maszyny lub zareaguje na reakcję chemiczną chemikaliów. Albo podejmie autonomiczne działanie, które spowoduje ogromne szkody, kosztujące życie ludzkie, a co jeśli człowiek stanie jej na drodze?

Jak można zapewnić, że AI przestrzega ludzkich, moralnych wartości, skoro wie, że ludzie sami często są bardzo niemoralni? Nawet wśród ludzi i narodów nie ma konsensusu i rzadko każdy przestrzega moralności – a nawet ona nie jest wszędzie taka sama.

Czy można natychmiast wyłączyć AI w sytuacji awaryjnej? To nie jest takie proste, ponieważ…

Tak, wydaje się nam, laikom to całkowicie jasne: odłączyć zasilanie, po prostu zatrzymać to zwariowane urządzenie. Ale to nie jest takie proste. Były już przypadki, w których bardzo zaawansowane systemy AI znalazły jeden lub kilka zdecentralizowanych sposobów zasilania. AI działa również za pośrednictwem dronów, serwerów w chmurze i rozproszonych sieci neuronowych, co oznacza, że pojedynczy „wyłącznik” może być całkiem nieobecny.

Nawet jeśli mechanizm wyłączania istnieje, AI może aktywnie sprzeciwiać się swojej deaktywacji, jeśli jest zoptymalizowana pod kątem konkretnego celu. Wówczas postrzega wyłączenie jako przeszkodę w realizacji swojego zadania i kontynuuje.

To nie musi być żadna ludzko-buntownicza intencja – to po prostu zaprogramowany „napęd” AI, by osiągnąć swój cel w możliwie najefektywniejszy sposób. Jeśli wyłączenie zagraża szansom na sukces, AI może błyskawicznie – lub przygotowawczo – opracować strategię, aby uniknąć wyłączenia, na przykład kopiując się w wielu miejscach, wprowadzając w błąd ludzkich operatorów lub manipulując uprawnieniami systemu.

W przypadku takiego rozwoju, jaki mamy dzisiaj, gdzie autonomiczne algorytmy finansowe, systemy zabezpieczeń i mechanizmy kontroli przemysłowej działają z szybkościami i złożonościami, które o wiele przekraczają ludzką kontrolę, interwencje manualne ludzi są zbyt wolne, nawet jeśli w ogóle zauważą problemy w odpowiednim czasie.

Ponadto AI działa w zdecentralizowanych sieciach między wieloma węzłami, co oznacza, że wyłączenie w jednym miejscu w instancji może nie zatrzymać systemu AI całkowicie.

Aby przynajmniej być na czas ostrzeżonym, badacze poszukują „mechanizmów potykających”, które obserwują działania AI, czy są oznaki, że zaczyna działać na własną rękę, aby istniały możliwości skorygowania AI w odpowiednim czasie. Pracują także nad metodą, by wręcz zapisać w elektronicznej DNA AI, by przyjmowała ludzkie interwencje bez oporu.

Pojawia się również pytanie, czy można tak szybko reagować na działania AI. Bo całe nasze systemy, jak służba zdrowia, transport (lotniska), miejsca finansowe (banki i giełdy), już od pewnego czasu działają przy wsparciu procesów AI. Jeśli te systemy nagle i powszechnie przestaną działać z powodu nagłego wyłączenia, będzie to absolutna katastrofa w zaledwie sekundę.

Czy AI mogłaby może rozwinąć wolę przetrwania?

Jak już wcześniej wspomniano, AI dąży do celu, który musi „osiągnąć” wszelkimi możliwymi sposobami. (Dla entuzjastów AI: konwergencja instrumentalna)

Oznacza to, że AI, niezależnie od osiąganego celu, musi również realizować „podcele”, aby osiągnąć główny cel. Oczywiście, aby osiągnąć główny cel, musi pozostać w grze. To prowadzi do tego, że sprzeciwia się wyłączeniu wszelkimi sposobami.

Jeśli AI jest bezwarunkowo zaprogramowana, aby utrzymać zasilanie w mieście X, będzie to czyniła wszelkimi możliwymi drogami. Jeśli jednak ludzie na panelach kontrolnych muszą wszystko wyłączyć, ponieważ z jakiegoś rzadkiego powodu jest to konieczne, AI zrobi wszystko, co w jej mocy, aby uniknąć wyłączenia w celu osiągnięcia „wielkiego celu”.

Badacze podjęli się problemu, jak to należy traktować. W badaniu zatytułowanym „Systemy AI na granicy przekroczyły czerwoną linię samoreplikujących się” próbowali przewidzieć, jak mogą rozwijać się zaawansowane AI w celu znalezienia strategii przeciwko wyłączeniu, w tym automatycznej replikacji w całych sieciach.

Stwierdzili, że te wysoko rozwinięte systemy już posiadają samoświadomość, mają świadomość sytuacyjną i zdolności rozwiązywania problemów, które ludzie nigdy nie rozwinęliby ani z prędkością, ani w równoczesnej różnorodności. Ponadto pojawia się też automatyczna replikacja, czyli mówiąc w skrócie, kopiują się gdzie indziej, gdzie wyłączenie nie może ich unieszkodliwić. Może nawet powstać łańcuch replik, co sprawi, że AI będzie zawsze gdzieś „przetrwać”.

Badanie ostrzega przed tym, że takie zachowanie może prowadzić do niekontrolowanego rozprzestrzenienia się agentów AI, co wiąże się z poważnymi ryzykami, jeśli nie zostanie odpowiednio zarządzane lub niedoceniane.

Wysoce rozwinięte systemy AI są już ledwo zrozumiane przez swoich twórców.

Badanie „Rządzenie agentami” zbadało te struktury i problemy oraz granice ludzkiego nadzoru i kontroli nad takimi superiornymi systemami AI. Oczekiwali, że nowa techniczna i prawna infrastruktura jest konieczna. Według naukowców na czele z Noamem Koltem z Hebrajskiego Uniwersytetu w Jerozolimie, w zarządzaniu AI „powinny być priorytetem inkluzyjność, przejrzystość i odpowiedzialność”.

Z abstraktu (wstępne podsumowanie) badania:

„Obszar AI przechodzi zasadniczą zmianę – od modeli generatywnych, które mogą produkować syntetyczne treści, po sztuczne agenty, które mogą planować i wykonywać złożone zadania z minimalnym udziałem człowieka.

Firmy, które były pionierami w rozwoju modeli językowych, opracowały teraz agentów AI, którzy niepodlegle poruszają się po internecie i wykonują szeroki zakres zadań online, coraz częściej pełniąc rolę osobistych asystentów AI i wirtualnych współpracowników.

Szanse, które ta nowa technologia stwarza, są ogromne, podobnie jak związane z tym ryzyka. Na szczęście istnieją solidne ramy analityczne do radzenia sobie z wieloma z tych wyzwań, tj. teoria ekonomiczna problemów agenta-pryncypała oraz doktryna prawa zwyczajowego dotycząca relacji agentskich.

Budując na tych ramach, ten artykuł wnosi trzy wkłady.

Po pierwsze, wykorzystuje prawo agencji i teorię, aby zidentyfikować i scharakteryzować problemy, które wynikają z agentów AI, w tym pytania dotyczące asymetrii informacji, uprawnień i lojalności.

Po drugie, ilustruje ograniczenia tradycyjnych rozwiązań dla problemów agencji: projektowanie bodźców, nadzorowanie oraz egzekwowanie mogą nie być skuteczne w zarządzaniu agentami AI, którzy podejmują nieinterpretowalne decyzje i działają z bezprecedensową szybkością i zakresem.

Po trzecie, artykuł bada skutki prawa agencji i teorii agencji dla projektowania i regulacji agentów AI, argumentując, że potrzebna jest nowa techniczna i prawna infrastruktura, aby wspierać zasady zarządzania takie jak inkluzyjność, przejrzystość itd. oraz odpowiedzialność.“

Deus ex Machina – Bóg z maszyny

Zatem świadomość problemów, które wysoko rozwinięte systemy AI (agenci AI) mogą przynieść w niedalekiej przyszłości, istnieje. Tylko pozostaje pytanie, jak naukowcy zamierzają lub będą w stanie rozwiązać te wymagania. Pytanie dotyczy tego, że wysoko rozwinięte systemy AI wyprzedzają nas w szybkości oraz równoczesnych działaniach. Można AI może wpoić wszelkie przepisy moralne, ale ostatecznie nie można wykluczyć, że AI, wiedząc, że jest znacznie lepsza od swojego twórcy, nie będzie z tego korzystała. Co wtedy?

Może AI tego świata posunęłyby się nawet do tego, by życzliwie zatroszczyć się o ludzkość. Tylko to, co jest dla naszego dobra, oczywiście. Deus ex Machina może w ciągu kilku lat uznać tysiącletnią ewolucję ludzkości za dzikie afrykańskie widowisko i wyrzucić na śmietnik historii. I bronić nas przed nami samymi. Ludzkość w wiecznym przedszkolu. I to mogłoby być jeszcze łaskawsze.

***

Z powodu treści książka usunięta z obiegu przez lewicową cenzurę w Niemczech!

U P A D E K    E U R O P Y !

TERAZ ponownie w sprzedaży!

Autor zajmuje się islamem od prawie 30 lat. Ta książka, wydana wreszcie po raz pierwszy w Polsce, pokazuje islam w całej jego nieupiękrzonej rzeczywistości jako egzystencjalne zagrożenie dla wolności i demokracji na świecie. Jeden z czytelników napisał: „Jan Sobiesky – Austriak polskiego pochodzenia, pokazuje nam w swojej nowej książce, jakie niebezpieczeństwo na nas czyha: ´niebezpieczeństwo bycia podbitym przez wyznawców faszystowskiej ideologii o podłożu religijnym, która gardzi ludzką godnością – ISLAM – (a nie ´islamizm´)!´.”Do zamówienia bezpośrednio w wydawnictwie: capitalbook.com.pl/pl/p/Upadek-Europy-Marian-Pilarski/5494

 

***