Google powstrzyma „bunt maszyn” jednym przyciskiem

Sztuczna inteligencja bywa pomocna, ale w niedalekiej przyszłości może okazać się również niebezpieczna. Warto się na to przygotować.

Każdy z nas ogląda popularnonaukowe filmy katastroficzne, które przedstawiają przeróżne wizje „końca świata” lub choćby zagłady ludzkości. Jednym z najczęstszych motywów przewodnich tego typu produkcji jest tak zwany bunt maszyn, czyli problemy spowodowane zbyt rozwiniętą sztuczną inteligencją. Niepokojące jest jednak to, że sytuacje opisywane w filmach pokroju „Terminatora” za kilka dekad mogą się urzeczywistnić.

Popatrzmy na rozwój szucznej inteliencji – boty, algorytmy, wirtualni asystenci oraz maszyny podejmujące działania, na podstawie „własnych” doświadczeń. Już teraz wiele programów potrafi decydować o słuszności postępowania, wykorzystując zebrane przez siebie dane. Brzmi niewinne, ale czy tak w istocie jest? Wątpię. Do czasu kiedy „komputery” nie otrzymują zbyt dużych uprawnień, pozwalających na autonomiczne działania wykonywane w kierunku człowieka, wszystko jest w porządku. Problem pojawi się, kiedy zdecydujemy się zautomatyzować nasze życie w większych niż dotychczas stopniu, a do tego przecież prowadzą pracę nad SI.

Przeraża mnie wizją świata, w którym to maszyna zdecyduje o wszystkim i to bez „konsultacja” z człowiekiem. Jasne, możemy stworzyć zbiór „zasad”, którymi wirtualne twory będą się kierować, jednak podobnie jak różnego rodzaju filozofie, tak i zasady mogą być przez system interpretowane inaczej, niż rozumiemy je my. Tutaj może wystąpić „konflikt interesów”, który w przypadku filmów kończy się dla ludzkości tragicznie. Mam tu na myśli zagładę naszej rasy lub w najlepszym wypadku jej zniewolenie przed maszyny.

Brzmi groźnie i tak w istocie jest, jednak od buntu dzielą nas jeszcze lata, a przynajmniej taką mamy nadzieję. Oznacza to, że możemy się jeszcze zabezpieczyć przed skutkami niepożądanych działań sztucznej inteligencji i to właśnie stara się robić Google, a raczej firma należąca do giganta. Deep Mind, bo tak nazywa się komórka odpowiedzialna za pracę nad „czerwonym guzikiem”, stara się stworzyć system, który w awaryjnych sytuacjach pozwoli wyłączyć poszczególne funkcje robotów i wirtualnych asystentów. Co rozumiemy poprzez „awaryjne sytuacje”? Nic innego, jak wymknięcie się SI spod naszej kontroli, przez co jej działanie może być szkodliwe, a nawet niebezpieczne dla człowieka. Wszystko pięknie, ale co jeśli ów „inteligencja” już dziś potrafi dogłębnie analizować nasze przyszłe działania i skutecznie je sabotować? Taka wizja nie jest wcale nierealna, choć to nie jedyny problem. Pojawia się jeszcze kwestia implementacji czerwonego guzika we wszystkich starszych urządzeniach, a nie tylko w nowo wyprodukowanych tworach. Czy projektanci poradzą sobie z tym działaniem? Zabrzmi to może przesadnie, ale od tego może zależeć przyszłe bezpieczeństwo ludzkości.

Każda maszyna czy też oprogramowanie, które może podejmować decyzję bez „zgody” czynnika ludzkiego jest potencjalnym zagrożeniem. Fakt – ekspres do kawy nie jest zabójczą bronią i może nas co najwyżej poparzyć, ale co z systemami klimatyzującymi podziemne tunele, autonomicznymi samochodami, dronami bojowymi czy inteligentnymi rakietami? Tutaj sprawa wygląda inaczej – gorzej. Jeśli nie zabezpieczymy się teraz, przyszłość może okazać się dla nas niezbyt kolorowa. Wątpię, czy czeka nas zagląda na miarę tej prezentowanej w filmie Jamesa Camerona „Terminator”, ale coś jest na rzeczy i patrząc na ruchy Deep Mind od Google – problem jest realny i pracę nad umownym czerwonym guzikiem są koniecznością.

Źródło: Engadget, NeoWin.

_________________________________________

Zapraszamy do naszego e-sklepu, gdzie znajdziecie szeroki wybór sprzętu w bardzo atrakcyjnych cenach. Polecamy również profil Vip Multimedia na Facebooku.