{"id":3435,"date":"2023-07-29T12:32:58","date_gmt":"2023-07-29T10:32:58","guid":{"rendered":"https:\/\/wia.net.pl\/?p=3435"},"modified":"2023-07-29T12:32:58","modified_gmt":"2023-07-29T10:32:58","slug":"zagrozenia-militarne-zwiazane-z-ai-nie-sa-halucynacjami","status":"publish","type":"post","link":"https:\/\/wia.net.pl\/index.php\/2023\/07\/29\/zagrozenia-militarne-zwiazane-z-ai-nie-sa-halucynacjami\/","title":{"rendered":"Zagro\u017cenia militarne zwi\u0105zane z AI nie s\u0105 halucynacjami"},"content":{"rendered":"\n

autorstwa\u00a0Michaela Klare’a<\/a>\u00a0i\u00a0Toma Engelhardta<\/a>,

Pierwotnie opublikowane na\u00a0TomDispatch<\/a>\u00a0.<\/em><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Przyznaj\u0119 sobie uznanie za to, \u017ce znacznie wyprzedzi\u0142em sw\u00f3j czas. Po raz pierwszy zetkn\u0105\u0142em si\u0119 ze sztuczn\u0105 inteligencj\u0105 (AI) w 1968 roku, kiedy mia\u0142em zaledwie 24 lata i od samego pocz\u0105tku wyczuwa\u0142em jej g\u0142\u0119bokie niebezpiecze\u0144stwa. Wyobra\u017a sobie, \u017ce.<\/p>\n\n\n\n

Chocia\u017c bardzo chcia\u0142bym si\u0119 tym chwali\u0107, nie by\u0142em sam. W rzeczywisto\u015bci by\u0142em niew\u0105tpliwie jednym z milion\u00f3w ludzi, kt\u00f3rzy widzieli film 2001: Odyseja kosmiczna<\/em> , wyre\u017cyserowany przez Stanleya Kubricka na podstawie scenariusza napisanego z Arthurem C. Clarke’em ( zainspirowany<\/a> opowiadaniem \u201eThe Sentinel\u201d, s\u0142ynn\u0105 nauk\u0105 -fikcja, kt\u00f3r\u0105 Clarke wyprodukowa\u0142 w \u2013 tak! \u2013 1948). AI mia\u0142o wtedy rzeczywist\u0105 nazw\u0119, 9000 HAL<\/a> (ale nazywaj go \u201eHal\u201d).<\/p>\n\n\n\n

I nie, pierwsza wyimaginowana sztuczna inteligencja w moim \u015bwiecie nie dzia\u0142a\u0142a dobrze, co powinno by\u0107 (ale nie okaza\u0142o si\u0119) lekcj\u0105 dla nas wszystkich. Osadzony w statku kosmicznym zmierzaj\u0105cym do Jowisza, zabi\u0142<\/a> czterech z pi\u0119ciu astronaut\u00f3w na nim i zrobi\u0142 wszystko, co w jego mocy, aby zrobi\u0107 ostatni z nich, zanim zostanie zamkni\u0119ty.<\/p>\n\n\n\n

Powinno to oczywi\u015bcie by\u0107 ostrze\u017ceniem dla nas wszystkich przed \u015bwiatem, do kt\u00f3rego rzeczywi\u015bcie wkroczymy w tym stuleciu. Niestety, podobnie jak w przypadku wielu rzeczy, kt\u00f3re niepokoj\u0105 planet\u0119 Ziemia, wydaje si\u0119, \u017ce nie mogli\u015bmy si\u0119 powstrzyma\u0107. HAL mia\u0142 sta\u0107 si\u0119 rzeczywisto\u015bci\u0105 \u2013 a raczej niesko\u0144czenie mno\u017c\u0105c\u0105 si\u0119 rzeczywisto\u015bci\u0105 \u2013 w tym naszym \u015bwiecie. W tym kontek\u015bcie Michael Klare, regularny <\/a>TomDispatch<\/em><\/a> , kt\u00f3ry od lat ostrzega<\/a> przed \u201eludzk\u0105\u201d przysz\u0142o\u015bci\u0105, w kt\u00f3rej \u201egenera\u0142owie robot\u00f3w\u201d mogliby kierowa\u0107 si\u0142ami zbrojnymi na ca\u0142ym \u015bwiecie, zastanawia si\u0119 nad nadchodz\u0105cymi wojnami i tym, co mo\u017ce oznacza\u0107 zast\u0105pienie ludzkiej inteligencji przez sztuczn\u0105 inteligencj\u0119 w g\u0142\u00f3wnych si\u0142ach zbrojnych na \u015bwiecie i dok\u0105d mo\u017ce nas to zaprowadzi\u0107. Nie jestem pewien, czy Stanley Kubrick czy Arthur C. Clarke byliby zaskoczeni.~ Toma Engelhardta<\/em><\/p>\n\n\n\n

\n\n\n\n

Wymieranie ludzi jako szkody uboczne<\/strong><\/h3>\n\n\n\n

Michaela Klare’a<\/strong><\/p>\n\n\n\n

\u015awiat, w kt\u00f3rym maszyny zarz\u0105dzane przez sztuczn\u0105 inteligencj\u0119 (AI) systematycznie zast\u0119puj\u0105 ludzi w wi\u0119kszo\u015bci funkcji biznesowych, przemys\u0142owych i zawodowych, jest przera\u017caj\u0105cy do wyobra\u017cenia. W ko\u0144cu, jak ostrzegaj\u0105 nas wybitni informatycy, systemy zarz\u0105dzane przez sztuczn\u0105 inteligencj\u0119 s\u0105 podatne na<\/a> krytyczne b\u0142\u0119dy i niewyt\u0142umaczalne \u201ehalucynacje\u201d, kt\u00f3re mog\u0105 mie\u0107 katastrofalne skutki. Ale jest jeszcze bardziej niebezpieczny scenariusz, jaki mo\u017cna sobie wyobrazi\u0107 na podstawie rozprzestrzeniania si\u0119 superinteligentnych maszyn: mo\u017cliwo\u015b\u0107, \u017ce te nieludzkie istoty mog\u0105 walczy\u0107 ze sob\u0105, niszcz\u0105c w ten spos\u00f3b ca\u0142e ludzkie \u017cycie.<\/p>\n\n\n\n

Pogl\u0105d, \u017ce superinteligentne komputery mog\u0105 wpada\u0107 w amok i mordowa\u0107 ludzi, od dawna jest podstaw\u0105 popkultury. W proroczym filmie<\/a> \u201eGry wojenne\u201d z 1983 roku superkomputer znany jako WOPR (od odpowiedzi na plan operacji wojennej i, co nie jest zaskakuj\u0105ce, wymawiane jako \u201ewhopper\u201d) prawie prowokuje katastrofaln\u0105 wojn\u0119 nuklearn\u0105 mi\u0119dzy Stanami Zjednoczonymi a Zwi\u0105zkiem Radzieckim, zanim zostanie unieruchomiony przez nastoletniego haker (grany przez Matthew Brodericka). Seria film\u00f3w \u201e Terminator<\/a> \u201d, zapocz\u0105tkowana oryginalnym filmem z 1984 roku, podobnie przewidywa\u0142a samo\u015bwiadomy superkomputer o nazwie \u201eSkynet\u201d, kt\u00f3ry podobnie jak WOPR zosta\u0142 zaprojektowany do kontrolowania ameryka\u0144skiej broni nuklearnej, ale zamiast tego wybiera zniszczenie ludzko\u015bci, postrzegaj\u0105c nas jako zagro\u017cenie do jego istnienia.<\/p>\n\n\n\n

Cho\u0107 kiedy\u015b ogranicza\u0142a si\u0119 do sfery science fiction, koncepcja superkomputer\u00f3w zabijaj\u0105cych ludzi sta\u0142a si\u0119 teraz wyra\u017an\u0105 mo\u017cliwo\u015bci\u0105 w bardzo realnym \u015bwiecie niedalekiej przysz\u0142o\u015bci. Opr\u00f3cz opracowywania szerokiej gamy \u201e autonomicznych<\/a> \u201d lub zrobotyzowanych urz\u0105dze\u0144 bojowych, g\u0142\u00f3wne pot\u0119gi wojskowe spiesz\u0105 si\u0119 r\u00f3wnie\u017c z tworzeniem zautomatyzowanych system\u00f3w podejmowania decyzji na polu bitwy lub czego\u015b, co mo\u017cna by nazwa\u0107 \u201e genera\u0142ami robot\u00f3w\u201d .<\/a>\u201d. W wojnach w niezbyt odleg\u0142ej przysz\u0142o\u015bci takie systemy nap\u0119dzane sztuczn\u0105 inteligencj\u0105 mog\u0142yby zosta\u0107 rozmieszczone w celu wydawania rozkaz\u00f3w bojowych ameryka\u0144skim \u017co\u0142nierzom, dyktuj\u0105c, gdzie, kiedy i jak zabijaj\u0105 wrogie wojska lub przyjmuj\u0105 ogie\u0144 od przeciwnik\u00f3w. W niekt\u00f3rych scenariuszach decydenci-roboty mog\u0105 nawet przej\u0105\u0107 kontrol\u0119 nad ameryka\u0144sk\u0105 broni\u0105 atomow\u0105, potencjalnie umo\u017cliwiaj\u0105c im rozp\u0119tanie wojny nuklearnej, kt\u00f3ra doprowadzi do upadku ludzko\u015bci.<\/p>\n\n\n\n

A teraz we\u017a oddech na chwil\u0119. Instalacja takiego systemu dowodzenia i kontroli (C2) opartego na sztucznej inteligencji mo\u017ce wydawa\u0107 si\u0119 odleg\u0142\u0105 mo\u017cliwo\u015bci\u0105. Niemniej jednak Departament Obrony Stan\u00f3w Zjednoczonych ci\u0119\u017cko pracuje nad rozwojem wymaganego sprz\u0119tu i oprogramowania w systematyczny, coraz szybszy spos\u00f3b. Na przyk\u0142ad w przed\u0142o\u017conym bud\u017cecie na 2023 r. Si\u0142y Powietrzne za\u017c\u0105da\u0142y 231 mln USD<\/a> na opracowanie zaawansowanego systemu zarz\u0105dzania polem bitwy<\/a> (ABMS), z\u0142o\u017conej sieci czujnik\u00f3w i komputer\u00f3w obs\u0142uguj\u0105cych sztuczn\u0105 inteligencj\u0119, zaprojektowanych do gromadzenia i interpretowania danych o operacjach wroga oraz zapewniania pilotom i wojsk l\u0105dowych z menu optymalnych opcji ataku. W miar\u0119 rozwoju technologii system b\u0119dzie zdolny<\/a>wysy\u0142ania instrukcji \u201eognia\u201d bezpo\u015brednio do \u201estrzelc\u00f3w\u201d, w du\u017cej mierze z pomini\u0119ciem kontroli cz\u0142owieka.<\/p>\n\n\n\n

\u201eNarz\u0119dzie do wymiany danych mi\u0119dzy maszynami, kt\u00f3re zapewnia opcje odstraszania, na rampie [wojskowy pokaz si\u0142y] lub wczesnego starcia\u201d \u2013 tak Will Roper, zast\u0119pca sekretarza Si\u0142 Powietrznych ds. i logistyka opisali<\/a> system ABMS w wywiadzie z 2020 roku. Sugeruj\u0105c, \u017ce \u201emusimy zmieni\u0107 nazw\u0119\u201d w miar\u0119 ewolucji systemu, Roper doda\u0142: \u201eMy\u015bl\u0119, \u017ce Skynet jest wy\u0142\u0105czony, tak bardzo chcia\u0142bym to zrobi\u0107 jako rzecz science-fiction. Po prostu nie s\u0105dz\u0119, \u017ceby\u015bmy mogli tam pojecha\u0107.<\/p>\n\n\n\n

I chocia\u017c on nie mo\u017ce tam pojecha\u0107, reszta z nas mo\u017ce rzeczywi\u015bcie tam si\u0119 uda\u0107.<\/p>\n\n\n\n

Pami\u0119taj, to dopiero pocz\u0105tek. W rzeczywisto\u015bci ABMS Si\u0142 Powietrznych ma stanowi\u0107 j\u0105dro wi\u0119kszej konstelacji czujnik\u00f3w i komputer\u00f3w, kt\u00f3re po\u0142\u0105cz\u0105 wszystkie<\/em> si\u0142y bojowe USA, Joint All-Domain Command-and-Control System (JADC2, wymawiane jako \u201eJad-C-two \u201d). \u201eJADC2 ma na celu umo\u017cliwienie dow\u00f3dcom podejmowania lepszych decyzji poprzez zbieranie danych z wielu czujnik\u00f3w, przetwarzanie danych za pomoc\u0105 algorytm\u00f3w sztucznej inteligencji w celu identyfikacji cel\u00f3w, a nast\u0119pnie rekomendowanie optymalnej broni\u2026 do walki z celem\u201d, poinformowa\u0142a<\/a> w 2022 r. Kongresowa S\u0142u\u017cba Badawcza .<\/p>\n\n\n\n

Sztuczna inteligencja i wyzwalacz nuklearny<\/strong><\/p>\n\n\n\n

Pocz\u0105tkowo JADC2 b\u0119dzie przeznaczony do koordynowania dzia\u0142a\u0144 bojowych mi\u0119dzy \u201ekonwencjonalnymi\u201d lub niej\u0105drowymi si\u0142ami ameryka\u0144skimi. Jednak ostatecznie oczekuje si\u0119, \u017ce po\u0142\u0105czy si\u0119<\/a> z nuklearnymi systemami dowodzenia, kontroli i komunikacji (NC3) Pentagonu, potencjalnie daj\u0105c komputerom znaczn\u0105 kontrol\u0119 nad wykorzystaniem ameryka\u0144skiego arsena\u0142u nuklearnego. \u201eJADC2 i NC3 s\u0105 ze sob\u0105 powi\u0105zane\u201d, stwierdzi\u0142<\/a> genera\u0142 John E. Hyten, wiceprzewodnicz\u0105cy Kolegium Po\u0142\u0105czonych Szef\u00f3w Sztab\u00f3w, w wywiadzie z 2020 roku. W rezultacie doda\u0142 typowym pentagonem: \u201eNC3 musi poinformowa\u0107 JADC2, a JADC2 musi poinformowa\u0107 NC3\u201d.<\/p>\n\n\n\n

Nie trzeba wielkiej wyobra\u017ani, aby wyobrazi\u0107 sobie czas w niezbyt odleg\u0142ej przysz\u0142o\u015bci, kiedy jaki\u015b kryzys \u2013 na przyk\u0142ad starcie militarne mi\u0119dzy Stanami Zjednoczonymi a Chinami na Morzu Po\u0142udniowochi\u0144skim lub w pobli\u017cu Tajwanu \u2013 spowoduje coraz bardziej zaciek\u0142e walki mi\u0119dzy wrogimi si\u0142ami powietrznymi. i si\u0142y morskie. Wyobra\u017a sobie wi\u0119c JADC2, kt\u00f3ry nakazuje intensywne bombardowanie wrogich baz i system\u00f3w dowodzenia w samych Chinach, wyzwalaj\u0105c wzajemne ataki na obiekty ameryka\u0144skie i b\u0142yskawiczn\u0105 decyzj\u0119 JADC2 o odwecie za pomoc\u0105 taktycznej broni nuklearnej, wywo\u0142uj\u0105c od dawna budz\u0105cy strach nuklearny holokaust.<\/p>\n\n\n\n

Mo\u017cliwo\u015b\u0107, \u017ce tego rodzaju koszmarne scenariusze mog\u0105 doprowadzi\u0107 do przypadkowego lub niezamierzonego wybuchu wojny nuklearnej, od dawna niepokoi analityk\u00f3w ze spo\u0142eczno\u015bci zajmuj\u0105cej si\u0119 kontrol\u0105 zbroje\u0144. Ale rosn\u0105ca automatyzacja wojskowych system\u00f3w C2 wywo\u0142a\u0142a niepok\u00f3j nie tylko w\u015br\u00f3d nich, ale tak\u017ce w\u015br\u00f3d wy\u017cszych urz\u0119dnik\u00f3w bezpiecze\u0144stwa narodowego.<\/p>\n\n\n\n

Ju\u017c w 2019 roku, kiedy zapyta\u0142em genera\u0142a porucznika Jacka Shanahana, \u00f3wczesnego dyrektora Po\u0142\u0105czonego Centrum Sztucznej Inteligencji w Pentagonie, o tak ryzykown\u0105 mo\u017cliwo\u015b\u0107, odpowiedzia\u0142: \u201eNie znajdziesz<\/a> wi\u0119kszego zwolennika integracji zdolno\u015bci AI w Departamencie Obrona, ale jest jeden obszar, w kt\u00f3rym si\u0119 zatrzymuj\u0119, a dotyczy on dowodzenia i kontroli j\u0105drowej. To \u201eostateczna decyzja cz\u0142owieka, kt\u00f3r\u0105 nale\u017cy podj\u0105\u0107\u201d, dlatego \u201emusimy by\u0107 bardzo ostro\u017cni\u201d. Doda\u0142, \u017ce bior\u0105c pod uwag\u0119 \u201eniedojrza\u0142o\u015b\u0107\u201d technologii, potrzebujemy \u201edu\u017co czasu na przetestowanie i ocen\u0119 [przed zastosowaniem sztucznej inteligencji w NC3]\u201d.<\/p>\n\n\n\n

Od tamtej pory, pomimo takich ostrze\u017ce\u0144, Pentagon \u015bciga\u0142 si\u0119 z rozwojem zautomatyzowanych system\u00f3w C2. W przed\u0142o\u017conym bud\u017cecie na 2024 r. Departament Obrony za\u017c\u0105da\u0142<\/a> 1,4 miliarda dolar\u00f3w na JADC2 w celu \u201eprzekszta\u0142cenia zdolno\u015bci bojowych poprzez dostarczanie przewagi informacyjnej z szybko\u015bci\u0105 trafno\u015bci we wszystkich domenach i partnerach\u201d. O o! A potem za\u017c\u0105da\u0142 kolejnych 1,8 miliarda dolar\u00f3w na inne rodzaje bada\u0144 AI zwi\u0105zanych z wojskiem.<\/p>\n\n\n\n

Urz\u0119dnicy Pentagonu przyznaj\u0105, \u017ce minie troch\u0119 czasu, zanim genera\u0142owie-roboty b\u0119d\u0105 dowodzi\u0107 ogromn\u0105 liczb\u0105 \u017co\u0142nierzy ameryka\u0144skich (i autonomiczn\u0105 broni\u0105) w bitwie, ale uruchomili ju\u017c kilka projekt\u00f3w maj\u0105cych na celu przetestowanie i udoskonalenie w\u0142a\u015bnie takich powi\u0105za\u0144. Jednym z przyk\u0142ad\u00f3w jest projekt konwergencji<\/a> armii<\/a>, obejmuj\u0105cego seri\u0119 \u0107wicze\u0144 terenowych zaprojektowanych w celu sprawdzenia poprawno\u015bci system\u00f3w sk\u0142adowych ABMS i JADC2. Na przyk\u0142ad w te\u015bcie przeprowadzonym w sierpniu 2020 r. na poligonie Yuma w Arizonie armia wykorzysta\u0142a r\u00f3\u017cne czujniki powietrzne i naziemne do \u015bledzenia symulowanych si\u0142 wroga, a nast\u0119pnie przetwarza\u0142a te dane za pomoc\u0105 komputer\u00f3w obs\u0142uguj\u0105cych sztuczn\u0105 inteligencj\u0119 w Joint Base Lewis McChord w stanie Waszyngton. Te komputery z kolei wydawa\u0142y instrukcje ogniowe dla artylerii naziemnej w Yumie. \u201eCa\u0142a ta sekwencja zosta\u0142a rzekomo wykonana w ci\u0105gu 20 sekund\u201d \u2014 donosi\u0142a<\/a> p\u00f3\u017aniej Kongresowa S\u0142u\u017cba Badawcza .<\/p>\n\n\n\n

Mniej wiadomo o ekwiwalencie sztucznej inteligencji Marynarki Wojennej, \u201eProject Overmatch\u201d, poniewa\u017c wiele aspekt\u00f3w jego programowania by\u0142o utrzymywanych w tajemnicy. Wed\u0142ug admira\u0142a Michaela Gildaya, szefa operacji morskich, Overmatch ma \u201e<\/a> umo\u017cliwi\u0107 marynarce, kt\u00f3ra roi si\u0119 od morza, dostarczaj\u0105c zsynchronizowane \u015bmierciono\u015bne i nie\u015bmierciono\u015bne efekty z bliska i daleka, z ka\u017cdej osi i ka\u017cdej domeny\u201d. Niewiele wi\u0119cej ujawniono na temat projektu.<\/p>\n\n\n\n

\u201eWojny b\u0142yskawiczne\u201d i wymieranie ludzko\u015bci<\/strong><\/p>\n\n\n\n

Pomimo ca\u0142ej tajemnicy otaczaj\u0105cej te projekty, mo\u017cna my\u015ble\u0107 o ABMS, JADC2, Convergence i Overmatch jako o elementach budulcowych przysz\u0142ej mega-sieci superkomputer\u00f3w przypominaj\u0105cej Skynet, zaprojektowanej do dowodzenia wszystkimi si\u0142ami ameryka\u0144skimi, w tym si\u0142ami nuklearnymi, w zbrojnych walka. Im bardziej Pentagon porusza si\u0119 w tym kierunku, tym bardziej zbli\u017camy si\u0119 do czasu, w kt\u00f3rym sztuczna inteligencja b\u0119dzie mia\u0142a w\u0142adz\u0119 nad wszystkimi ameryka\u0144skimi \u017co\u0142nierzami wraz z si\u0142ami przeciwnika i wszystkimi cywilami z\u0142apanymi w krzy\u017cowy ogie\u0144.<\/p>\n\n\n\n

Taka perspektywa powinna by\u0107 wystarczaj\u0105cym powodem do niepokoju. Na pocz\u0105tek rozwa\u017c ryzyko b\u0142\u0119d\u00f3w i b\u0142\u0119dnych oblicze\u0144 algorytm\u00f3w w sercu takich system\u00f3w. Jak ostrzegaj\u0105 nas najlepsi informatycy, algorytmy te s\u0105 zdolne do<\/a> wyj\u0105tkowo niewyt\u0142umaczalnych b\u0142\u0119d\u00f3w i, by u\u017cy\u0107 terminu AI, \u201ehalucynacji\u201d \u2013 czyli pozornie rozs\u0105dnych wynik\u00f3w, kt\u00f3re s\u0105 ca\u0142kowicie iluzoryczne. W tych okoliczno\u015bciach nietrudno sobie wyobrazi\u0107, \u017ce takie komputery \u201emaj\u0105 halucynacje\u201d przed nieuchronnym atakiem wroga i rozpoczynaj\u0105 wojn\u0119, kt\u00f3rej inaczej mo\u017cna by unikn\u0105\u0107.<\/p>\n\n\n\n

I nie jest to najgorsze z niebezpiecze\u0144stw, kt\u00f3re nale\u017cy wzi\u0105\u0107 pod uwag\u0119. W ko\u0144cu istnieje oczywiste prawdopodobie\u0144stwo, \u017ce przeciwnicy Ameryki podobnie wyposa\u017c\u0105 swoje si\u0142y w genera\u0142\u00f3w-robot\u00f3w. Innymi s\u0142owy, przysz\u0142e wojny b\u0119d\u0105 prawdopodobnie toczone przez jeden zestaw system\u00f3w sztucznej inteligencji przeciwko drugiemu, oba powi\u0105zane z broni\u0105 nuklearn\u0105, z ca\u0142kowicie nieprzewidywalnymi \u2013 ale potencjalnie katastrofalnymi \u2013 skutkami.<\/p>\n\n\n\n

Niewiele wiadomo (przynajmniej ze \u017ar\u00f3de\u0142 publicznych) o rosyjskich i chi\u0144skich wysi\u0142kach zmierzaj\u0105cych do zautomatyzowania ich wojskowych system\u00f3w dowodzenia i kontroli, ale uwa\u017ca si\u0119, \u017ce oba kraje rozwijaj\u0105 sieci por\u00f3wnywalne z JADC2 Pentagonu. Ju\u017c w 2014 roku Rosja zainaugurowa\u0142a Narodowe Centrum Kontroli Obrony (NDCC) w Moskwie, scentralizowane stanowisko dowodzenia do oceny globalnych zagro\u017ce\u0144 i inicjowania wszelkich niezb\u0119dnych dzia\u0142a\u0144 wojskowych, zar\u00f3wno o charakterze niej\u0105drowym, jak i nuklearnym. Podobnie jak JADC2, NDCC ma na celu<\/a> zbieranie informacji o ruchach wroga z wielu \u017ar\u00f3de\u0142 i dostarczanie starszym oficerom wskaz\u00f3wek dotycz\u0105cych mo\u017cliwych reakcji.<\/p>\n\n\n\n

M\u00f3wi si\u0119, \u017ce Chiny realizuj\u0105 jeszcze bardziej skomplikowane, cho\u0107 podobne przedsi\u0119wzi\u0119cie pod nazw\u0105 \u201eMulti-Domain Precision Warfare\u201d (MDPW). Wed\u0142ug raportu Pentagonu z 2022 r. na temat rozwoju chi\u0144skiej armii, jego wojsko, Armia Ludowo-Wyzwole\u0144cza, jest szkolona i wyposa\u017cana<\/a> do korzystania z czujnik\u00f3w i sieci komputerowych obs\u0142uguj\u0105cych sztuczn\u0105 inteligencj\u0119, aby \u201eszybko identyfikowa\u0107 kluczowe luki w systemie operacyjnym USA, a nast\u0119pnie \u0142\u0105czy\u0107 wsp\u00f3lne si\u0142y w ca\u0142ym domen, aby przeprowadzi\u0107 precyzyjne ataki na te luki\u201d.<\/p>\n\n\n\n

Wyobra\u017a sobie zatem przysz\u0142\u0105 wojn\u0119 mi\u0119dzy USA a Rosj\u0105 lub Chinami (lub obydwoma), w kt\u00f3rej JADC2 dowodzi wszystkimi si\u0142ami ameryka\u0144skimi, podczas gdy rosyjskie NDCC i chi\u0144skie MDPW dowodz\u0105 si\u0142ami tych kraj\u00f3w. We\u017a r\u00f3wnie\u017c pod uwag\u0119, \u017ce wszystkie trzy systemy mog\u0105 do\u015bwiadcza\u0107 b\u0142\u0119d\u00f3w i halucynacji. Jak bezpieczni b\u0119d\u0105 ludzie, gdy genera\u0142owie robot\u00f3w zdecyduj\u0105, \u017ce nadszed\u0142 czas, aby \u201ewygra\u0107\u201d wojn\u0119, bombarduj\u0105c wrog\u00f3w?<\/p>\n\n\n\n

Je\u015bli wydaje ci si\u0119 to dziwaczny scenariusz, pomy\u015bl jeszcze raz, przynajmniej wed\u0142ug kierownictwa Komisji Bezpiecze\u0144stwa Narodowego ds. Sztucznej Inteligencji, przedsi\u0119biorstwa upowa\u017cnionego przez Kongres, kt\u00f3remu przewodniczyli Eric Schmidt, by\u0142y szef Google, i Robert Work, by\u0142y zast\u0119pca sekretarza obrony. \u201eChocia\u017c Komisja uwa\u017ca, \u017ce \u200b\u200bodpowiednio zaprojektowane, przetestowane i wykorzystywane autonomiczne systemy uzbrojenia z obs\u0142ug\u0105 sztucznej inteligencji przynios\u0105 znaczne korzy\u015bci wojskowe, a nawet humanitarne, niekontrolowane globalne u\u017cycie takich system\u00f3w potencjalnie grozi niezamierzon\u0105 eskalacj\u0105 konfliktu i niestabilno\u015bci\u0105 kryzysow\u0105\u201d \u2013 potwierdzono<\/a> w swoim raporcie ko\u0144cowym. Stwierdzono, \u017ce takie niebezpiecze\u0144stwa mog\u0105 powsta\u0107 \u201ez powodu trudnych i nieprzetestowanych z\u0142o\u017cono\u015bci interakcji mi\u0119dzy systemami uzbrojenia opartymi na sztucznej inteligencji i autonomicznymi systemami uzbrojenia na polu bitwy\u201d \u2013 to znaczy, gdy sztuczna inteligencja walczy z sztuczn\u0105 inteligencj\u0105.<\/p>\n\n\n\n

Cho\u0107 mo\u017ce si\u0119 to wydawa\u0107 skrajnym scenariuszem, jest ca\u0142kiem mo\u017cliwe, \u017ce przeciwstawne systemy sztucznej inteligencji mog\u0105 wywo\u0142a\u0107 katastrofaln\u0105 \u201eflash war\u201d \u2013 militarny odpowiednik \u201eb\u0142yskawicznej katastrofy\u201d na Wall Street, kiedy ogromne transakcje przeprowadzane przez super wyrafinowane algorytmy handlowe wywo\u0142uj\u0105 panik\u0119 przed sprzeda\u017c\u0105. ludzie mog\u0105 przywr\u00f3ci\u0107 porz\u0105dek. W nies\u0142awnym \u201eFlash Crash\u201d z 6 maja 2010 r. handel sterowany komputerowo spowodowa\u0142 10% spadek warto\u015bci gie\u0142dy. Wed\u0142ug<\/a>Paul Scharre z Center for a New American Security, kt\u00f3ry jako pierwszy bada\u0142 to zjawisko, \u201emilitarny odpowiednik takich kryzys\u00f3w\u201d na Wall Street pojawia\u0142by si\u0119, gdy zautomatyzowane systemy dowodzenia przeciwnych si\u0142 \u201ezosta\u0142y uwi\u0119zione w kaskadzie eskalacji star\u0107\u201d. Zauwa\u017cy\u0142, \u017ce w takiej sytuacji \u201eautonomiczna bro\u0144 mo\u017ce w jednej chwili doprowadzi\u0107 do przypadkowej \u015bmierci i zniszczenia na katastrofaln\u0105 skal\u0119\u201d.<\/p>\n\n\n\n

Obecnie praktycznie nie ma \u015brodk\u00f3w zapobiegaj\u0105cych przysz\u0142ej katastrofie tego rodzaju, a nawet rozm\u00f3w mi\u0119dzy g\u0142\u00f3wnymi mocarstwami w celu opracowania takich \u015brodk\u00f3w. Jednak, jak zauwa\u017cy\u0142a Narodowa Komisja Bezpiecze\u0144stwa ds. Sztucznej Inteligencji, takie \u015brodki kontroli kryzysowej s\u0105 pilnie potrzebne, aby zintegrowa\u0107 \u201ezautomatyzowane wyzwalacze eskalacji\u201d z takimi systemami, \u201ekt\u00f3re zapobieg\u0142yby automatycznej eskalacji konfliktu\u201d. W przeciwnym razie jaka\u015b katastrofalna wersja III wojny \u015bwiatowej wydaje si\u0119 a\u017c nazbyt mo\u017cliwa. Bior\u0105c pod uwag\u0119 niebezpieczn\u0105 niedojrza\u0142o\u015b\u0107 takiej technologii oraz niech\u0119\u0107 Pekinu, Moskwy i Waszyngtonu do na\u0142o\u017cenia jakichkolwiek ogranicze\u0144 na uzbrojenie sztucznej inteligencji,<\/p>\n\n\n\n

\u015aled\u017a TomDispatch na Twitterze<\/a> i do\u0142\u0105cz do nas na Facebooku<\/a> . Sprawd\u017a najnowsze Dispatch Books, now\u0105 dystopijn\u0105 powie\u015b\u0107 Johna Feffera,<\/em> Songlands <\/a>(ostatnia z jego serii Splinterlands), powie\u015b\u0107 Beverly Gologorsky <\/em>Every Body Has a Story <\/a>oraz<\/em> A Nation Unmade by War Toma Engelhardta <\/a>, a tak\u017ce<\/em> In the Shadows Alfreda McCoya <\/a>of the American Century: The Rise and Decline of US Global Power<\/a> , Johna <\/em>Dowera<\/em> The Violent American Century: War and Terror Since World War II <\/a>oraz Ann Jones<\/em> <\/em><\/a><\/em><\/a><\/em><\/a><\/em><\/a><\/em>Byli \u017co\u0142nierzami: jak ranni wracaj\u0105 z wojen w Ameryce: nieopowiedziana historia<\/a> .<\/p>\n\n\n\n

Michael T. Klare, sta\u0142y bywalec <\/a>TomDispatch<\/em><\/a> , jest emerytowanym profesorem studi\u00f3w nad pokojem i bezpiecze\u0144stwem na pi\u0119ciu uczelniach w Hampshire College oraz starszym cz\u0142onkiem wizytuj\u0105cym Stowarzyszenia Kontroli Broni. Jest autorem 15 ksi\u0105\u017cek, z kt\u00f3rych najnowsza to All Hell Breaking Loose: The Pentagon’s Perspective on Climate Change<\/a><\/em> . Jest za\u0142o\u017cycielem Komitetu ds. Rozs\u0105dnej Polityki USA-Chiny<\/a> .<\/p>\n\n\n\n

Prawa autorskie 2023 Michael T. Klare<\/p>\n\n\n\n

Link \u017ar\u00f3d\u0142owy https:\/\/original.antiwar.com\/michael_klare\/2023\/07\/19\/the-military-dangers-of-ai-are-not-hallucinations\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

autorstwa\u00a0Michaela Klare’a\u00a0i\u00a0Toma Engelhardta, 20 lipca 2023 r Pierwotnie opublikowane na\u00a0TomDispatch\u00a0. Przyznaj\u0119 sobie uznanie za to, \u017ce znacznie wyprzedzi\u0142em sw\u00f3j czas. Po raz pierwszy zetkn\u0105\u0142em si\u0119 ze sztuczn\u0105 inteligencj\u0105 (AI) w 1968 roku, kiedy mia\u0142em zaledwie 24 lata i od samego pocz\u0105tku… <\/p>\n","protected":false},"author":2,"featured_media":3436,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"footnotes":""},"categories":[93],"tags":[],"class_list":["post-3435","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artykuly"],"acf":[],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t