Sprzeczny ATLAS
Na początku zeszłego roku armia Stanów Zjednoczonych obudziła świat wiadomością o rozwoju systemu ATLAS (Advanced Targeting and Lethality Aided System), który ma przenieść działania bojowe na nowy poziom automatyzacji. Inicjatywa wywołała mieszaną reakcję wśród zwykłych ludzi i światłych ekspertów wojskowych. Dużą winę ponieśli deweloperzy (wojskowe centrum C5ISR i Centrum Uzbrojenia Ministerstwa Obrony), którzy ze względu na eufoniczny skrót ATLAS umieścili w nazwie określenia „śmiertelność” i „ulepszone oznaczenie celu”.. Przerażeni opowieściami o zbuntowanych robotach, Amerykanie skrytykowali inicjatywę wojskową, twierdząc, że jest ona sprzeczna z etyką wojny. W szczególności wielu odniosło się do dyrektywy Pentagonu 3000.09, która zakazuje przeniesienia prawa do otwarcia ognia na system automatyczny. Według protestujących integracja sztucznej inteligencji i uczenia maszynowego z pojazdami naziemnymi może doprowadzić do pochopnych ofiar wśród cywilów i zaprzyjaźnionych żołnierzy. Wśród krytyków znaleźli się całkiem szanowani naukowcy – na przykład Stuart Russell, profesor informatyki na Uniwersytecie Kalifornijskim w Berkeley.
Twórcy dość rozsądnie wyjaśnili, że ATLAS nie ma nic wspólnego z hipotetycznymi „zabójczymi robotami”, o których ludzkość marzy od pierwszego „Terminatora”. System opiera się na algorytmach wyszukiwania celu za pomocą różnych systemów czujników, selekcjonowaniu najważniejszych z nich i informowaniu o tym operatora. Obecnie w USA testowany jest transporter opancerzony M113 ze zintegrowanym systemem ATLAS. Operatorowi broni algorytmy sztucznej inteligencji wyświetlają na ekranie nie tylko najgroźniejsze cele, ale także rekomendują rodzaj amunicji, a nawet liczbę strzałów, aby zagwarantować porażkę. Według twórców ostateczna decyzja o trafieniu w cel należy do strzelca i to on jest odpowiedzialny za wynik. Głównym zadaniem ATLASU w wersji pancernej jest zwiększenie szybkości reakcji na potencjalne zagrożenie – czołg (BMP lub transporter opancerzony) średnio trzy razy szybciej otwiera ogień do celu z automatycznym asystentem. Oczywiście pojazd opancerzony może efektywniej współpracować z celami grupowymi. W tym przypadku sztuczna inteligencja błyskawicznie wybiera cele w kolejności zagrożenia czołgiem, samodzielnie kieruje bronią i rekomenduje rodzaj amunicji. Od początku sierpnia na poligonie w Aberdeen testowane są różne typy pojazdów opancerzonych ze zintegrowanymi systemami ATLAS. Na podstawie wyników prac zostanie podjęta decyzja o testach wojskowych, a nawet o przyjęciu takiej broni.
Czołgi są teraz jednym z najbardziej konserwatywnych celów na polu bitwy. Wiele z nich nie uległo zasadniczej poprawie od dziesięcioleci, pozostając w latach 70-80 ubiegłego wieku pod względem rozwoju technicznego. Często ta bezwładność związana jest z powszechnym stosowaniem zbiorników w poszczególnych krajach. Aby poważnie zmodernizować wielotysięczną armię pancerną, potrzebne są ogromne zasoby. Ale środki przeciwdziałania czołgom rozwijają się skokowo. Doskonałym przykładem jest obecny konflikt w Górskim Karabachu, kiedy tureckie i izraelskie drony są niezwykle skuteczne przeciwko ormiańskim czołgom. Jeśli zignorujemy straty, kalkulacja stosunku ceny do wydajności takiej broni przeciwpancernej czyni z nich po prostu królów na polu bitwy. Oczywiście ATLAS nie chroni przed zagrożeniami z powietrza, ale może być dobrym narzędziem do wczesnego ostrzegania o niebezpiecznych dla czołgów celach, takich jak załogi ppk czy pojedyncze granatniki.
Pentagon traktuje system ATLAS nie jako pojedynczą strukturę wojskową, ale jako część dużego Projektu Konwergencja. Ta inicjatywa powinna przenieść świadomość żołnierzy na wyższy poziom. Poprzez uczenie maszynowe, sztuczną inteligencję i bezprecedensowe nasycenie pola bitwy dronami Amerykanie mają nadzieję na poważne zwiększenie zdolności bojowych swoich jednostek. Kluczowa idea nie jest nowa - połączyć wszystkie obiekty na polu bitwy wspólną strukturą informacyjną i zdigitalizować otaczającą rzeczywistość. Na razie ATLAS nie jest w pełni uwzględniony w Project Convergence ze względu na brak umiejętności wymiany danych z „sąsiadami”, ale w przyszłości sztuczne mózgi czołgu staną się wspólną własnością. Nawiasem mówiąc, w reklamie projektu Chiny i Rosja są oznaczone jako jednoznaczne cele wojskowe.
Brak zaufania do elektroniki
Wojska amerykańskie mają już negatywne doświadczenia z uzbrojonymi systemami robotów. W 2007 roku do Iraku wysłano trzy niewielkie platformy gąsienicowe SWORDS (skrót od Special Weapons Observation Reconnaissance Detection System), uzbrojone w karabiny maszynowe M249. I choć nie były to w pełni autonomiczne pojazdy, to podczas patrolowania ulic Bagdadu zdołały wystraszyć żołnierzy okresowymi chaotycznymi ruchami luf karabinów maszynowych. Pentagonowi wydawało się to oznaką nieprzewidywalności i śledzonych strzelców maszynowych powoli odsyłano do domu. W 2012 roku wydano dyrektywę, zgodnie z którą zautomatyzowane i zdalnie sterowane systemy uzbrojenia nie powinny strzelać samodzielnie. Formalnie ATLAS został opracowany w całości w ramach tego przepisu, ale nie mniej pytań o innowacyjność. Niektórzy eksperci (w szczególności Michael S. Horowitz, adiunkt nauk politycznych na Uniwersytecie Pensylwanii) zarzucają nowość nadmiernego uproszczenia procesu trafienia w cel. W rzeczywistości ten poziom automatyzacji wyszukiwania i wyznaczania celów zamienia walkę w zwykłą grę, taką jak World of Tanks dla strzelca. W systemie naprowadzania ATLAS cel priorytetowy jest podświetlony na czerwono, rozlega się alarm, a technika, jak tylko może, stymuluje osobę do otwarcia ognia. W ekstremalnych warunkach bojowych jest mało czasu na podjęcie decyzji o strzelaniu, a wtedy „inteligentny robot” dopinguje. W rezultacie wojownik po prostu nie ma czasu na krytyczną ocenę sytuacji, a on, nie rozumiejąc, otwiera ogień. Należy ocenić, jak ATLAS prawidłowo dobierał cele po strzelaniu. W jakim stopniu takie podejście jest etyczne i czy jest zgodne z osławioną amerykańską dyrektywą? Nawiasem mówiąc, Microsoftowi udało się już spotkać się z publicznym potępieniem za taki montowany na hełmie system wyznaczania celów dla wojska, włącznie z bojkotem użytkowników. W Stanach Zjednoczonych od wielu lat toczy się debata na temat robotyzacji systemów wykrywania i naprowadzania. Jako przykład krytycy przytaczają przykłady błędów systemu autopilota na drogach publicznych, które już doprowadziły do ofiar. Jeśli nawet po przejechaniu milionów kilometrów autopiloty nie stały się w 100% niezawodne, to cóż możemy powiedzieć o zupełnie świeżym ATLASIE, który może popchnąć czołgistów do strzelania do niewinnej osoby pociskiem 120 mm. Współczesne wojny są teraz tak krwawe właśnie dlatego, że wojsko zyskało zdolność do zdalnego zabijania, chowając się za niezawodną barierą. Przykład wspomnianego Górnego Karabachu po raz kolejny potwierdza tę prawdę. Jeśli myśliwiec zostanie również pozbawiony możliwości krytycznej oceny parametrów celu (do tego właśnie prowadzi ATLAS), ofiar może być znacznie więcej, a wina za zabójstwo może zostać już częściowo przerzucona na maszynę.
I wreszcie głównym argumentem przeciwko systemom typu ATLAS wśród komentatorów pacyfistycznych był praktycznie brak zakazu otwierania ognia automatycznego. Teraz dopiero wymogi etyczne Pentagonu (które też mają sporo zastrzeżeń) zabraniają pełnego zautomatyzowania procesu zabójstwa. Wraz z wprowadzeniem ATLASU nie będzie ku temu żadnych przeszkód technicznych. Czy armia amerykańska będzie w stanie zrezygnować z tak obiecującej okazji, aby jeszcze bardziej przyspieszyć czas reakcji na zagrożenie i uchronić myśliwce przed atakiem?
