Eksperci wojskowi nazywają broń autonomiczną lub autonomicznymi systemami uzbrojenia (AWS), które robią wszystko same: znajdują cel i wykonują zadanie bez interwencji człowieka. Jednymi z najbardziej znanych, do tej pory tylko w filmach science fiction i książkach AWS, są tzw. „zabójcze roboty”.
Elon Musk i ponad stu innych ekspertów w dziedzinie robotyki piszą o śmiertelnym zagrożeniu ze strony zabójczych robotów w otwartym liście ostrzegawczym do ONZ. Musk, Mustafa Suleiman, twórca firmy AI DeepMind Technologies, która jest teraz własnością Google, oraz 114 ekspertów z 26 krajów ostrzega ONZ, że wyścig zbrojeń w AWS może otworzyć puszkę Pandory, co może spowodować nieprzewidywalne i bardzo wielka krzywda ludzkości. Żądają zakazu rozwoju i wdrażania autonomicznych systemów uzbrojenia.
Wszyscy sygnatariusze są dobrze zorientowani w tej materii, ponieważ pracują w dziedzinie sztucznej inteligencji (AI). Są przekonani, że wprowadzenie zabójczych robotów do uzbrojenia armii krajów rozwiniętych będzie miało takie samo znaczenie dla spraw wojskowych, jak wynalezienie prochu i broni jądrowej, które nazywają pierwszą i drugą rewolucją w sprawach wojskowych. Wierzą, że AWS będzie trzecią rewolucją.
„Po osiągnięciu wysokiego poziomu autonomiczne systemy uzbrojenia przyniosą konflikty militarne na taki poziom, jakiego ludzkość nigdy wcześniej nie widziała” – czytamy w liście zbiorowym. - Co więcej, stanie się to bardzo szybko. AWS może stać się bronią terroru, bronią, którą despoci i terroryści będą używać przeciwko cywilom…”
Autorzy listu ostrzegają przed wciąż hipotetyczną bronią, która może niszczyć ludzi bez interwencji człowieka. Zbliża się dzień, w którym stanie się ona twardą rzeczywistością z kategorii fikcji i zmusi nas do szukania odpowiedzi na wiele trudnych pytań, począwszy od bezpiecznego zarządzania takimi systemami po problemy moralne i etyczne spowodowane „żelaznym” okrucieństwem i nieprzewidywalnością śmiercionośnych maszyn.
Musk wraz ze zwolennikami, którzy podzielają jego stanowisko w sprawie zagrożeń związanych z AWS dla ludzkości, podkreślają, że nie ma czasu na refleksję i dyskusję i należy działać natychmiast. „Mamy bardzo mało czasu", piszą w ONZ. „Kiedy puszka Pandory zostanie otwarta, bardzo trudno będzie ją zamknąć".
Czas na napisanie listu otwartego nie został wybrany przypadkowo. Eksperci chcieli zbiec się z rozpoczęciem Międzynarodowej Konferencji na temat Sztucznej Inteligencji (IJCAI) w Melbourne. Miał on zostać otwarty w poniedziałek 21 sierpnia, ale ONZ zdecydowało o przesunięciu go do listopada.
Pod koniec listu otwartego Elon Musk i jego koledzy wzywają ONZ do podwojenia wysiłków na rzecz stworzenia do listopada strategii ochrony planety przed zabójczymi robotami.
Wcześniej sam Musk ostrzegał przed niebezpieczeństwem pracy nad sztuczną inteligencją jako taką, ponieważ systemy na niej oparte mogą wymknąć się spod kontroli człowieka. Jednocześnie samochody z silnikami elektrycznymi Tesli jeżdżą już po drogach Stanów Zjednoczonych w trybie bezzałogowym, co nie jest pozbawione incydentów.
