Broń autonomiczna, określana często jako autonomiczne śmiercionośne systemy uzbrojenia (lethal autonomous weapons systems, LAWS), różni się od innych broni tym, że jest w stanie wybierać i atakować cele samodzielnie, bez ludzkiej interwencji, wykorzystując do zbierania i przetwarzania informacji sensory i oprogramowanie oparte na algorytmach lub sztuczną inteligencję (AI). Mogą to być np. bezzałogowe statki powietrzne, okręty, a nawet roboty lądowe. Ich zalety to m.in. działanie szybsze niż w przypadku urządzeń z ludzkim operatorem czy większa swoboda wykorzystania do bardziej niebezpiecznych misji w związku z brakiem konieczności angażowania zasobów ludzkich. W ostatnich latach toczy się wśród państw dyskusja na temat regulacji użycia tej broni.

Główne wyzwania

 Spory budzą zwłaszcza dwie kwestie. Pierwsza to definicja broni autonomicznej. Państwa są w zasadzie zgodne, że nie jest to broń mająca tylko niektóre zautomatyzowane funkcje, np. namierzanie celów albo autopilota. Jednak np. Francja i Chiny nalegają, by za autonomiczną uważać tylko broń mającą zdolność adaptacji i uczenia się, a więc bazującą na AI. Inne państwa, w tym USA, nie ograniczają tak jej definicji. Różnice występują też co do zakresu kontroli, jaki mogą mieć ludzie, by broń mogła być uważana za autonomiczną, a zarazem można było jej używać zgodnie z obowiązującym prawem humanitarnym. Francja czy Niemcy sprzeciwiają się broni, „która jest zupełnie poza ludzką kontrolą” (w pełni autonomiczna), Chiny naciskają, że musi istnieć możliwość wycofania jej z pola walki przez człowieka, a USA dopuszczają brak tej możliwości. Z kolei Rosja uznaje koncepcję ludzkiej kontroli za upolitycznioną i mało przydatną przy regulacji.

Drugą kluczową kwestią jest to, czy broń autonomiczna powinna zostać zakazana. Zwolennicy jak najszerszego zakazu twierdzą m.in., że maszyny nie powinny podejmować samodzielnie decyzji o życiu i śmierci ludzi, nawet żołnierzy drugiej strony. Stwarza to potencjalne niebezpieczeństwo wymknięcia się tej broni spod ludzkiej kontroli i ogranicza moralną odpowiedzialność dowódców politycznych i wojskowych za straty ludzkie, zmniejszając presję na rozwiązywanie konfliktów. Rodzi też problem np. mylenia cywilów z żołnierzami i traktowania ich jako celów wojskowych w wyniku błędów lub niedoskonałości oprogramowania, co może prowadzić do poważnych naruszeń prawa humanitarnego, m.in. do zbrodni wojennych. Jednocześnie powstaje pytanie, czy i jak autor lub producent wadliwego oprogramowania w takich sytuacjach powinien odpowiadać prawnie. Zwolennikami możliwie szerokiego zakazu jest większość państw Ameryki Łacińskiej i wiele państw z Afryki, Azji i Bliskiego Wschodu, ale też np. Austria, Belgia i Szwecja. Opowiadają się za prawnie wiążącym dokumentem, który zawierałby prewencyjny zakaz, np. protokołem do Konwencji o zakazie lub ograniczeniu użycia pewnych broni konwencjonalnych (CCW) lub oddzielnym traktatem.

Przeciwnicy zakazu twierdzą, że broń autonomiczna pozwala zmniejszyć śmiertelność (bo ogranicza zapotrzebowanie na siłę żywą) oraz wyeliminować z pola walki przemoc seksualną i czynnik emocjonalny, będący często podłożem zbrodni wojennych. Ich zdaniem, choć maszyn nie da się pociągać do odpowiedzialności za zbrodnie czy pomyłki, odpowiedzialni pozostają dowódcy, którzy wydali rozkaz ich użycia i określili jego zakres albo nie powstrzymali działań sprzecznych z prawem (w tym kontekście niezbędne jest jednak zapewnienie technicznych możliwości przerwania działania broni w dowolnym momencie). Z kolei w razie hipotetycznej utraty kontroli nad taką bronią za odpowiedzialne za szkody można byłoby uznać państwo, do którego ona należy – na tej samej zasadzie, jak za szkody wyrządzone przez obiekty kosmiczne, a więc bez względu na winę. Do grupy zwolenników co najwyżej regulacji broni autonomicznej, a nie zakazu, należy m.in. wiele państw europejskich oraz wszystkie państwa, w których taka broń jest rozwijana i wdrażana w siłach zbrojnych. Jednak nawet zdania liderów w dziedzinie rozwoju tej broni mocno się różnią. Niektórzy, jak Australia, Izrael, Rosja czy Wielka Brytania, nie widzą potrzeby dalszej regulacji. Inni (w tej grupie jest Polska) preferują określenie podstawowych standardów np. w protokole do CCW albo niewiążącej prawnie deklaracji politycznej (Francja, Niemcy) czy kodeksie postępowania (USA). Z kolei stanowiska części producentów przeciwnych zakazowi, jak Iran, Turcja czy Korea Południowa, są mniej czytelne.

Formaty międzynarodowe

 Dyskusja na temat broni autonomicznej na szczeblu międzynarodowym trwa od publikacji w 2013 r. raportu specjalnego sprawozdawcy Rady Praw Człowieka ONZ prezentującego zagrożenia związane z jej wykorzystywaniem. Grupa organizacji pozarządowych z udziałem m.in. Human Rights Watch zainicjowała wtedy kampanię „Powstrzymać zabójcze roboty” (Stop Killer Robots), apelując o zakaz rozwoju i użycia takiej broni. Na posiedzeniu stron CCW (126 państw) zapadła zaś decyzja o zwołaniu nieformalnej grupy ekspertów, która zajęłaby się problemem użycia broni autonomicznej. Zaczęła ona coroczne spotkania od 2014 r., a w 2017 r. stała się sformalizowaną Grupą Ekspertów Rządowych (GGE). W 2019 r. GGE ogłosiła 11 zasad przewodnich, mających stanowić podstawę dla dalszej regulacji. Jednak potem nastąpił impas, a od 2022 r. świadomie blokuje go Rosja (w przypadku negocjacji na forum CCW wystarczy do tego sprzeciw jednego państwa).

Problem jest też podnoszony na innych forach. W 2018 r. Parlament Europejski przyjął rezolucję dotyczącą broni autonomicznej, wzywając Unię i jej członków do działań na rzecz przyjęcia poza ramami CCW traktatu zakazującego użycia tej broni. W rezolucji z lutego 2022 r. zaapelował jednak już tylko o dużo węższy zakaz „broni w pełni autonomicznej” i wyraził poparcie dla prac prowadzonych na forum CCW. To sugeruje wzrost świadomości co do znaczenia tej broni dla przynajmniej części państw Unii. W Planie implementacji autonomii z października 2022 r. proces w ramach CCW poparło także NATO. Oświadczyło przy tym, że choć do broni autonomicznej ma pełne zastosowanie obowiązujące prawo humanitarne, Sojusz będzie rozwijać ogłoszone przez siebie w 2021 r. Zasady odpowiedzialnego użycia takiej broni, m.in. podkreślając konieczność jasnej odpowiedzialności człowieka za jej stosowanie. Z kolei Zgromadzenie Parlamentarne Rady Europy w rezolucji dotyczącej broni autonomicznej ze stycznia 2023 r. podkreśliło, że ludzie pozostają moralnie i prawnie odpowiedzialni za jej użycie, i wyraziło zdanie, że takiej odpowiedzialności można dochodzić nie tylko wobec osób decydujących o jej wykorzystaniu, ale także wobec projektantów, wytwórców lub programistów. Określiło też broń pozbawioną jakiejkolwiek ludzkiej kontroli jako nielegalną i wezwało do regulacji pozostałych rodzajów broni w formie protokołu do CCW lub oddzielnego traktatu.

Wnioski i perspektywy

 Dopóki akceptacji zakazu broni autonomicznej odmawiają państwa prowadzące nad nią zaawansowane prace i częściowo wdrażające ją do użytku, m.in. Chiny, Izrael, Rosja i USA, szanse na wprowadzenie go są nikłe. Gdyby do tego doszło, prawdopodobnie te państwa odmówiłyby podporządkowania się mu (jak traktatom zakazującym użycia min przeciwpiechotnych z 1997 r. czy amunicji kasetowej z 2008 r.). Bez konsensusu z ich udziałem trudno będzie też osiągnąć uniwersalne porozumienie w sprawie regulacji broni autonomicznej, a współpraca między nimi jest obecnie bardzo trudna (m.in. z powodu wojny na Ukrainie i napięć wokół Tajwanu). Należy więc raczej spodziewać się dalszej standaryzacji zasad rozwoju i użycia broni autonomicznej w wymiarze regionalnym, także w ramach organizacji międzynarodowych, oraz sojuszniczym, w tym w NATO. Może ona następnie posłużyć jako podstawa dla bardziej szczegółowych rozwiązań uniwersalnych. Jednocześnie z dużym prawdopodobieństwem debata w tej materii pozostanie zasadniczo oddzielna od tej o regulacji cywilnego wykorzystania AI.

Z punktu widzenia Polski, jako państwa wschodniej flanki NATO potencjalnie bardziej narażonego na skutki użycia broni autonomicznej, wyjaśnienie wątpliwości prawnych byłoby krokiem naprzód. Wobec obstrukcji procesu CCW przez Rosję wskazane jest wspieranie wypracowania wspólnej interpretacji zasad stosowania obowiązujących norm do broni autonomicznej w wymiarze europejskim i transatlantyckim.