Termin “czarnej skrzynki” w odniesieniu do sztucznej inteligencji odnosi się do trudności zrozumienia, w jaki sposób SI podejmuje swoje decyzje. Oznacza to, że mamy dane wejściowe i wynik działań, ale nie wiemy, w jaki sposób SI uzyskała określony rezultat. Taka cecha, występująca często w tzw. głębokich sieciach neuronowych (które są wyjątkowo rozbudowane), powoduje, że SI jest z natury nieaudytowalna. W przypadku wątpliwości, co do uzyskanego wyniku, nie ma żadnego sposobu jego weryfikacji.
Czytaj też: Sztuczna inteligencja vs. człowiek. Pierwsza taka walka powietrzna w historii
Naukowcy z Xian stworzyli wojskową sztuczną inteligencję, która może wyjaśnić decyzje podejmowane podczas bitew. Zgodnie z artykułem w South China Morning Post (SCMP), inteligentny system walki powietrznej może zapewnić wgląd w swoje strategiczne rozumowanie, zwiększając ludzkie pojmowanie i współpracę w krytycznych operacjach wojskowych. To by oznaczało przełom w rozwoju sztucznej inteligencji i potencjalne rozwiązanie problemu “czarnej skrzynki”.
Chińska sztuczna inteligencja lepsza od amerykańskiej?
Chiny nie są pierwszym krajem, które integrują systemy sztuczne inteligencji z walką powietrzną – wcześniej robili to choćby Amerykanie. Podczas gdy Chińczycy prowadzili na żywo starcia powietrzne między dronami sterowanymi przez ludzi i dronami sterowanymi przez SI, amerykańscy piloci testowi rozpoczęli już próby wykorzystania tych systemów na polu bitwy.
Czytaj też: Sztuczna inteligencja wskaże, kto jest wrogiem Chin. Coraz bliżej przekroczenia niebezpiecznej granicy
To, czy Waszyngton przezwyciężył te same wyzwania związane ze sztuczną inteligencją w myśliwcu F-16 wyposażonym w sztuczną inteligencję, pozostaje niejasne, co kontrastuje z deklarowanym sukcesem Pekinu. Niemniej jednak pionierskie wysiłki chińskich naukowców mogą na nowo zdefiniować krajobraz działań wojennych.
Nowa metoda wykorzystuje możliwe do wytłumaczenia uczenie przez wzmacnianie (uczenie posiłkowane, RL). Jest to jeden z trzech głównych nurtów uczenia maszynowego, którego celem jest interakcja ze środowiskiem na podstawie zebranych informacji. W RL nie przygotowuje się zestawu danych uczących, tylko środowisko, z którego model będzie zbierał dane automatyczne.
Chińska sztuczna inteligencja stworzona przez prof. Zhanga Donga z Northwestern Polytechnical University w Xian wykracza poza konwencjonalne programowanie. W przeciwieństwie do tradycyjnych systemów SI, ten może wyjaśnić każdą instrukcję wysłaną do kontrolera lotu za pomocą prostego języka, surowych danych i wykresów. Może także wyjaśnić znacznie każdej dyrektywy, bazując na aktualnej sytuacji bojowej i realizowanej strategii.
Technologia ta stwarza dla pilotów-ludzi nową możliwość współpracy z sztuczną inteligencją. Na przykład w podsumowaniu po symulacji doświadczony pilot może zidentyfikować wskazówki stojące za błędami sztucznej inteligencji. Usprawniony proces przekazywania informacji zwrotnych umożliwia następnie sztucznej inteligencji zrozumienie sugestii ludzi i uniknięcie podobnych błędów w przyszłych bitwach.
Ten typ sztucznej inteligencji, zdolny do prawdziwej komunikacji z ludźmi, może osiągnąć niemal idealny współczynnik zwycięstw po zaledwie 20 000 rundach szkolenia bojowego. Dla kontrastu, tradycyjna sztuczna inteligencja “czarnej skrzynki” osiąga współczynnik wygranych na poziomie 90 proc. dopiero po 50 000 rundach i ma trudności z dalszym postępem.
Chińscy naukowcy na razie testują swój system SI na symulatorach naziemnych, ale planowane jest rozszerzenie działań o “bardziej realistyczne scenariusze”. Sytuacja jest rozwojowa, chociaż chińska armia oficjalnie niczego nie zakomunikowała.