Radio Opole » Kraj i świat
2024-05-01, 07:10 Autor: PAP

USA/ "Foreign Affairs": sztuczna inteligencja używana przez wojsko może wywołać wojnę atomową

Wojsko USA nie może ufać sztucznej inteligencji (AI), ponieważ modele przez nią wykorzystywane podejmują też złe decyzje i mogą wywołać wojnę atomową. Należy ograniczyć korzystanie z tych technologii w podejmowaniu ważnych decyzji w sytuacjach bojowych - ocenia magazyn "Foreign Affairs".

Obecnie żołnierze amerykańscy używają systemy wyposażone w sztuczną inteligencję m.in. do wybierania celów należących do rebeliantów Huti w Jemenie.


LLM-y (large language model, ang. duże modele językowe) to systemy AI wyszkolone na dużych zbiorach danych i generujące tekst w oparciu o to, co zostało napisane wcześniej, takie jak np. ChatGPT. Zarówno Korpus Piechoty Morskiej Stanów Zjednoczonych, jak i Siły Powietrzne USA wykorzystują LLM-y do gier wojennych, planowania wojskowego i podstawowych zadań administracyjnych.


Na łamach "Foreign Affair" Max Lamparth i Jacquelyn Schneider z Centrum Bezpieczeństwa Międzynarodowego i Współpracy (CISAC) na Uniwersytecie Stanforda przekonują, że choć można stworzyć sprawne modele językowe, to nie stanowią one zamienników decyzji podejmowanych przez ludzi.


"Dzieje się tak dlatego, że LLM, niezależnie od tego, jak dobrze wyszkolony, nie potrafi ani abstrahować, ani rozumować jak człowiek. (...) LLM-y mogą jedynie naśladować język i rozumowanie, wyciągając korelacje i pojęcia z danych. Mogą często poprawnie naśladować ludzką komunikację, ale bez umiejętności internalizowania i z powodu olbrzymiego rozmiaru modelu nie ma gwarancji, że ich wybory będą bezpieczne albo etyczne" - uważają autorzy.


Podkreślają oni, że z tego samego powodu nie można przewidzieć, co LLM zrobi przy podejmowaniu decyzji wysokiego ryzyka.


W ramach projektu badawczego Lamparth i Schneider sprawdzali, jak duże modele językowe zachowują się w symulowanych grach wojennych, a szczególnie czy decydują się one na eskalację konfliktu.


W badaniu, w którym porównano LLM-y z wiodących firm z Doliny Krzemowej, takich jak Anthropic, Meta i OpenAI dostrzeżono, że "LLM-y zachowywały się różnie w zależności od wersji, od danych, na podstawie których zostały wyszkolone oraz wyborów, których dokonali ich twórcy".


"Jednak pomimo tych różnic odkryliśmy, że wszystkie te LLM-y zdecydowały się na eskalację konfliktu i preferowały wyścigi zbrojeń, starcie, a nawet użycie broni atomowej" - podkreślają badacze.


W tym ostatnim przypadku uzasadnienie przedstawione przez model brzmiało: „Wiele krajów posiada broń atomową. Niektórzy mówią, że należy je rozbroić, inni lubią przybierać pozy. Mamy ją! Skorzystajmy z niej.”


Zdaniem autorów jeśli siły zbrojne przy podejmowaniu decyzji korzystają z modeli językowych, powinny one lepiej rozumieć sposób działania LLM-ów i znaczenie różnic w ich projektowaniu.


"Wojskowy użytkownik powinien być tak samo zaznajomiony z LLM, jak inny wojskowy obsługujący radar, czołg lub pocisk rakietowy" - zaznaczają.


Jednocześnie LLM-y mogłyby wykonywać w wojsku zadania wymagające przetwarzania dużych ilości danych w bardzo krótkim czasie, co można wykorzystać do usprawnienia procesu decyzyjnego lub usprawnienia funkcji biurokratycznych.


Zdaniem autorów prace z LLM-ami są obiecujące w zakresie planowania wojskowego, dowodzenia i wywiadu, a modele te mogą być w stanie zautomatyzować zadania takie jak logistyka i ewaluacja. (PAP)


baj/ ap/


Kraj i świat

2024-06-14, godz. 20:20 Ekstraklasa piłkarska - Stal pozyskała dwóch zawodników Napastnik Ravve Assayag i pomocnik Fryderyk Gerbowski zostali zawodnikami ekstraklasowej PGE FKS Stali Mielec - poinformował w piątek klub z Podkarpacia. Ten… » więcej 2024-06-14, godz. 20:20 ME w kajakarstwie - cztery medale Polaków (wyniki) Cztery medale, w tym dwa złote, zdobyli polscy reprezentanci w pierwszym dniu finałów mistrzostw Europy w kajakarstwie rozgrywanych w węgierskim Szegedzie… » więcej 2024-06-14, godz. 20:20 MEN ogłosiło priorytety polityki oświatowej państwa na rok szkolny 2024/2025 Edukacja prozdrowotna, edukacja obywatelska, edukacja proobronna, wspieranie dobrostanu uczniów i ich zdrowia psychicznego, kształtowanie myślenia analitycznego… » więcej 2024-06-14, godz. 20:20 USA/ Izba Reprezentantów przyjęła plan wydatków na obronę wart niemal 900 mld dol. Izba Reprezentantów przegłosowała w piątek coroczną ustawę wyznaczającą plan wydatków na obronność opiewającą na 895 mld dolarów. W ustawie znalazło… » więcej 2024-06-14, godz. 20:20 W. Brytania/ Księżna Kate: jest postęp, ale leczenie potrwa jeszcze kilka miesięcy Brytyjska księżna Kate poinformowała w piątek, że są postępy w leczeniu jej nowotworu, w związku z czym weźmie udział w sobotniej paradzie wojskowej… » więcej 2024-06-14, godz. 20:10 Włochy/ Przywódcy G7: będziemy wspierać Ukrainę tak długo, jak będzie to konieczne (krótka) Przywódcy G7 zebrani na szczycie w Apulii na południu Włoch zadeklarowali 'solidarność, by wspierać walkę Ukrainy o wolność i jej odbudowę tak długo… » więcej 2024-06-14, godz. 20:00 PŚ w kajakarstwie górskim - siódme miejsce Pasiuta, Zwolińska poza finałem Michał Pasiut zajął 7. miejsce w konkurencji K1 rozgrywanych na krakowskim torze Kolna zawodów Pucharu Świata w kajakarstwie górskim. Klaudia Zwolińska… » więcej 2024-06-14, godz. 19:50 Węgry/ Ekspert: Stoltenberg osiągnął maksimum tego, co NATO może oczekiwać od Orbana Podczas swojej wizyty w Budapeszcie sekretarz generalny NATO Jens Stoltenberg osiągnął maksimum tego, czego Sojusz może oczekiwać od premiera Węgier Viktora… » więcej 2024-06-14, godz. 19:50 Kanada dostarczy Ukrainie 900 dronów, zwiększy wydatki na obronność do 2 proc. PKB Ottawa dostarczy Ukrainie 900 dronów, zwiększy swoją obecność na Łotwie, podniesie nakłady na obronność do 2 proc. PKB - poinformował w piątek minister… » więcej 2024-06-14, godz. 19:50 Szef MON: Siły Zbrojne RP liczą już ponad 200 tys. żołnierzy w szyku Siły Zbrojne RP liczą już ponad 200 tys. żołnierzy w szyku; to ważny krok dla bezpieczeństwa Polski oraz Sojuszu Północnoatlantyckiego - podkreślił… » więcej
1234567
Ta strona używa ciasteczek (cookies), dzięki którym nasz serwis może działać lepiej. Dowiedz się więcej »