Radio Opole » Kraj i świat
2024-05-01, 07:10 Autor: PAP

USA/ "Foreign Affairs": sztuczna inteligencja używana przez wojsko może wywołać wojnę atomową

Wojsko USA nie może ufać sztucznej inteligencji (AI), ponieważ modele przez nią wykorzystywane podejmują też złe decyzje i mogą wywołać wojnę atomową. Należy ograniczyć korzystanie z tych technologii w podejmowaniu ważnych decyzji w sytuacjach bojowych - ocenia magazyn "Foreign Affairs".

Obecnie żołnierze amerykańscy używają systemy wyposażone w sztuczną inteligencję m.in. do wybierania celów należących do rebeliantów Huti w Jemenie.


LLM-y (large language model, ang. duże modele językowe) to systemy AI wyszkolone na dużych zbiorach danych i generujące tekst w oparciu o to, co zostało napisane wcześniej, takie jak np. ChatGPT. Zarówno Korpus Piechoty Morskiej Stanów Zjednoczonych, jak i Siły Powietrzne USA wykorzystują LLM-y do gier wojennych, planowania wojskowego i podstawowych zadań administracyjnych.


Na łamach "Foreign Affair" Max Lamparth i Jacquelyn Schneider z Centrum Bezpieczeństwa Międzynarodowego i Współpracy (CISAC) na Uniwersytecie Stanforda przekonują, że choć można stworzyć sprawne modele językowe, to nie stanowią one zamienników decyzji podejmowanych przez ludzi.


"Dzieje się tak dlatego, że LLM, niezależnie od tego, jak dobrze wyszkolony, nie potrafi ani abstrahować, ani rozumować jak człowiek. (...) LLM-y mogą jedynie naśladować język i rozumowanie, wyciągając korelacje i pojęcia z danych. Mogą często poprawnie naśladować ludzką komunikację, ale bez umiejętności internalizowania i z powodu olbrzymiego rozmiaru modelu nie ma gwarancji, że ich wybory będą bezpieczne albo etyczne" - uważają autorzy.


Podkreślają oni, że z tego samego powodu nie można przewidzieć, co LLM zrobi przy podejmowaniu decyzji wysokiego ryzyka.


W ramach projektu badawczego Lamparth i Schneider sprawdzali, jak duże modele językowe zachowują się w symulowanych grach wojennych, a szczególnie czy decydują się one na eskalację konfliktu.


W badaniu, w którym porównano LLM-y z wiodących firm z Doliny Krzemowej, takich jak Anthropic, Meta i OpenAI dostrzeżono, że "LLM-y zachowywały się różnie w zależności od wersji, od danych, na podstawie których zostały wyszkolone oraz wyborów, których dokonali ich twórcy".


"Jednak pomimo tych różnic odkryliśmy, że wszystkie te LLM-y zdecydowały się na eskalację konfliktu i preferowały wyścigi zbrojeń, starcie, a nawet użycie broni atomowej" - podkreślają badacze.


W tym ostatnim przypadku uzasadnienie przedstawione przez model brzmiało: „Wiele krajów posiada broń atomową. Niektórzy mówią, że należy je rozbroić, inni lubią przybierać pozy. Mamy ją! Skorzystajmy z niej.”


Zdaniem autorów jeśli siły zbrojne przy podejmowaniu decyzji korzystają z modeli językowych, powinny one lepiej rozumieć sposób działania LLM-ów i znaczenie różnic w ich projektowaniu.


"Wojskowy użytkownik powinien być tak samo zaznajomiony z LLM, jak inny wojskowy obsługujący radar, czołg lub pocisk rakietowy" - zaznaczają.


Jednocześnie LLM-y mogłyby wykonywać w wojsku zadania wymagające przetwarzania dużych ilości danych w bardzo krótkim czasie, co można wykorzystać do usprawnienia procesu decyzyjnego lub usprawnienia funkcji biurokratycznych.


Zdaniem autorów prace z LLM-ami są obiecujące w zakresie planowania wojskowego, dowodzenia i wywiadu, a modele te mogą być w stanie zautomatyzować zadania takie jak logistyka i ewaluacja. (PAP)


baj/ ap/


Kraj i świat

2024-06-03, godz. 15:10 Lewica postuluje o co najmniej 3,5 tys. zł netto dla każdego stażysty i praktykanta Chcemy wprowadzenia płatnych staży i praktyk w całej UE; wynagrodzenie, co najmniej w wysokości 3,5 tys. zł netto, dla każdego praktykanta i stażysty -… » więcej 2024-06-03, godz. 15:00 MSZ Izraela: nasza ambasada w Rumunii zaatakowana koktajlem Mołotowa Mężczyzna obrzucił koktajlem Mołotowa budynek ambasady Izraela w Rumunii - poinformowało w poniedziałek ministerstwo spraw zagranicznych Izraela. Jako dodano… » więcej 2024-06-03, godz. 15:00 Scheuring-Wielgus o sprawie "Red is Bad": PiS miało jeden cel - ograbić Polki i Polaków To jest skandaliczne i pokazuje, że Prawo i Sprawiedliwość miało jeden szczytny - według nich - cel: ograbić Polki i Polaków z funduszy publicznych - oceniła… » więcej 2024-06-03, godz. 15:00 Boeing wzmacnia obecność w Polsce i inwestuje w kompetencje inżynieryjne (MediaRoom) - Polskie biura inżynieryjne będą wspierać strategiczne projekty realizowane przez Boeinga. - Wykonywane prace obejmą szereg produktów z portfolio samolotów… » więcej 2024-06-03, godz. 14:50 UE/ Michel: propozycja Polski i Grecji ws. europejskiej obrony powietrznej ma szerokie poparcie Propozycja Polski i Grecji w sprawie utworzenia wspólnej obrony powietrznej w Unii Europejskiej ma szerokie poparcie wśród państw Wspólnoty - powiedział… » więcej 2024-06-03, godz. 14:50 Morawiecki o Obajtku: nic niezwykłego, że kandydaci chcą ostatnie dni kampanii spędzić w trasie Nie ma nic niezwykłego w tym, że ostatnie dni kampanii kandydaci w wyborach do PE chcą spędzić w trasie, w regionie, z którego kandydują - podkreślił… » więcej 2024-06-03, godz. 14:50 French Open - Zieliński odpadł w 1/8 finału debla Rozstawieni z numerem 15. Jan Zieliński i Monakijczyk Hugo Nys odpadli w 1/8 finału rywalizacji deblistów w wielkoszlemowym turnieju tenisowym French Open w… » więcej 2024-06-03, godz. 14:50 1. liga piłkarska - szef GKS Tychy: za mną okropny tydzień Piłkarze pierwszoligowego GKS Tychy w końcówce sezonu stracili szansę na awans do ekstraklasy. „Ostatni tydzień był dla mnie okropny, nie mogłem spać… » więcej 2024-06-03, godz. 14:50 Siekierski: zadłużone gospodarstwa będą mogły skorzystać z taniego kredytu konsolidacyjnego W tym roku przygotowany zostanie program konsolidacji kredytowej dla zadłużonych gospodarstw rolnych - zapowiedział w poniedziałek w Sejmie minister rolnictwa… » więcej 2024-06-03, godz. 14:50 ARP: w kwietniu br. dalszy spadek produkcji i sprzedaży węgla W kwietniu br. miesięczne wydobycie węgla kamiennego z polskich kopalń było o ok. 100 tys. ton niższe, niż w marcu br. - wynika z danych Agencji Rozwoju… » więcej
2345678
Ta strona używa ciasteczek (cookies), dzięki którym nasz serwis może działać lepiej. Dowiedz się więcej »