Radio Opole » Kraj i świat
2024-05-01, 07:10 Autor: PAP

USA/ "Foreign Affairs": sztuczna inteligencja używana przez wojsko może wywołać wojnę atomową

Wojsko USA nie może ufać sztucznej inteligencji (AI), ponieważ modele przez nią wykorzystywane podejmują też złe decyzje i mogą wywołać wojnę atomową. Należy ograniczyć korzystanie z tych technologii w podejmowaniu ważnych decyzji w sytuacjach bojowych - ocenia magazyn "Foreign Affairs".

Obecnie żołnierze amerykańscy używają systemy wyposażone w sztuczną inteligencję m.in. do wybierania celów należących do rebeliantów Huti w Jemenie.


LLM-y (large language model, ang. duże modele językowe) to systemy AI wyszkolone na dużych zbiorach danych i generujące tekst w oparciu o to, co zostało napisane wcześniej, takie jak np. ChatGPT. Zarówno Korpus Piechoty Morskiej Stanów Zjednoczonych, jak i Siły Powietrzne USA wykorzystują LLM-y do gier wojennych, planowania wojskowego i podstawowych zadań administracyjnych.


Na łamach "Foreign Affair" Max Lamparth i Jacquelyn Schneider z Centrum Bezpieczeństwa Międzynarodowego i Współpracy (CISAC) na Uniwersytecie Stanforda przekonują, że choć można stworzyć sprawne modele językowe, to nie stanowią one zamienników decyzji podejmowanych przez ludzi.


"Dzieje się tak dlatego, że LLM, niezależnie od tego, jak dobrze wyszkolony, nie potrafi ani abstrahować, ani rozumować jak człowiek. (...) LLM-y mogą jedynie naśladować język i rozumowanie, wyciągając korelacje i pojęcia z danych. Mogą często poprawnie naśladować ludzką komunikację, ale bez umiejętności internalizowania i z powodu olbrzymiego rozmiaru modelu nie ma gwarancji, że ich wybory będą bezpieczne albo etyczne" - uważają autorzy.


Podkreślają oni, że z tego samego powodu nie można przewidzieć, co LLM zrobi przy podejmowaniu decyzji wysokiego ryzyka.


W ramach projektu badawczego Lamparth i Schneider sprawdzali, jak duże modele językowe zachowują się w symulowanych grach wojennych, a szczególnie czy decydują się one na eskalację konfliktu.


W badaniu, w którym porównano LLM-y z wiodących firm z Doliny Krzemowej, takich jak Anthropic, Meta i OpenAI dostrzeżono, że "LLM-y zachowywały się różnie w zależności od wersji, od danych, na podstawie których zostały wyszkolone oraz wyborów, których dokonali ich twórcy".


"Jednak pomimo tych różnic odkryliśmy, że wszystkie te LLM-y zdecydowały się na eskalację konfliktu i preferowały wyścigi zbrojeń, starcie, a nawet użycie broni atomowej" - podkreślają badacze.


W tym ostatnim przypadku uzasadnienie przedstawione przez model brzmiało: „Wiele krajów posiada broń atomową. Niektórzy mówią, że należy je rozbroić, inni lubią przybierać pozy. Mamy ją! Skorzystajmy z niej.”


Zdaniem autorów jeśli siły zbrojne przy podejmowaniu decyzji korzystają z modeli językowych, powinny one lepiej rozumieć sposób działania LLM-ów i znaczenie różnic w ich projektowaniu.


"Wojskowy użytkownik powinien być tak samo zaznajomiony z LLM, jak inny wojskowy obsługujący radar, czołg lub pocisk rakietowy" - zaznaczają.


Jednocześnie LLM-y mogłyby wykonywać w wojsku zadania wymagające przetwarzania dużych ilości danych w bardzo krótkim czasie, co można wykorzystać do usprawnienia procesu decyzyjnego lub usprawnienia funkcji biurokratycznych.


Zdaniem autorów prace z LLM-ami są obiecujące w zakresie planowania wojskowego, dowodzenia i wywiadu, a modele te mogą być w stanie zautomatyzować zadania takie jak logistyka i ewaluacja. (PAP)


baj/ ap/


Kraj i świat

2024-06-18, godz. 13:30 W SN zarejestrowano dziewięć protestów przeciwko ważności wyborów do PE Dziewięć protestów ws. wyborów do Parlamentu Europejskiego z 9 czerwca trafiło do Sądu Najwyższego - poinformował PAP we wtorek Maciej Brzózka z zespołu… » więcej 2024-06-18, godz. 13:30 Lubuskie/ 20 czerwca na autostradzie A2 akcja „Masz jedno życie, badaj się!” 20 czerwca na lubuskim odcinku autostrady A2 odbędzie się akcja bezpłatnych badań profilaktycznych dla kierowców; w tym roku w ramach organizowanej tego samego… » więcej 2024-06-18, godz. 13:30 ONZ: liczba ofiar śmiertelnych wśród cywilów podczas konfliktów zbrojnych wzrosła o 72 proc. Liczba ofiar śmiertelnych wśród cywilów podczas konfliktów zbrojnych wzrosła w 2023 roku o 72 proc. - poinformował we wtorek Wysoki Komisarz ONZ ds. Praw… » więcej 2024-06-18, godz. 13:30 Hennig-Kloska: cele redukcji odpadów żywności są ambitne, nie powinny być dalej zwiększane Cele redukcji odpadów żywności określone w noweli dyrektywy dotyczącej odpadów są na tyle ambitne, że nie powinny być dalej zwiększane w toku negocjacji… » więcej 2024-06-18, godz. 13:30 „Hey Jude” Beatlesów zyskuje na popularności dzięki EURO 2024 Aż dziewiętnastoprocentowy wzrost pobrań na muzycznej platformie streamingowej Spotify zanotował klasyczny utwór grupy The Beatles zatytułowany „Hey Jude”… » więcej 2024-06-18, godz. 13:30 MZ chce zmian dotyczących warunków w zakładach pracy Ministerstwo Zdrowia skierowało we wtorek do konsultacji publicznych cztery projekty rozporządzeń dotyczących warunków w środowisku pracy. Dotyczą one m.in… » więcej 2024-06-18, godz. 13:30 PIE: 62 proc. uchodźców wojennych z Ukrainy pracowało w Polsce w 2023 roku 62 proc. uchodźców wojennych z Ukrainy znalazło zatrudnienie w Polsce w 2023 roku, uzupełniając luki na rynku pracy - wynika z opublikowanego we wtorek raportu… » więcej 2024-06-18, godz. 13:30 Hiszpańska liga koszykarzy - Slaughter odchodzi z Gran Canarii Po czterech latach spędzonych w Las Palmas koszykarz reprezentacji Polski AJ Slaughter odchodzi z zespołu Dreamland Gran Canaria - poinformował we wtorek klub… » więcej 2024-06-18, godz. 13:20 Turniej ATP w Halle - Duckworth rywalem Hurkacza w drugiej rundzie James Duckworth będzie rywalem Huberta Hurkacza w drugiej rundzie turnieju ATP 500 na kortach trawiastych w Halle. Australijski tenisista pokonał Brazylijczyka… » więcej 2024-06-18, godz. 13:20 Mytkowska: zapraszamy na otwarcie Muzeum Sztuki Nowoczesnej - 25 października 25 października zapraszamy na otwarcie MSN. Chcemy, by było to muzeum jak najbardziej nasze, wspólne. Jest wiele oczekiwań, pragnień i marzeń dotyczących… » więcej
1234567
Ta strona używa ciasteczek (cookies), dzięki którym nasz serwis może działać lepiej. Dowiedz się więcej »