Radio Opole » Kraj i świat
2020-11-28, 07:41 Autor: PAP

Algorytm wykryje fake newsy na podstawie stylu

Algorytmy, które wykrywają zmanipulowane lub szkodliwe treści, nie są nowością. Korzystają z nich na przykład media społecznościowe, takie jak Facebook czy Twitter. Jednak wielkie korporacje niechętnie dzielą się informacjami, na jakiej zasadzie one pracują. "Brakuje w tej kwestii transparentności z ich strony" - uważa dr inż. Piotr Przybyła z Instytutu Podstaw Informatyki PAN. Zespół pod jego kierownictwem zajął się budową algorytmu, który jest w dużej mierze nowatorski, bo do tej pory naukowcy skupiali się na analizie prawdziwości faktów podanych w treści. Przybyła stwierdził, że warto przyjrzeć się stylowi tekstów udostępnianych online, w formie artykułów newsowych i postów w mediach społecznościowych. "Chcemy sprawdzić, jaka będzie wydajność oceny wiarygodności dokumentu na podstawie cech czysto stylistycznych" - dodał. Podkreśla, że jego celem jest stworzenie takiego algorytmu, który nie tylko wykryje fake newsy (które są najbardziej jaskrawym przykładem zmanipulowanych treści), ale też innych technik propagandowych i botów. W jaki sposób powstaje algorytm opracowywany przez badacza? Najpierw jego zespół zebrał dużą bazę anglojęzycznych tekstów (ok. 100 tys.), które pochodzą m.in. od organizacji zajmujących się weryfikacją faktów (tzw. organizacje fact-checkingowe). Jednocześnie algorytm otrzymał informacje o tym, jakich cech użyć do rozróżniania tekstów wiarygodnych i niewiarygodnych. "Nasz model uczenia maszynowego w pewnym sensie uczy się sam - podajemy mu dane wejściowe z określonym etykietowaniem oraz cechy, które opisują te dane. Następnie do algorytmu należy podjęcie decyzji dotyczącej powiązania cech z wiarygodnością" – opisuje. Jako największą trudność naukowiec wskazuje kontrolę tego procesu. "Może być tak, że pomimo naszych starań algorytm będzie się kierował przesłankami, którymi wolelibyśmy, by się nie kierował" - dodaje. Wskazuje, że jako treści wiarygodne określono na przykład informacje BBC. "Ale nie chcielibyśmy, by nasz algorytm uznawał za prawdziwe tylko takie newsy, które napisane są w stylistyce tego konkretnego brytyjskiego nadawcy" - mówi. Dr Przybyła wskazuje, że wiele tekstów niewiarygodnych w anglojęzycznych mediach dotyczy polaryzacji politycznej w USA. W wielu z nich pojawiają się nazwiska prezydentów Donalda Trumpa i Baracka Obamy. Dlatego, aby algorytm działał lepiej i nie był do takich słów "uprzedzony", Przybyła usunął je z tekstów przekazanych algorytmowi. Liczy, że w ten sposób dane przekazane do dalszej analizy będą bardziej zobiektywizowane - algorytm otrzyma informacje, że np. zdanie składa się z przymiotnika, rzeczownika, przysłówka, czasownika i w ten sposób będzie ślepy na informacje, które badacze chcą odfiltrować, bo zaburzają pracę algorytmu. Naukowcy sami narzucili algorytmowi kategorie słów, które ma on uwzględniać, po to, aby łatwiej dało się kontrolować jego działanie. Zaobserwowano trzy główne stylistyczne kategorie informacji niewiarygodnych. Po pierwsze to słowa opisujące osąd i dotyczące wartości i celów moralnych. Po drugie to słowa opisujące władzę, szacunek i wywieranie wpływu. Trzecia grupa to słowa silnie nacechowane emocjami - zarówno pozytywnymi, jak i negatywnymi. Z kolei wiarygodne teksty powołują się na inne źródła i przedstawiają liczne dane. "Oczywiście to bardzo duże uproszczenie, bo w sumie wyróżniliśmy ponad 900 cech, którymi kieruje się nasz algorytm" - dodaje. Przybyła skupił się na testowaniu metody dla języka angielskiego, bo jest on znany wszystkim badaczom zajmującym się tą dziedziną. "Łatwiejszy jest też dostęp do dużej liczby dobrze opracowanych i sprawdzonych danych, co usprawnia naszą pracę" - zauważa. Dopiero w dalszej kolejności - gdy założenia modelu okażą się słuszne - będzie można stworzyć analogiczny algorytm dla innych języków, w tym polskiego. Algorytm radzi sobie już w 80-90 proc., ale taka skuteczność nie jest dla badacza zadowalająca. Dlatego dalej trwają prace nad jego udoskonalaniem. Kolejnym etapem projektu będzie testowanie jego działania na użytkownikach internetu. Naukowcy chcą sprawdzić, jak będzie on wpływał na postrzeganie wiarygodności treści przez człowieka. Zdaniem dr. Przybyły nie warto łączyć tego algorytmu z innymi, tak aby powstał "superalgorytm". "Użytkownik musi wiedzieć, na jakiej podstawie maszyna podejmuje decyzje. To musi być transparentne. Gdy nie będzie, wtedy może nie mieć do niej zaufania" - zaznacza. Przybyła jest przeciwny zautomatyzowaniu działania algorytmu - na przykład w postaci odcinania użytkownika od treści uznanych przez niego za fałszywe. Taką decyzję powinien podjąć jednak sam człowiek - podkreśla. Projekt dr. Przybyły HOMADOS jest sfinansowany przez Narodową Agencję Wymiany Akademickiej w ramach "Polskich Powrotów".(PAP) autor: Szymon Zdziebłowski szz/ ekr/» więcej

Kraj i świat

2024-06-15, godz. 13:20 LN siatkarek - Polska - Tajlandia 3:0 (opis) Polskie siatkarki pokonały w Hongkongu Tajlandię 3:0 (25:15, 25:23, 25:17) w kolejnym meczu Ligi Narodów. To dziesiąte zwycięstwo drużyny Stefano Lavariniego… » więcej 2024-06-15, godz. 13:20 Szwajcaria/ Wiceprezydent USA zapowiedziała zwiększenie pomocy dla Ukrainy Wiceprezydent USA Kamala Harris zapowiedziała w sobotę nową pomoc w wysokości ponad 1,5 mld dol. dla Ukrainy, przede wszystkim na odbudowę sektora energetycznego… » więcej 2024-06-15, godz. 13:10 ME 2024 - dwie wygrane Polaków na inaugurację wielkich imprez (dokumentacja) Tylko dwukrotnie polskim piłkarzom udało się wygrać pierwszy mecz w mistrzostwach świata lub Europy. Podczas mundialu w RFN w 1974 roku pokonali Argentynę… » więcej 2024-06-15, godz. 13:10 ME 2024 - z Holandią po raz dziewiąty pod wodzą niepokonanego Probierza (dokumentacja) Niedzielny mecz z Holandią w mistrzostwach Europy będzie dziewiątym występem piłkarskiej reprezentacji Polski pod wodzą Michała Probierza. Dotychczasowy… » więcej 2024-06-15, godz. 13:00 ME 2024 - rozpędzona kadra Probierza kontra osłabiona potęga z Holandii (zapowiedź) Reprezentacja Polski po ośmiu kolejnych meczach bez porażki, na razie bez Roberta Lewandowskiego, kontra osłabiona licznymi absencjami, ale wciąż mocna kadrowo… » więcej 2024-06-15, godz. 13:00 ME 2024 - 45 lat bez zwycięstwa nad Holandią (dokumentacja) Trzy zwycięstwa, przy czym ostatnie w 1979 roku, siedem remisów i dziewięć porażek - to bilans dotychczasowych 19 spotkań piłkarskiej reprezentacji Polski… » więcej 2024-06-15, godz. 12:50 ME w kajakarstwie - srebrny medal kobiecej czwórki na 500 m (krótka2) Kajakarki Justyna Iskrzycka, Sandra Ostrowska, Julia Olszewska i Katarzyna Kołodziejczyk zdobyły w węgierskim Szegedzie srebrny medal mistrzostw Europy w olimpijskiej… » więcej 2024-06-15, godz. 12:40 "Wyborcza": pierwsza prezes SN dostała zarzuty dyscyplinarne Pierwsza prezes Sądu Najwyższego neosędzia Małgorzata Manowska usłyszała po raz pierwszy zarzut dyscyplinarny - ustaliła 'Wyborcza'. Rzecznik dyscyplinarny… » więcej 2024-06-15, godz. 12:40 ME w kajakarstwie - srebrny medal Borowskiej i Szczerbińskiej w C2 500 m (krótka) Kanadyjkarki Dorota Borowska i Sylwia Szczerbińska zdobyły w węgierskim Szegedzie srebrny medal mistrzostw Europy w olimpijskiej konkurencji dwójek na 500… » więcej 2024-06-15, godz. 12:40 Ukraina/ Zełenski: Rosja używa 3200-3500 KAB miesięcznie, próbując zastraszyć ludzi Rosyjscy żołnierze próbują zastraszyć Ukraińców, uderzając kierowanymi bombami lotniczymi, używając 3200-3500 KABów miesięcznie - powiedział prezydent… » więcej
9101112131415
Ta strona używa ciasteczek (cookies), dzięki którym nasz serwis może działać lepiej. Dowiedz się więcej »