Tu je prehľad možných scenárov zneužitia alebo manipulácie, ktoré by mohli viesť k dezinformácii más:
1. Manipulácia tréningových dát
Ak niekto získa prístup k dátam, na ktorých sa AI model trénuje (napr. pri open-source modeloch alebo pri neadekvátne chránených pipeline):
- môže vkladať falošné alebo zmanipulované dáta,
-
výsledkom je tzv. data poisoning – AI začne produkovať nesprávne alebo manipulatívne výstupy,
-
napr. pri chatbotovi, ktorý má poradiť s právnymi otázkami, by to mohlo viesť k nebezpečným alebo nesprávnym radám.
2. Využívanie existujúcich modelov na generovanie dezinformácií
Aj bez zásahu do tréningových dát môžu ľudia zneužiť modely tým, že ich:
-
nakŕmia zámerne klamlivými vstupmi, a potom použijú výstupy ako falošné dôkazy,
-
použijú na masovú produkciu deepfake článkov, statusov, správ, alebo videí,
-
vytvárajú realisticky znejúce „odborné“ lži, ktoré sa ťažko overujú.
3. Manipulácia vyhľadávacích algoritmov, ktoré ovplyvňujú odpovede AI
Modely ako ChatGPT môžu byť doplnené o aktuálne dáta z webu – ak sú tieto dáta zmanipulované:
-
napr. pomocou SEO manipulácie (falošné stránky s vysokou dôveryhodnosťou),
-
môžu sa dostať do výstupov modelov dezinformácie, ktoré vyzerajú „legitímne“.
4. Výstupy AI môžu byť interpretované ako fakty bez overenia
-
Bežní používatelia môžu vnímať odpovede AI ako nezvratné pravdy, aj keď ide o predikcie s neistotou.
-
Modely môžu „halucinovať“ – teda vymýšľať si fakty, ktoré znejú dôveryhodne, ale nie sú pravdivé.
5. Nedostatočné filtrovanie nepravdivého obsahu
Ak je model nastavený bez dostatočných kontrol:
-
môže generovať odpovede, ktoré šíria konšpiračné teórie, toxický jazyk alebo nepravdivé tvrdenia,
-
tieto výstupy môžu byť potom virálne šírené cez sociálne siete.
Ochrana a prevencia
-
Zabezpečenie dátových pipeline a tréningových korpusov.
-
Filtrácia a overovanie výstupov pomocou externých fact-checking nástrojov.
-
Zvyšovanie AI gramotnosti verejnosti, aby ľudia nekonzumovali výstupy bez kritického myslenia.
-
Právne a regulačné opatrenia (napr. EU AI Act, Digital Services Act).
-
Transparentnosť AI systémov – uvádzanie zdrojov, úrovne istoty a verifikovateľnosť výstupov.
Som tu aby som Vám pomohol sa chrániť – Váš Superhrdina PIN
Nie je hanba dostať sa do problémov v oblasti kybernetickej bezpečnosti, hovorte o tom a môžete zmenšiť následky

Ako užitočný bol tento príspevok?
Kliknutím na hviezdičku ho ohodnotíte!
Priemerné hodnotenie / 5. Počet hlasov:
Zatiaľ žiadne hlasy! Buďte prvý, kto ohodnotí tento príspevok.


