Zneužitie zdrojov umelej inteligencie je reálne riziko a je to predmetom intenzívnej diskusie v oblasti etiky, bezpečnosti a informačnej integrity
()

Tu je prehľad možných scenárov zneužitia alebo manipulácie, ktoré by mohli viesť k dezinformácii más:

1. Manipulácia tréningových dát

Ak niekto získa prístup k dátam, na ktorých sa AI model trénuje (napr. pri open-source modeloch alebo pri neadekvátne chránených pipeline):

  • môže vkladať falošné alebo zmanipulované dáta,
  • výsledkom je tzv. data poisoning – AI začne produkovať nesprávne alebo manipulatívne výstupy,

  • napr. pri chatbotovi, ktorý má poradiť s právnymi otázkami, by to mohlo viesť k nebezpečným alebo nesprávnym radám.

2. Využívanie existujúcich modelov na generovanie dezinformácií

Aj bez zásahu do tréningových dát môžu ľudia zneužiť modely tým, že ich:

  • nakŕmia zámerne klamlivými vstupmi, a potom použijú výstupy ako falošné dôkazy,

  • použijú na masovú produkciu deepfake článkov, statusov, správ, alebo videí,

  • vytvárajú realisticky znejúce „odborné“ lži, ktoré sa ťažko overujú.

3. Manipulácia vyhľadávacích algoritmov, ktoré ovplyvňujú odpovede AI

Modely ako ChatGPT môžu byť doplnené o aktuálne dáta z webu – ak sú tieto dáta zmanipulované:

  • napr. pomocou SEO manipulácie (falošné stránky s vysokou dôveryhodnosťou),

  • môžu sa dostať do výstupov modelov dezinformácie, ktoré vyzerajú „legitímne“.

4. Výstupy AI môžu byť interpretované ako fakty bez overenia

  • Bežní používatelia môžu vnímať odpovede AI ako nezvratné pravdy, aj keď ide o predikcie s neistotou.

  • Modely môžu „halucinovať“ – teda vymýšľať si fakty, ktoré znejú dôveryhodne, ale nie sú pravdivé.

5. Nedostatočné filtrovanie nepravdivého obsahu

Ak je model nastavený bez dostatočných kontrol:

  • môže generovať odpovede, ktoré šíria konšpiračné teórie, toxický jazyk alebo nepravdivé tvrdenia,

  • tieto výstupy môžu byť potom virálne šírené cez sociálne siete.

Ochrana a prevencia

  1. Zabezpečenie dátových pipeline a tréningových korpusov.

  2. Filtrácia a overovanie výstupov pomocou externých fact-checking nástrojov.

  3. Zvyšovanie AI gramotnosti verejnosti, aby ľudia nekonzumovali výstupy bez kritického myslenia.

  4. Právne a regulačné opatrenia (napr. EU AI Act, Digital Services Act).

  5. Transparentnosť AI systémov – uvádzanie zdrojov, úrovne istoty a verifikovateľnosť výstupov.

Som tu aby som Vám pomohol sa chrániť – Váš Superhrdina PIN

Nie je hanba dostať sa do problémov v oblasti kybernetickej bezpečnosti, hovorte o tom a môžete zmenšiť následky

Ako užitočný bol tento príspevok?

Kliknutím na hviezdičku ho ohodnotíte!

Priemerné hodnotenie / 5. Počet hlasov:

Zatiaľ žiadne hlasy! Buďte prvý, kto ohodnotí tento príspevok.

Zdieľajte
článok :

Viac článkov

Stav kybernetických hrozieb

() Agentúra European Union Agency for Cybersecurity (ENISA) zverejnila každoročný dokument „Threat Landscape“ pre rok 2025, dobrý zdroj informácií o stave kybernetických hrozieb zanalyzovaný na

Prečítajte si viac zujímavosti

Nahláste nám chybu na stránke alebo v článku !