Znate li koji su rizici korištenja generativne umjetne inteligencije

Iako je razvoj umjetne inteligencije pokrenuo brojne korisne mogućnosti, istovremeno je došlo do velike zabrinutosti zbog stvaranja deepfake-ova – digitalnih audio-vizualnih sadržaja koji su manipulirani i uređeni na način da se što manje razlikuju od stvarnih sadržaja. Deepfake-ovi mogu se koristiti za kreiranje zabavnih sadržaja, no isto tako se mogu koristiti i za kreiranje sadržaja s ciljem prijevare, zavaravanja i manipulacije ljudima. Realistični prikazi ljudi koji rade ili govore nešto što nikada nisu napravili mogu imati velike posljedice na kredibilitet i povjerljivost osoba i ustanova.  

Što je to generativna umjetna inteligencija (AI) i za što se može koristiti?

Generativna umjetna inteligencija (AI) predstavlja vrstu tehnologije umjetne inteligencije koja može proizvoditi različite vrste sadržaja – slike, tekstove, sintetičke podatke i zvukove. Koristi skupove postojećeg sadržaja kako bi identificirala obrasce te ih koristila za generiranje novog sadržaja.

Generativna umjetna inteligencija (AI) može se koristiti za sljedeće:

• Stvaranje deepfake-ova za imitiranje ljudi
• Unapređenje sinkronizacije u filmovima i obrazovnim sadržajima na različitim jezicima
• Pisanje odgovora na mailove, pisanje životopisa i seminarskih radova
• Implementaciju chatbot-ova za tehničku pomoć i korisničku podršku
• Unaprjeđenje demonstracijskih videozapisa za proizvode
• Prijedloge novih spojeva za testiranje lijekova
• Stvaranje foto-realistične umjetnosti u određenom stilu
• Pisanje glazbe
• Dizajniranje fizičkih zgrada i proizvoda
• Optimizaciju novih dizajna čipova

Koji su mogući rizici korištenja generativne umjetne inteligencije?

• “Curenje” IP adrese – Ozbiljnu zabrinutost predstavlja mogućnost “curenja” IP adrese i povjerljivosti tijekom korištenja generativne umjetne inteligencije (AI). Kako sve online aplikacije za generativnu umjetnu inteligenciju (AI) obrađuju i šalju podatke putem interneta, dodatni sloj sigurnosti može vam pružiti korištenje VPN-a. 
• Otkrivanje osjetljivih podataka – Ponekad smo skloni otkrivati svoje osobne i poslovne informacije kod korištenja generativne umjetne inteligencije (AI), a često niti ne pročitamo što alati umjetne inteligencije mogu raditi s našim podatcima. Moguće je da takvim unosima kršimo i prava organizacije u kojoj smo zaposleni, stoga je potreban velik oprez.
• Zloupotreba – Može doći do zloupotrebe generativne umjetne inteligencije od strane zlonamjernih aktera, na primjer do informacijskog poremećaja (odnosno širenja lažnih vijesti). Može doći do stvaranja lažnih narativa, zavaravanja ljudi i manipuliranja mišljenjima ljudi. Generativna umjetna inteligencija može biti korištena i za stvaranje deepfake-ova koji sadrže pornografske sadržaje koji mogu izazvati ozbiljne posljedice poput ugrožavanja mentalnog zdravlja, emocionalne štete, financijskih problema i ugrožavanja reputacije.
• Generiranje izmišljenih ili netočnih informacija – Uzmemo li za primjer ChatGPT, u njegovim uvjetima korištenja upozorava se na to da informacije koje pruža mogu biti netočne te da je potrebno provjeriti točnost informacija.
• Cyber napadi – Zlonamjerni pojedinci mogu stvarati uvjerljive phishing poruke navodeći žrtve da otkriju osjetljive podatke. Na primjer, mogu stvoriti autentične mailove koji izgledaju kao da ih je napravila vaša banka.

Generativna umjetna inteligencija svakako nam nudi brojne mogućnosti, no važno je da budemo svjesni mogućih sigurnosnih problema. Tvrtke i vlade poduzimaju određene korake kako bi se borile protiv mogućih rizika generativne umjetne inteligencije,  no biti će potrebno određeno vrijeme kako bi se shvatilo što je potrebno učiniti za veću sigurnost kod korištenja generativne umjetne inteligencije.

Imate dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji Internet vam stoje na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svaki radni dan od 08:00 do 16:00 sati.

Izvor naslovne fotografije: Pexels