Ponedjeljak, 22 Aprila, 2024

EUROPOL UPOZORAVA: ChatGPT vam može ukrasti identitet!

Najčitanije objave

Kao odgovor na sve veću pomamu javnosti za upotrebu vještačke inteligencije ChatGPT-u, oglasio se Europol. Njihovi stručnjaci ispitali su kako kriminalci mogu zloupotrijebiti modele velikih razmjera (LLM) kao što je ChatGPT i kako mogu pomoći istražiteljima u njihovom svakodnevnom radu.

Analiza se može pronaći u Europolovom prvom Tech Watch Flash izvješću. Ovaj dokument pod naslovom “ChatGPT – Utjecaj jezičnog modela na provedbu zakona” opisuje moguće zlouporabe ChatGPT-a i daje uvid u ono što se još uvijek može dogoditi. Ovo izvješće ima za cilj podići svijest o potencijalnoj zlouporabi LLM-a, uključiti se u dijalog s AI tvrtkama kako bi im pomoglo da postanu sigurnije i potaknuti razvoj sigurnih i pouzdanih AI sustava.Dulja, detaljnija verzija ovog izvješća izrađena je samo za potrebe provedbe zakona.

Veliki jezični model vrsta je sustava umjetne inteligencije koji može obrađivati, manipulirati i generirati tekst. LLM obuka uključuje prikupljanje velike količine podataka kao što su knjige, članci i web stranice kako bi se obrasci i veze između riječi mogli naučiti za generiranje novog sadržaja. ChatGPT je LLM koji je razvio OpenAI i objavio putem istraživačkog časopisa u studenom 2022. Trenutačni javno dostupan model na kojem se temelji ChatGPT može obraditi i generirati ljudskih tekstova kao odgovor na zahtjeve korisnika.Točnije, model može odgovarati na pitanja o različitim temama, prevoditi tekst, inicirati razgovore (“razgovore”), generirati novi sadržaj i stvoriti radni kod.

Iako se LLM značajke poput ChatGPT-a aktivno poboljšavaju, potencijalna upotreba ove vrste AI sustava od strane kriminalaca izgleda sumorno. Sljedeća tri područja kriminala među mnogim su problematičnim područjima koje su identificirali stručnjaci Europola.

Phishing i društveni inženjering: sposobnost ChatGPT-a da proizvede visoko realističan tekst čini ga korisnim alatom za svrhe krađe identiteta. Sposobnost LLM-a da reproducira govorne obrasce može se koristiti za oponašanje stila govora određenih pojedinaca ili grupa.Ta se sposobnost može zlouporabiti u velikim razmjerima kako bi se potencijalne žrtve dovele u zabludu da povjere svoje povjerenje u ruke kriminalnih aktera.
Dezinformacija: ChatGPT se ističe u stvaranju teksta koji zvuči autentično brzinom i razmjerom. To čini model idealnim za propagandne i dezinformacijske svrhe, budući da korisnicima omogućuje generiranje i širenje poruka koje odražavaju specifičan narativ uz relativno malo truda.
Cyber kriminal: Osim generiranja jezika sličnog ljudskom, ChatGPT je sposoban proizvesti kod u nekoliko različitih programskih jezika. Za potencijalnog kriminalca s malo tehničkog znanja ovo je neprocjenjiv izvor za proizvodnju zlonamjernog koda.

Najnovije objave