Naime, šef laboratorije za istraživanje ofanzivne vještačke inteligencije na izraelskom Univerzitetu Ben-Gurion Jisroel Mirski otkrio je da je trenutno moguće čitati privatne razgovore sa ChatGPT i drugih sličnih servisa.
Iako usluge kao što je ChatGPT koriste šifrovanje za zaštitu razgovora između korisnika i servisa, kako Mirski ističe, to šifrovanje nije dovoljno dobro da zaštiti podatke.
Objašnjava kako hakeri, ili drugi zlonamjerni akteri koji su na istoj mreži kao i “žrtva”, mogu da posmatraju saobraćaj između korisnika i servisa i uz pomoć metapodataka i velikih jezičkih modela koji su posebno obučeni za ovaj zadatak, preciziraju ove podatke i otkrijte o čemu su “hakovani” raspravljali u razgovoru.
– Otkrili smo da je ovaj napad izuzetno dobar u dešifrovanju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. istorijski podaci, savjeti), ali se muči da dešifruje proizvoljan sadržaj (npr. rješavanje zagonetke) – napisao je Mirski.
Napad je pasivan i može se desiti bez znanja OpenAI ili njihovog klijenta.
– OpenAI šifruje njihov saobraćaj kako bi spriječio ove vrste napada, ali naše istraživanje je pokazalo da je način na koji OpenAI koristi šifrovanje pogrešan i da je sadržaj poruka izložen – rekao je on za Ars Technica.
Zanimljivo je da ChatGPT nije jedini četbot koji je izložen takvom napadu, ali takođe, jedini chatbot koji nije ranjiv je Google Gemini.
Istraživači su u svojoj studiji dali dva prijedloga za ublažavanje efikasnosti takvih napada. Prvi je da slijedite Google-ov primjer i prestanete da šaljete pakete jedan po jedan, jer slanje na taj način olakšava njihovo otkrivanje i prevođenje. Druga je primjena tehnike koja dodaje nasumične količine razmaka paketima tako da svi imaju fiksnu dužinu jednaku najvećem mogućem paketu. To bi otežalo njihovo prepoznavanje.
Ali problem je u tome što bi primjena oba prijedloga bio usporen odgovor četbota korisniku, što bi degradiralo korisničko iskustvo. Kako Mirski objašnjava, slanje tokena u velikim serijama može izazvati kašnjenja, dok bi dopunski paketi povećali količinu saobraćaja koji se šalje u svakom odgovoru.
Nakon što je ova studija objavljena, OpenAI i Cloudflare su implementirali promjene koje bi trebalo da smanje mogućnost ovakvih napada, prenosi B92.
Najnovije vijesti Srpskainfo i na Viberu