Mbi 100 mijë kërkesa (“prompts”) janë identifikuar në kuadër të përpjekjeve për të nxjerrë kapacitete nga modelet e inteligjencës artificiale të Google, sipas një raporti të publikuar nga Google Threat Intelligence Group. Sipas raportimit të Google, këto aktivitete lidhen me të ashtuquajturat “distillation attacks”, ku aktorë të ndryshëm përpiqen të riprodhojnë funksionalitetin e modeleve të avancuara përmes pyetjeve të përsëritura dhe sistematike.

Raporti, i titulluar “Distillation, Experimentation, and Continued Integration of AI for Adversarial Use”, analizon mënyrat se si aktorë keqdashës po eksperimentojnë dhe po integrojnë inteligjencën artificiale në operacionet e tyre. Sipas Google, disa fushata kanë përfshirë mbi 100 mijë “prompts” të drejtuara ndaj modeleve të kompanisë, me qëllim nxjerrjen e informacionit mbi sjelljen dhe strukturën e tyre funksionale.

Këto përpjekje përshkruhen si sulme të nxjerrjes së modelit (model extraction), ku përdoruesit shfrytëzojnë aksesin legjitim në një model gjenerues për të mbledhur përgjigje në shkallë të gjerë, duke tentuar të ndërtojnë modele alternative me kapacitete të ngjashme. Google thekson se kjo praktikë përbën shkelje të kushteve të përdorimit dhe cenon pronësinë intelektuale të kompanisë.

Sipas raportit, aktivitetet e identifikuara nuk kanë rezultuar në komprometim të drejtpërdrejtë të modeleve kryesore, por tregojnë për një tendencë në rritje të përpjekjeve për të kuptuar dhe riprodhuar sjelljen e sistemeve të avancuara të AI. Google nënvizon se ka ndërmarrë masa për të zbuluar dhe ndërprerë këto aktivitete, përfshirë pezullimin e projekteve dhe llogarive të lidhura me fushatat në fjalë.

Raporti evidenton gjithashtu se aktorë të lidhur me shtete të ndryshme, përfshirë Korenë e Veriut, Iranin, Kinën dhe Rusinë, kanë përdorur inteligjencën artificiale për të mbështetur faza të ndryshme të operacioneve kibernetike. Këto përfshijnë kërkime mbi objektiva të mundshëm, përmirësim të mesazheve phishing dhe eksperimentime me kod të automatizuar.

Megjithatë, Google vlerëson se përdorimi i AI nga aktorët kërcënues, deri më tani, ka shërbyer kryesisht për të rritur efikasitetin e proceseve ekzistuese, dhe jo për të krijuar teknika thelbësisht të reja sulmi. Sipas raportit, inteligjenca artificiale po integrohet gradualisht në ciklin e plotë të sulmeve kibernetike, por nuk ka sjellë ende një ndryshim rrënjësor në peizazhin e kërcënimeve.

Kompania thekson se po zhvillon masa mbrojtëse për të kufizuar rrezikun e nxjerrjes së modeleve, përfshirë teknika për të identifikuar modele abuzive të përdorimit dhe për të reduktuar efektivitetin e përpjekjeve për kopjim. Gjithashtu, Google deklaron se ndan praktika dhe informacione me komunitetin e sigurisë për të përmirësuar mbrojtjen kolektive ndaj këtyre rreziqeve.

Në përfundim, raporti nënvizon se ndërsa inteligjenca artificiale ofron mundësi të gjera për inovacion, ajo po bëhet njëkohësisht objektiv dhe mjet në duart e aktorëve keqdashës, çka kërkon vigjilencë të vazhdueshme dhe përditësim të mekanizmave të mbrojtjes.

Over 100,000 Prompts Used in Attempts to Copy Gemini

Share on:

Sign up for our newsletter