Glavni sigurnosni službenik Binance-a otkriva zastrašujuću prijetnju AI deepfake-a korisnicima kriptovaluta
Binance, jedna od vodećih berzi za kriptovalute, izdala je upozorenje o sve većoj prijetnji tehnologije deepfakea u području prevare s kriptovalutama. Deepfakeovi, koji se stvaraju pomoću alata umjetne inteligencije, koriste algoritme strojnog učenja kako bi proizveli vrlo uvjerljivu audio, slikovnu ili videozapisnu imitaciju izgleda i ponašanja osobe. Iako deepfakeovi imaju legitimne primjene, mogu biti iskorišteni od strane prevaranata.
Prema glavnom sigurnosnom službeniku Binancea, Jimmyju Suu, zabilježen je porast prevaranata koji pokušavaju zaobići postupke provjere identiteta korisnika (KYC) berze koristeći deepfake tehnologiju. Postupak podrazumijeva pronalazak uobičajene fotografije žrtve na internetu, a zatim korištenje alata deepfakea za generiranje realističnih videozapisa koji mogu prevariti sisteme verifikacije.
Deep fake AI poses a serious threat to humankind, and it's no longer just a far-fetched idea. I recently came across a video featuring a deep fake of @cz_binance , and it's scarily convincing. pic.twitter.com/BRCN7KaDgq
— DigitalMicropreneur.eth (@rbkasr) February 24, 2023
Napredak deepfake alata dosegao je razinu u kojoj prevaranti mogu čak u realnom vremenu odgovarati na zvučne upute namijenjene provjeri je li aplikant čovjek. Na primjer, određeni postupci verifikacije mogu zahtijevati od korisnika izvođenje određenih radnji poput treptanja lijevim okom ili gledanja u različite smjerove. Su objašnjava da su deepfakeovi postali dovoljno sofisticirani da bez poteškoća izvrše ove naredbe. Međutim, ističe da trenutačni deepfake videozapisi još uvijek posjeduju prepoznatljive nedostatke koje može uočiti ljudski operator, kao što je naredba da korisnik okrene glavu bočno.
Binance protiv umjetne inteligencije
Iako tehnologija deepfake predstavlja značajan izazov, Su priznaje da nije nepremostiv problem. Vjeruje da će umjetna inteligencija nastaviti evoluirati, konačno prevladavajući ograničenja koja trenutno omogućavaju ljudskim operatorima otkrivanje deepfakeova. Stoga ističe da se oslanjanje samo na vizualne inspekcije nije nepogrešivo rješenje.
Binance se već susreo s incidentom koji uključuje deepfake tehnologiju kada je njihov glavni komunikacijski službenik, Patrick Hillmann, otkrio da je “sofisticirana hakirajuća skupina” stvorila deepfake verziju njega. Prevarant je zatim koristio izmišljenu osobu kako bi održavao Zoom sastanke s raznim timovima kriptovalutnih projekata, lažno im obećavajući prilike za uvrštavanje njihovih sredstava na Binance uz naknadu.
Izvor: Lacton Muriuki