Direktorun səsi ilə zəng: deepfake fırıldaqçılığı banklara necə çatdı?

Bir maliyyə işçisi video-konfransda maliyyə direktorunu və bir neçə həmkarını görür, onların səsini eşidir və göstərişə əsasən 25 milyon dollar köçürür. Sonra məlum olur ki, zəngdə özündən başqa heç kim real deyildi. Bu, 2024-cü ildə Honq-Konqda baş verən real hadisədir.
Onilliklərlə "tanış səs" etibarın ən sadə sübutu sayılıb: telefonda direktoru, valideyni, müştərini səsindən tanıyırıq. Bankların bir qismi isə səsi parol kimi istifadə etməyə başladı. Bu məqalə səs klonlamanın necə işlədiyini, bu etibarın niyə zəiflədiyini və nə etmək olacağını izah edir.
Honq-Konq, 2024: yalnız qurbanın real olduğu zəng
Hadisə 2024-cü ilin yanvarında baş verib. Qurban London mərkəzli mühəndislik şirkəti Arup-ın (Sidney Opera Teatrının və Pekindəki "Quş yuvası" stadionunun layihələrində iştirak edən şirkət) Honq-Konq ofisinin maliyyə işçisi olub.
Ssenari klassik fırıldaqçılıqla başlayıb. İşçi şirkətin Böyük Britaniya ofisindən gələn və gizli əməliyyat tələb edən məktubdan əvvəlcə şübhələnib və onu fişinq hesab edib. Amma sonra video-zəngdə maliyyə direktorunu və tanıdığı həmkarlarını görüb. Onlar tanış görünüb və tanış səslə danışıblar, bu da şübhəni aradan qaldırıb (CNN).
• Məbləğ: 200 milyon Honq-Konq dolları, təxminən 25,6 milyon ABŞ dolları.
• Əməliyyat: 15 köçürmə, beş yerli bank hesabına (Business Insider, RTHK-ya istinadla).
• Material: polisin sözlərinə görə, saxta iştirakçılar hamıya açıq olan video və səs yazıları əsasında hazırlanıb.
Polis hadisəni fevralda açıqlayıb, amma şirkətin adını çəkməyib. Arup yalnız 2024-cü ilin mayında qurban olduğunu təsdiqləyib və "saxta səslər və təsvirlər" istifadə edildiyini bildirib. Şirkətin sözlərinə görə, daxili sistemlər sındırılmayıb.
Sonuncu məqam əsas dərsdir: heç bir server sındırılmayıb, heç bir parol oğurlanmayıb. Hücum texnoloji sistemlərə yox, insan etibarına yönəlib.
Səs klonlama necə işləyir: saatlardan saniyələrə
Bu gün bir insanın səsini inandırıcı şəkildə təkrarlamaq üçün onun bir neçə saniyəlik yazısı kifayət edə bilər. Bir neçə il əvvəl bunun üçün saatlarla studiya yazısı lazım idi.
Köhnə yanaşmada model konkret bir insanın səsini sıfırdan öyrənirdi, ona görə də çox material tələb olunurdu. Yeni nəsil modellər bunu başqa cür edir. Əvvəlcə minlərlə insanın on minlərlə saatlıq nitqi üzərində insan səsinin ümumiyyətlə necə qurulduğu öyrənilir. Sonra yeni səsin qısa nümunəsi modeli öyrətmir, sadəcə ona "bu tembrdə, bu tonda danış" göstərişi verir. Mütəxəssislər buna zero-shot səs sintezi deyir.
Dönüş nöqtəsi Microsoft-un 2023-cü ilin yanvarında təqdim etdiyi VALL-E tədqiqat modeli oldu (Freethink):
• Təlim: 7 000-dən çox danışanın 60 000 saatlıq ingilis nitqi.
• Yeni səs üçün: cəmi 3 saniyəlik yazı.
• Nəticə: model təkcə tembri yox, emosiyanı və akustik mühiti də təkrarlayır. Nümunə telefonla yazılmışsa, sintez də telefon səsi kimi eşidilir.
Microsoft modeli ictimaiyyətə açmadı. Müəlliflər öz məqalələrində riskin səslə identifikasiyanı aldatmaq olduğunu birbaşa qeyd ediblər. Amma eyni yanaşma qısa zamanda kommersiya xidmətlərinə keçdi.
Bu xidmətlərin nə qədər qorunduğunu Consumer Reports 2025-ci ilin martında yoxlayıb. Altı məhsuldan dördündə (ElevenLabs, Speechify, PlayHT, Lovo) tədqiqatçılar internetdə açıq olan səs yazısından asanlıqla klon yarada biliblər. Bu xidmətlər səs sahibinin razılığını texniki cəhətdən yoxlamırdı: kifayət idi ki, istifadəçi "hüququm var" xanasını işarələsin (Consumer Reports).
Direktorun səsini tapmaq çətin deyil: müsahibələr, konfrans çıxışları, podkastlar, sosial şəbəkə videoları. Nə qədər ictimai şəxsdirsə, o qədər çox material var.
"Səsim mənim parolumdur": səslə identifikasiya niyə zəifləyir
Səs biometriyası bir insanı digərindən ayırmaq üçün qurulub, insanı maşından ayırmaq üçün yox. Problemin kökü də buradadır.
Sistem belə işləyir: müştəri qeydiyyat zamanı bir ifadəni deyir, bank onun səsinin akustik xüsusiyyətlərindən "səs izi" (voiceprint) yaradır. Sonrakı zənglərdə yeni səs bu izlə müqayisə olunur. Lloyds Bank öz sistemi üçün 100-dən çox xüsusiyyətin təhlil edildiyini və səsin barmaq izi kimi unikal olduğunu yazırdı. Amma klonlama modeli məhz bu xüsusiyyətləri təkrarlamaq üçün öyrədilir.
2023: jurnalist öz hesabına daxil olur. Vice jurnalisti Joseph Cox 2023-cü ilin fevralında öz səsini pulsuz onlayn alətlə klonlayıb və Lloyds Bank-ın telefon xidmətinə zəng edib. Sistem ondan doğum tarixini və "Səsim mənim parolumdur" ifadəsini istəyib. Bir neçə uğursuz cəhddən sonra sistem süni səsi qəbul edib və jurnalist balansı və son əməliyyatları görə bilib (Vice).
Bankın mövqeyini də qeyd etmək lazımdır. Lloyds Voice ID-nin könüllü tədbir olduğunu, çoxqatlı müdafiənin bir hissəsi olduğunu və süni səslə fırıldaqçılıq hadisəsindən xəbərsiz olduğunu bildirib. Eksperimentdə də klonlanan səs jurnalistin öz səsi idi və doğum tarixi ona məlum idi. Amma doğum tarixi məlumat sızmaları və sosial şəbəkələr səbəbindən çox vaxt gizli deyil.
2025: xəbərdarlıq ən yüksək səviyyədən gəlir. OpenAI-ın rəhbəri Sam Altman 2025-ci ilin iyulunda ABŞ Federal Ehtiyat Sisteminin konfransında bank sektorunu "ciddi fırıldaqçılıq böhranı" barədə xəbərdar edib. Onun sözlərinə görə, səs izini identifikasiya kimi qəbul edən institutların hələ qalması ağlasığmaz haldır, çünki süni intellekt bu üsulu tamamilə sıradan çıxarıb. Altman növbəti mərhələnin realından seçilməyən video-zənglər olacağını da deyib (Fortune).
Bu, səslə identifikasiyanın tamamilə yararsız olduğunu demək deyil. Sintetik səsi tanımaq üçün "canlılıq yoxlaması" (liveness detection) texnologiyaları inkişaf edir. Amma bu, hücum və müdafiə arasında davamlı yarışdır və səs tək başına kifayət edən açar olmaqdan çıxıb.
Bu artıq nəzəriyyə deyil
Arup tək hadisə deyil. Səs və video saxtakarlığı ilə bağlı məlum olan hər hadisə əvvəlkindən daha inandırıcı olub.
Xronologiya belədir. 2019-cu ilin martında Britaniya enerji şirkəti alman ana şirkətin rəhbərinin saxta səsi ilə edilən zəngə inanaraq 220 000 avro itirib. 2023-cü ilin fevralında jurnalist klonlanmış səslə Lloyds Bank-ın Voice ID sistemini keçib. 2024-cü ilin yanvarında Arup saxta video-konfrans nəticəsində təxminən 25,6 milyon dollar itirib. Həmin ilin iyulunda Ferrari-də oxşar cəhd baş tutmayıb: baş direktor Benedetto Vignanın səsi ilə zəng alan idarəçi bir sualla fırıldaqçını ifşa edib. Noyabrda isə ABŞ maliyyə kəşfiyyatı FinCEN banklara rəsmi xəbərdarlıq göndərib.
2019-cu il hadisəsi səsin süni intellektlə saxtalaşdırıldığı ilk geniş yayılmış korporativ fırıldaqçılıq nümunəsi sayılır. Britaniya şirkətinin rəhbəri zəng edənin səsində müdirinin yüngül alman aksentini və danışıq üslubunu tanıyıb. Pul Macarıstan hesabından Meksikaya, oradan başqa ölkələrə ötürülüb. Şübhə yalnız üçüncü zəngdə, ikinci köçürmə tələb olunanda və nömrənin Avstriyadan olduğu görünəndə yaranıb. O zaman sığortaçının fırıldaqçılıq üzrə eksperti xəbərdarlıq edib ki, səsin üstünə tanış üz ifadələri olan video-zəng əlavə olunsa, heç bir şübhə qalmazdı. Beş il sonra Arup hadisəsi məhz bu ssenarini reallaşdırdı.
Tənzimləyicilər nə deyir. ABŞ Maliyyə Nazirliyinin FinCEN qurumu 2024-cü ilin noyabrında bildirib ki, 2023-cü ildən bankların deepfake media ilə bağlı şübhəli əməliyyat hesabatları artır. Xəbərdarlıqda iki istiqamət ayrılır. Birincisi, süni intellektlə hazırlanmış saxta şəxsiyyət sənədləri ilə hesab açılmasıdır. İkincisi, rəhbər və ya ailə üzvü kimi özünü təqdim edərək pul köçürtməkdir; FinCEN burada Arup hadisəsinə də istinad edir. Banklardan bu hadisələri hesabatlarda xüsusi kodla qeyd etmək tələb olunur ki, miqyas izlənə bilsin.
Necə qorunmaq olar
Əsas prinsip sadədir: səs və üz artıq kimliyin sübutu deyil, yalnız işarəsidir. Yuxarıdakı hadisələrin heç birində fırıldaqçılar texniki sistemləri sındırmayıb; onlar prosedurdakı boşluqlardan istifadə ediblər. Deməli, əsas müdafiə də prosedurdadır.
Hadisələrin ortaq xüsusiyyətləri. Arup, Ferrari və 2019-cu il hadisələrində eyni nümunə təkrarlanır: tələsik tələb, "gizli" əməliyyat, tanış olmayan nömrə və ya kanal, adi qaydalardan kənara çıxmaq üçün təzyiq. Texnologiya yeni olsa da, ssenari klassik sosial mühəndislikdir.
Şirkətlər üçün:
• Geri zəng qaydası. Ödəniş tələbi hansı kanaldan gəlirsə gəlsin, onu daxili kataloqdakı məlum nömrəyə ayrıca zənglə təsdiqləmək.
• İki nəfərin təsdiqi. Müəyyən məbləğdən yuxarı köçürmələr bir nəfərin qərarı ilə icra olunmamalıdır, hətta direktorun şəxsən göstərişi olsa belə.
• Yoxlama sualı və ya kod söz. Ferrari idarəçisi "şəxsiyyətinizi təsdiqləməliyəm" deyərək Vignanın bir neçə gün əvvəl tövsiyə etdiyi kitabın adını soruşub və zəng dərhal kəsilib (Fortune).
• "Yox" demək hüququ. İşçilər bilməlidir ki, rəhbərin göstərişini yoxlamaq intizam pozuntusu deyil, qaydadır.
Banklar üçün:
• Səs tək açar olmamalıdır. FinCEN çoxfaktorlu autentifikasiyanı, o cümlədən fişinqə dayanıqlı üsulları tövsiyə edir.
• Canlı yoxlama zamanı qırmızı bayraqlar. FinCEN-in siyahısına görə, müştərinin "texniki nasazlıq" bəhanəsi ilə yoxlama zamanı kanalı dəyişmək istəməsi, üçüncü tərəf veb-kamera proqramlarından istifadəsi və çoxfaktorlu autentifikasiyadan imtina etməsi əlavə yoxlama tələb edir.
• Əməliyyat davranışına baxmaq. Yeni açılmış hesabdan sürətli əməliyyatlar və pulun daxil olan kimi geri qaytarılması çətin üsullarla (beynəlxalq köçürmə, kripto birjalar) çıxarılması da bu siyahıdadır (FinCEN).
Fərdlər üçün: ailə daxilində kod söz razılaşdırmaq; "təcili pul lazımdır" zəngini kəsib həmin şəxsə öz bildiyiniz nömrədən geri zəng etmək; bankınızda səslə identifikasiya aktivdirsə, əlavə qoruma üsullarını soruşmaq.
Nə deyə bilərik, nəyi yox
Deyə bilərik: səs klonlama bir neçə saniyəlik materialla işləyə bilən səviyyəyə çatıb və kommersiya alətlərinin əksəriyyətində razılıq yoxlaması zəifdir. Klonlanmış səsin ən azı bir bankın səslə identifikasiya sistemini keçdiyi ictimai şəkildə nümayiş etdirilib. Saxta səs və video ilə milyonlarla dollarlıq real itkilər polis və şirkətlər tərəfindən təsdiqlənib, ABŞ maliyyə tənzimləyicisi isə bu barədə rəsmi xəbərdarlıq verib.
Deyə bilmərik: bu fırıldaqçılığın ümumi miqyasını dəqiq. Şirkətlərin çoxu hadisələri açıqlamır; Arup da yalnız dörd ay sonra adını təsdiqləyib. Arup hadisəsinin texniki təfərrüatları (hansı alətlər, real vaxtdamı, yoxsa əvvəlcədən yazılmış videoyla) açıqlanmayıb. Lloyds eksperimenti də jurnalistin öz səsi və öz məlumatları ilə aparılıb və bankın bu günkü sistemlərinin eyni dərəcədə həssas olduğunu sübut etmir. Sintetik səsi aşkarlayan texnologiyalar da inkişaf edir və bu yarışın nəticəsi hələ məlum deyil.
Nəticə panika deyil, vərdiş dəyişikliyidir: "tanış səs" artıq tək başına kifayət etmir. Pul köçürmə qərarı hər zaman ikinci, müstəqil kanaldan təsdiq tələb etməlidir.
Mənbələr
• CNN, “British engineering giant Arup revealed as $25 million deepfake scam victim”, 16 may 2024
• Business Insider, Arup hadisəsi haqqında (RTHK-ya istinadla), 2024
• Wang, C. et al., “Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers” (VALL-E), Microsoft, 2023; icmal: Freethink
• Consumer Reports, “Assessment of AI Voice Cloning Products”, 10 mart 2025
• Cox, J., “How I Broke Into a Bank Account With an AI-Generated Voice”, Vice, fevral 2023
• Fortune, Sam Altmanın Federal Ehtiyat Sistemindəki çıxışı, 24 iyul 2025
• FinCEN, “Alert on Fraud Schemes Involving Deepfake Media Targeting Financial Institutions” (FIN-2024-Alert004), 13 noyabr 2024
• Fortune / Bloomberg, Ferrari cəhdi haqqında, 27 iyul 2024
• Gizmodo, 2019-cu il Britaniya enerji şirkəti hadisəsi (WSJ-yə istinadla), sentyabr 2019