Tjuvar använde Deepfake Voice-teknik för att genomföra ett bankrån på 35 miljoner dollar
Tjuvar använde deepfake- teknik för att klona en affärsmans röst och beställa en överföring på 35 miljoner dollar till utländska konton, enligt ett domstolsdokument som Forbes har tagit fram. Det är det mest framgångsrika "deep voice"-ruppet hittills, även om det kanske bara är en liten del av en växande trend.
Deepfake-tekniken är ganska välkänd vid det här laget. I grund och botten tränar människor en AI för att återskapa någons ansikte, vanligtvis ansiktet på en skådespelare eller annan välkänd individ. AI:n kan sedan animera och klistra in detta ansikte på en referensvideo och därigenom infoga det klonade motivet i en scen.
Men du kan inte bara fästa någon i en video utan att återskapa deras röst. Och det är där ljuddeepfakes kommer in i bilden – du tränar en AI att replikera någons röst och sedan berätta för AI:n vad den ska säga med den personens röst.
När deepfake-tekniken når en viss nivå av realism, tror experter att det kommer att driva på en ny era av desinformation, trakasserier och fula omstarter av filmer. Men det verkar som om "deep voice"-tekniken redan har nått den stora tiden.
Redan 2020 fick en bankchef i Förenade Arabemiraten ett telefonsamtal från direktören för ett stort företag. Ett stort förvärv var på gång, enligt direktören, så han behövde banken för att godkänna 35 miljoner dollar i överföringar till flera amerikanska konton. Direktören pekade på e-postmeddelanden från en advokat för att bekräfta överföringen, och eftersom allt såg legitimt ut lade bankchefen igenom det.
Men "direktören" för detta företag var faktiskt en "djup röst"-algoritm tränad för att låta som sitt offer. Förenade Arabemiraten söker nu amerikansk hjälp för att få tillbaka de förlorade medlen, som smugglades till konton runt om i världen av en grupp på 17 eller fler tjuvar.
Det här är inte det första djupfalska ljudet, men återigen, det är det mest framgångsrika hittills. Liknande operationer kommer att ske i framtiden, troligen i mycket större skala. Så vad kan företag och regeringar göra för att mildra hotet? Tja, det är svårt att säga.
Eftersom deepfakes ständigt förbättras, kommer de så småningom att bli för övertygande för människor att korrekt identifiera. Men utbildad AI kanske kan upptäcka djupförfalskningar, eftersom klonade ansikten och röster ofta innehåller små artefakter och misstag, som digitalt brus eller små ljud som är omöjliga för människor att göra.
Källa: Forbes