Intels har utvecklat en teknik som kan upptäcka falska videor med en noggrannhetsgrad på 96 procent. Intels plattform för deepfake-detektion är enligt företaget världens första realtidsdetektor som levererar tillbaka analysresultat på millisekunder.
– Deepfake-videor finns överallt nu. Du har säkert redan sett dem; videor av kändisar som gör eller säger saker de aldrig faktiskt har gjort, säger Ilke Demir, senior forskare vid Intel Labs.
Intels realtidsplattform använder FakeCatcher, en detektor designad av Demir i samarbete med Umur Ciftci från State University of New York i Binghamton. Med Intels hårdvara och mjukvara körs applikationen på en server och med gränssnitt via en webbaserad plattform. På mjukvarusidan bildar en uppsättning av specialverktyg den optimerade FakeCatcher-arkitekturen. Teamet använde företagets OpenVino för att köra AI-modeller med algoritmer för ansikts- och landmärkesdetektering. Block för ”datorseende” optimerades med Intels Integrated Performance Primitives (ett flertrådigt programvarubibliotek) och OpenCV (en verktygslåda för att bearbeta bilder och videor i realtid), medan inferensblock optimerades med Intels Deep Learning Boost och med Intels Advanced Vector Extensions 512 och mediablock optimerades med Intel Advanced Vector Extensions 2. Teamet lutade sig också mot Open Visual Cloud-projektet för att tillhandahålla en integrerad mjukvarustack för processorfamiljen Intel Xeon Scalable. På hårdvarusidan kan realtidsdetekteringsplattformen köra upp till 72 olika detektionsströmmar samtidigt på 3:e generationens Intel Xeons skalbara processorer.
De flesta djupinlärningsbaserade detektorer tittar på rådata för att försöka hitta tecken på något som inte är äkta och identifiera vad som är fel med en video. FakeCatcher letar däremot efter autentiska ledtrådar i riktiga videor genom att bedöma vad som gör oss mänskliga – subtilt ”blodflöde” i pixlarna i en video. När våra hjärtan pumpar blod ändrar våra vener färg. Dessa blodflödessignaler samlas in från hela ansiktet och algoritmer översätter dessa signaler till något som kallas spatiotemporala kartor. Sedan, med hjälp av djupinlärning, kan så Intels system upptäcka om en video är äkta eller falsk.
Varför spelar det här då någon roll? Deepfake-videor är ett växande hot. Företag kommer att spendera upp till 188 miljarder dollar i cybersäkerhetslösningar, enligt uppgifter från analysföretaget Gartner. Det är också svårt att upptäcka dessa deepfake-videor i realtid – detekteringsappar kräver att videor laddas upp för analys och sedan får man vänta timmar på resultat.
Bedrägerier på grund av deepfakes kan orsaka skada och resultera i negativa konsekvenser, som minskat förtroende för media. FakeCatcher är tänkt att hjälpa till att återställa förtroendet genom att göra det möjligt för användare att skilja mellan verkligt och falskt innehåll.
Men det finns flera potentiella användningsfall för FakeCatcher. Sociala medieplattformar kan utnyttja tekniken för att förhindra användare från att ladda upp skadliga deepfake-videor. Globala nyhetsorganisationer kan använda detektorn från att oavsiktligt använda manipulerade videor.
