HTCinside
Om de verspreiding van tegen te gaandiepe vervalsingen, heeft Microsoft een nieuwe video-authenticatietool uitgebracht die kan worden gebruikt om een stilstaand beeld of video te analyseren om een procentuele kans te bepalen dat een medium kunstmatig is gemanipuleerd.
In het geval van een video verklaarde Microsoft dat dit percentage in realtime voor elk frame zou kunnen worden verstrekt terwijl de video wordt afgespeeld. Detecteert de overvloeilijn van diepe, subtiele grijswaarden of vervagende elementen die mogelijk niet zichtbaar zijn voor het menselijk oog.
Deepfakes of synthetische media kunnen foto's, video's of audiobestanden zijn die worden gemanipuleerd door kunstmatige intelligentie (AI). Detectie van diepe vervalsingen essentieel bij komende Amerikaanse verkiezingen, volgens Microsoft.
De technologie is gemaakt met behulp van een openbare dataset van Face Forensic ++. Microsoft zei dat het is getest met de DeepFake Detection Challenge-dataset, waarvan wordt aangenomen dat het het leidende model is. om inkomende valsgelddetectietechnologieën te trainen en te testen.
'We verwachten dat methoden voor het genereren van synthetische media in complexiteit zullen blijven groeien. Aangezien alle AI-detectiemethoden foutenpercentages hebben, moeten we begrijpen en voorbereid zijn om te reageren op diepgewortelde vervalsingen die door detectiemethoden gaan.” aldus het bedrijf in een blogpost.
'Op de lange termijn moeten we daarom zoeken naar sterkere manieren om de authenticiteit van nieuwsartikelen en andere media te behouden en te certificeren.'
Met een paar tools beschikbaar, heeft Microsoft ook een nieuwe technologie geïntroduceerd die geknoeid inhoud kan detecteren en ervoor kan zorgen dat de media die u bekijkt echt zijn.
De technologie bestaat uit twee componenten. De eerste is een tool ingebouwd in Microsoft Azure waarmee een contentproducent digitale hashes en certificaten aan content kan toevoegen.
'Hashes en certificaten leven met inhoud als metadata, waar deze ook online is', aldus Microsoft.
De tweede is een lezer die kan worden opgenomen in een browserextensie die certificaten verifieert en hashes vergelijkt met overeenkomsten om de authenticiteit te bepalen.
Microsoft is ook een partnerschap aangegaan met de AI Foundation in zijn diepe schijngevecht. Als onderdeel van het partnerschap zullen beide partijen video-authenticators leveren aan organisaties die betrokken zijn bij het democratische proces, waaronder nieuwsorganisaties en politieke campagnes, via het Reality Defender 2020-initiatief van de stichting.
De video-authenticator is in eerste instantie alleen beschikbaar via het initiatief.
Een andere samenwerking met een consortium van mediabedrijven, bekend als Project Origin, is het testen van de authenticiteitstechnologie van Microsoft. Een initiatief van verschillende uitgevers en socialemediabedrijven, het Trusted News Initiative, stemde er ook mee in om met Microsoft samen te werken om hun technologie te testen.
De University of Washington, In-House Counterfeit Detection Sensitivity en USA Today werken ook samen met Microsoft om de mediageletterdheid te verbeteren.
'Door de mediageletterdheid te verbeteren, kunnen mensen verkeerde informatie op basis van echte gebeurtenissen elimineren en de risico's van goedkope en diepe vervalsingen beheren', aldus Microsoft. 'Door de media te kennen, kunnen we allemaal kritisch nadenken over de mediacontext en meer betrokken burgers worden terwijl we genieten van satire en parodie.'
Als onderdeel van deze samenwerking zal er een publieke aankondigingscampagne zijn die mensen zal uitnodigen om te 'pauzeren voor reflectie' en te verifiëren dat de informatie afkomstig is van een gerenommeerde nieuwsorganisatie voordat deze wordt gedeeld of gepromoot. op sociale media voor de verkiezingen.
De partijen lanceerden ook een vragenlijst voor Amerikaanse kiezers om meer te weten te komen over synthetische media.