Je ironií, že nás umělá inteligence chrání před umělou inteligencí, ale možná je to jediná věc, která to dokáže.
Internet zaplavují videa vytvořená umělou inteligencí. Se zdokonalující se technologií je stále těžší rozlišit, co je skutečné a co falešné. Softwaroví inženýři varují veřejnost před deepfakes vytvořenými umělou inteligencí. Umělá inteligence je však možná jedinou obranou proti sobě samé.
Deepfakes jsou fotografie nebo videa vytvořená umělou inteligencí a navržená tak, aby nás oklamala. Vyvolává to obavy ze schopností generativní AI vytvářet obsah, který záměrně klame veřejnost. Tento nový algoritmus AI rozpoznává markery videí s umělou inteligencí s více než 98% přesností. Nový model označuje deepfakes přesněji než jakýkoli jiný nástroj, který je dosud na trhu. V tom, že nás AI chrání před obsahem vytvořeným AI, je samozřejmě zjevná ironie. Podle nového výzkumu Drexelovy univerzity by klíčem k odhalení podvrhů mohlo být strojové učení.
Matthew Stamm je docentem na Vysoké škole inženýrské Drexelovy univerzity. Řekl: „Je více než zneklidňující, že by tato technologie videa mohla být uvolněna dříve, než bude k dispozici dobrý systém pro odhalování padělků vytvořených špatnými aktéry.“
„Zodpovědné společnosti se budou snažit vložit identifikátory a vodoznaky, ale jakmile bude technologie veřejně dostupná, lidé, kteří ji budou chtít využít k podvodu, si najdou způsob,“ řekl Stamm. „Proto se snažíme mít před nimi náskok tím, že vyvíjíme technologii pro identifikaci syntetických videí na základě vzorů a znaků, které jsou pro média endemické.“
„Až dosud byly forenzní detekční programy účinné proti upraveným videím tak, že je jednoduše považovaly za sérii obrázků a použily stejný detekční proces,“ řekl Stamm. „U videí generovaných umělou inteligencí však neexistují žádné důkazy o manipulaci s obrazem od snímku ke snímku, takže aby byl detekční program účinný, bude muset být schopen identifikovat nové stopy zanechané způsobem, jakým generativní programy umělé inteligence konstruují svá videa.“
Průlomovým objevem z Drexelovy univerzity je algoritmus, který detekuje falešné snímky a obsah videa. Tento nový nástroj, nazvaný „MISLnet“, se vyvinul na základě dlouholetého odhalování falešných obrázků a videí pomocí nástrojů, které odhalují zmanipulovaná média. To zahrnuje přidávání nebo přesouvání pixelů mezi snímky, manipulaci s rychlostí klipu nebo odstraňování snímků.
Mezi hodnotami barev pixelů vytvořenými algoritmickým zpracováním digitálního fotoaparátu existuje vztah, který umožňuje fungování takových nástrojů. Tyto vztahy jsou jiné u obsahu nebo obrázků vytvořených uživatelem, například když někdo používá Photoshop. Protože obrázky a videa s umělou inteligencí nepoužívají fotoaparáty, nemají rozdíly mezi hodnotami pixelů.
MISLnet z Drexelu používá metodu zvanou omezená neuronová síť. Tato metoda rozlišuje normální a neobvyklé hodnoty na subpixelové úrovni obrázků nebo videoklipů. S přesností 98,3 % překonává tento algoritmus sedm dalších detekčních systémů uvedených ve studii.
„Již jsme viděli, že video generované umělou inteligencí bylo použito k vytváření dezinformací,“ řekl Stamm. „Jak se tyto programy stávají všudypřítomnějšími a snadněji použitelnými, můžeme oprávněně očekávat, že budeme zaplaveni syntetickými videi.“
https://www.tomorrowsworldtoday.com/innovation/new-ai-algorithm-spots-deep-fakes-with-98-accuracy/