Zástupci OpenAI a Mety na jednání federálního soudního výboru v Bostonu upozornili, že falešné zvukové a obrazové důkazy vytvářené AI bude stále těžší rozpoznat. Podle jejich vystoupení už samotné lidské posouzení ani detekční software nemusí spolehlivě odlišit syntetický materiál od autentického záznamu. Výbor řeší, jak ověřovat původ důkazů a jejich spolehlivost.
OpenAI zároveň varovala, že neexistuje univerzální způsob, jak odhalit všechny digitální vodoznaky, protože výrobci používají různé systémy. Nejde přitom o potvrzení masového výskytu falešných důkazů u soudů. V březnovém průzkumu uvedlo zkušenost se zpochybněným deepfake důkazem jen 15 z 931 soudců. Debata proto míří hlavně na přípravu pravidel před dalším rozšířením této technologie.
