Home Design Dagens AI-vattenstämplar är inte säkra

Dagens AI-vattenstämplar är inte säkra

205
0

Forskare från USA har undersökt hur vattenmärkning av AI-bilder fungerar och har i samband med forskningen funnit att den inte är tillförlitlig. Man kan till och med lägga till falska vattenstämplar till riktiga bilder. 

Soheil Feizi, professor i Datavetenskap vid University of Maryland säger; “Vi har ingen pålitlig vattenmärkning för närvarande”. Under forskningens gång kunde forskarna förstöra dem alla. Det var speciellt en av de två typerna av AI-vattenmärkning som fick kritik. Så kallade vattenstämplar med “låg störning”, och som är osynliga för blotta ögat, gick inte alls att använda på det sätt som avses. 

Detta är viktig forskning i världen eftersom vattenmärkning har annonserat som en lovande strategi för att identifiera AI-genererade bilder och texter. Precis som fysiska vattenstämplar är inbäddade i papperspengar och stämplar för att bevisa äkthet, är digitala vattenstämplar avsedda att spåra ursprunget av bilder och text online. Tanken är att detta skall hjälpa användare att upptäcka förfalskade bilder och böcker som skrivits av AI. 

Tidigare under 2023 lovade OpenAI, Alphabet, Meta, Amazon och flera andra stora AI-spelare att utveckla vattenmärkningsteknik för att bekämpa felaktig information. I slutet av augusti släppte Googles DeepMind en betaversion av sitt nya vattenmärkningsverktyg, SynthID. Förhoppningen är att dessa verktyg kommer att flagga AI-innehåll när det genereras, på samma sätt som fysisk vattenmärkning verifierar kontanter då de trycks av myndigheterna. 

Det är ett faktum att samhällen kan bli mycket sårbara om inte en solid teknik utvecklas för att kunna identifiera dessa slags bilder och text. Därför ligger det i allas intresse att se till att man fortsätter att arbeta för att hitta rätt lösning. 

 

Previous articleSpotify Premium utökar sina tjänster till fri tillgång till ljudböcker i flera länder
Next articleFördelar med att outsourca kundservice