Mit handelsüblichen KI-Modellen und einfachen Befehlen lassen sich die Sicherheitsvorkehrungen von Bildern im Internet zum Training selbstlerndender Algorithmen für Stilnachahmung und Deepfake-Manipulationen austricksen. Diese kritische Schwachstelle hat Bimal Viswanath von der Virginia Polytechnic Institute and State University entdeckt.
"Derzeit gibt es keine narrensichere, mathematisch garantierte Möglichkeit, öffentlich gepostete Bilder vor Angreifern zu schützen, die handelsübliche KI-Modelle verwenden", so Viswanath. Er, seine Doktoranden Xavier Pleimling und Sifat Muhammad Abdullah sowie Peng Gao von der University of Texas und Gunjan Balde und Mainack Mondal vom Indian Institute of Technology haben diese Sicherheitslücke anhand von acht Fallstudien demonstriert.
Die Schwachstellen betreffen ein breites Spektrum an Abwehrmassnahmen, darunter Masssnahmen zum Schutz spezifischer semantischer Eigenschaften wie der Gesichtskennzeichen einer Person und unsichtbares "Schutzrauschen", das das Bild entstellt, wenn es unberechtigt genutzt wird - doch all das hilft offenbar kaum.
"Unser universeller Angriff umgeht nicht nur alle Abwehrmassnahmen, sondern übertrifft sogar heute genutzte Angriffe, die speziell auf bestimmte Schutzmassnahmen abzielen. Aktuelle Sicherheitsmethoden vermitteln ein falsches Gefühl der Sicherheit. Wir müssen dringend robuste Abwehrmechanismen entwickeln und sicherstellen, dass jeder künftige Schutzmechanismus Angriffe durch handelsübliche generative KI-Modelle abwehren kann", fordert Viswanath
Das bedeutet laut dem Experten von der Virginia Polytechnic Institute and State University, dass die Cyber-Sicherheits-Community ihren Ansatz zur Sicherung visueller Inhalte grundlegend zu überdenken hat. "Jeder künftige Schutzmechanismus muss anhand einfacher, textgesteuerter Angriffe durch weitverbreitete, handelsübliche KI-Modelle streng getestet werden und darf nicht nur anhand spezialisierter, zweckgebundener Angriffe bewertet werden", ergänzt Viswanath.
Entwickler sollten dem Wissenschaftler nach auch beachten, dass sich KI-Bild-zu-Bild-Modelle im Laufe der Zeit weiter verbessern werden, was die Abwehrmassnahmen potenziell erschweren könnte. Die aktuelle Studie wird auf der Plattform Arxiv vorgestellt, die die Cornell University herausgibt.
