Australische Forscher schufen Silverer, ein Werkzeug, das Bilder vergiftet, um KI-Missbrauch zu blockieren und jetzt mit AFP zu testen. Australian researchers created Silverer, a tool that poisons images to block AI abuse, now testing with AFP.

Australische Forscher haben ein Prototyp-Tool namens Silverer entwickelt, um KI-generierte Kindermissbrauchsmaterial und Deepfake-Betrügereien zu bekämpfen, indem sie Datenvergiftung verwenden, um persönliche Bilder zu schützen. Australian researchers have developed a prototype tool called Silverer to fight AI-generated child abuse material and deepfake scams by using data poisoning to protect personal images. Das Tool wurde vom AFP und dem AiLECS Lab der Monash University erstellt und verändert subtil die Fotos, bevor sie online geteilt werden, und bettet unsichtbare Muster ein, die KI-Modelle verwirren. Created by the AFP and Monash University’s AiLECS Lab, the tool subtly alters photos before they’re shared online, embedding invisible patterns that confuse AI models. Wenn Kriminelle versuchen, diese Bilder zu verwenden, um KI zu trainieren, sind die Ergebnisse verschwommen oder verzerrt. When criminals try to use these images to train AI, the results are blurry or distorted. Derzeit bei Tests mit dem AFP, das Tool zielt darauf ab, Barrieren für bösartige KI-Nutzung zu schaffen und kann schließlich für die Öffentlichkeit zur Verfügung stehen, um digitale Identitäten zu schützen. Currently in testing with the AFP, the tool aims to create barriers to malicious AI use and may eventually be available to the public to help protect digital identities.