Falsche Verdächtigung der KI-Nutzung und „KI-Detectoren“ – bitte tut das nicht!

In letzter Zeit bekomme ich es leider immer häufiger mit, dass Menschen im Internet anderen Menschen ohne Grundlage oder Beweise der ungekennzeichneten Nutzung von generativer KI vorwerfen. Sprich – Kunstschaffende werden beschuldigt, ihre Werke wären mit genKI erstellt, es werden Outcalls gestartet und dann – vermeintliche – Hinweise in den Raum geworfen.

Und ich möchte an dieser Stelle dringlichst darum bitten, das sein zu lassen, wenn ihr keine Beweise habt. Solche Vorwürfe können extrem schädigend sein, wenn sie ungerechtfertigt in den Raum geworfen werden (Ich spreche da aus Erfahrung, mir wurde auch schon KI-Nutzung vorgeworfen bei Bildern, wie etwa meinen Pandas – welche meine FRAU für mich erstellt hat, ganz ohne KI).

Warum es gefährlich ist und für wen

Zuerst einmal ist es gefährlich für Kunstschaffende, weil allein der Vorwurf bereits rufschädigend sein kann. Und ein geschädigter Ruf ist nur schwer zu reparieren – was einen Verlust an Aufträgen und Umsätzen zur Folge haben kann.

Und natürlich ist es auch gefährlich für euch selbst. Denn wenn ihr ohne jegliche Beweise solche Vorwürfe äußert – und das zudem noch im Internet, also öffentlich – kann die beschuldigte Person euch juristisch haftbar machen. Denn das ist ggf. Verleumdung (§ 187 StGB) bzw. Üble Nachrede (§ 186 StGB). Und es gibt durchaus Artists, die das auch zur Anzeige bringen.

Die Falle mit den „KI-Detektoren“

„Ich habe das Bild durch einen Detektor gejagt, der sagt, das Bild ist KI!“

Wer auf Google sucht, stößt unweigerlich auf Webseiten, welche anbieten, Bilder auf KI-Hinweise zu scannen und dann anzugeben, ob und wie wahrscheinlich das Bild generiert ist.

Diese Detektoren basieren jedoch selbst auf genKI, sind auch fehleranfällig – und ebenso juristisch gefährlich. Denn wenn ihr ein fremdes Bild in diese Detektoren hochladet, begeht ihr in dem Augenblick einen Verstoß gegen das Urheberrecht. Ihr ladet ein Bild auf einen Server, welches euch nicht gehört. Auch dafür kann eine kunstschaffende Person euch anzeigen, wenn das rauskommt. Und ein tatsächlich stichfester Beweis für genKI-Nutzung sind diese Detektoren aufgrund der Fehlerquote auch nicht.

Zudem sind viele dieser Seiten auch noch übler Scam; Sie täuschen eine Prüfung vor, wo keine ist, um euch „Premium-Versionen“ zu verkaufen, welche ANGEBLICH genauer erkennen würden.

Wie erkenne ich nun KI?

Einen guten Ansatz zur Erkennung von KI-Bildern findet ihr hier. Die schlechte Neuigkeit vorneweg: Ihr kommt nicht drumherum, eure eigenen Augen zu verwenden und genau zu schauen.

Ich kopiere euch hier mal die Angaben des BSI noch einmal rein:

• Realismus: Überprüfen Sie, ob das Bild realistische Szenarien darstellt oder auf übertriebene, unwahrscheinliche Ereignisse setzt. Sehr extreme Darstellungen können ein Hinweis auf eine KI-Generierung sein, um Meinungsbildung zu betreiben.
• Darstellung von Details: Achten Sie auf unscharfe Details oder fehlerhafte, komplexe Strukturen. Prüfen Sie, ob Schmuck und Accessoires verzerrt wirken oder unnatürliche Kanten aufweisen. Besonders im Hintergrund sind Details wie Bildschirme oft verschwommen oder nicht zusammenpassend. Generell kann ein übermäßig unscharfer Hintergrund ein Hinweis auf KI-Erzeugung sein.
• Reflexionen und Schatten: Kontrollieren Sie, ob Lichtreflexionen und Schatten konsistent und physikalisch plausibel wirken. Unstimmigkeiten im Schattenwurf oder nur teilweise vorhandene Reflexionen deuten auf ein KI-generiertes Bild hin.
• Übergänge und Muster: Prüfen Sie Übergänge zwischen Mustern und Texturen (z. B.  Stuck an der Decke, Verzierungen o.ä.) auf abrupt unterbrochene oder unnatürliche Verläufe. Solche Fehler treten oft bei komplexen Texturen auf. Insbesondere wenn ein Objekt ein anderes Objekt überdeckt, passt die Fortführung im Hintergrund nicht immer zusammen.

• Physikalische Phänomene: Vergewissern Sie sich, dass Objekte korrekt positioniert sind – etwa, dass sie nicht in der Luft schweben, Wasser nach unten fließt etc.
• Proportionen und Geometrie: Achten Sie auf natürliche Größenverhältnisse und korrekte Geometrie im Bild. Unnatürliche Proportionen (z.B. Körperformen, Extremitäten etc.) oder verzerrte Formen können starke Indikatoren für eine KI-Erzeugung sein.
• Fluchtpunkt: KI-generierte Bilder verraten sich manchmal durch falsche Perspektiven. Linien, die in der Realität parallel „nach hinten“ (nicht parallel zum oberen und unteren Bildrand) verlaufen (z.B. bei Tischkanten, Bodenfliesen, Straßen etc.), sollten sich bei gedachter Verlängerung in genau einem Punkt – dem Fluchtpunkt – am Horizont schneiden. Bei KI-Bildern ist die Perspektive manchmal unnatürlich oder uneinheitlich und die gedachten Linien schneiden sich in unterschiedlichen Punkten.
• Hände: Überprüfen Sie die Anzahl der Finger, deren Proportionen und Anordnung. Fehler bei der Darstellung von Händen sind ein klassisches Merkmal KI-generierter Bilder.
• Gesichter: Analysieren Sie Gesichter auf unnatürliche Symmetrie oder fehlerhafte Details bei Augen, Ohren, Haaransatz und Zähnen.
• Texte: Manche KI-Bildgeneratoren haben Schwierigkeiten, Text korrekt darzustellen.  Kontrollieren Sie, ob Texte auf Schildern oder anderen Objekten korrekt und schlüssig dargestellt werden. Rechtschreibfehler und unstimmige Proportionen können ebenso wie unscharfe Buchstaben oder inkonsistente Farben auf KI-Erzeugung hindeuten.

Im Zweifel für den Angeklagten

Aber auch bei Hinweisen wie oben kann man sich mal irren. Darum ist es wichtig: Wenn ihr euch nicht zu mindestens 1000% sicher sein könnt, dann unterstellt keine KI-Nutzung. Weist neutral auf die Hinweise hin („Bild XY zeigt diese Hinweise), ohne aber die Formulierung anzuwenden „XY verwendet KI“. Und wenn ihr Beweise habt, dann gebt diese immer direkt mit an und erläutert diese.

euer

Beriel