KI-Influencer: Vom "Wilden Westen" und Beeinflussung

Wenn Aitana Lopez eines ihrer ästhetischen Selfies postet, häufen sich die Likes und Kommentare. Ihre scheinbar "natürliche Schönheit" wird bestaunt, beneidet, nachgeahmt. Die Krux: Von Echtheit fehlt jede Spur. 

Viele Erschaffer von KI-generierten (Künstliche Intelligenz) "Avataren", wie sie in der Tech-Welt gerne genannt werden, machen derzeit in den sozialen Netzwerken Unmengen an Geld. Aitana Lopez und ihre Kolleginnen locken immerhin viele Follower auf ihre Profile. Dass hinter den Influencern aber die Künstliche Intelligenz steckt, ist auf den ersten Blick kaum ersichtlich.

Im "Wilden Westen" der KI-Regulierung 

Eine Kennzeichnungspflicht für KI-generierte Bilder gibt es aktuell nämlich noch nicht, erklärt IT- und Software-Rechtsanwalt Tobias Tretzmüller im Gespräch mit PULS 24. "Künftig wird es das angesichts des AI-Acts aber geben", meint er. Der "Artificial Intelligence Act", kurz AI-Act, soll Künstliche Intelligenz auf EU-Ebene umfassend regeln.

Erst am Freitag nahm das weltweit erste Gesetzespaket für KI mit der Zustimmung der EU-Länder die erste Hürde. Vorgeschrieben wird damit auch, dass Entwickler KI-generierte Texte, Töne und Bilder eindeutig kennzeichnen müssen. Das Regelwerk ist zudem die Basis für dementsprechende Gesetze hierzulande. 

Die KI bedient sich jeglicher Bildquellen für die Erstellung von Fotos, ein Urheber muss nicht angegeben werden. Auch hier ortet Tretzmüller eine baldige Besserung. "Ich vergleiche das alles immer mit dem Wilden Westen. Man wird erst im Nachhinein draufkommen, dass in vielen Fällen etwa das Urheberrecht verletzt wurde", so der Experte.

Auftreten von KI-Influencern "wenig überraschend" 

Angesichts der rapiden Ausbreitung von KI-Influencern wie Emily Pellegrini in den sozialen Medien wurde der Ruf nach Regulierung zuletzt immer lauter. Dass sich Fake-Bilder aufgrund von Software wie ChatGPT schnell verbreiten, ist für Sepp Hochreiter, KI-Pionier und Forscher an der Johannes-Kepler-Uni Linz (JKU), allerdings wenig überraschend. Immerhin seien die KI-generierte Bilder, Texte und Videos sehr realistisch. 

Laut Hochreiter sei der derzeitige Stand der Entwicklungen auch erst der Anfang. "Künftig könnten auch ganze Hollywood-Filme mit KI-basierten Schauspielern produziert werden. Da ist die Technologie schon sehr weit fortgeschritten", führt er aus.

KI als politische Instrumentalisierung? 

Fortgeschritten ist die Technologie auch, was Texte betrifft. So können KI-Models auf Seiten wie "Candy.ai" oder "Fanvue" kommunizieren - und durchaus stringent argumentieren. So können die sogenannten "KI-Girlfriends" auf Candy.ai über Politik philosophieren.

Eine Entwicklung, die aus ethischer Sicht durchaus bedenklich ist, vor allem in Hinblick auf das anstehende Superwahljahr.

Hochreiter ortet diese Bedrohung schon länger: "Ich sage immer schon, die KI wird uns nicht ausrotten, viel größer ist die Gefahr, dass sich Filterblasen bilden". Das eigene Handy oder diverse Communitys könnten Nutzer:innen nur mehr mit jenen Inhalten füttern, die von eigenem Interesse sind. So könnte man sich mehr und mehr von der "realen Welt abkopplen", befürchtet der Forscher. 

Hürden für die KI werden zusehends kleiner

Im Gegensatz zu Texten können KI-generierte Bilder laut Hochreiter bis dato noch einfacher entlarvt werden. So fehle es der KI an "Weltwissen". Dinge, die sich im Hintergrund eines Bildes befinden, würden oft nicht echt aussehen. "Früher tat sich die KI auch mit Symmetrien schwer, bei Augen zum Beispiel", so der Experte. 

Mittlerweile gibt es auch eigene KI-Methoden, die ein generiertes Bild erkennen sollen, sagt er. Die "Baustellen" der Künstlichen Intelligenz werden aber mit Voranschreiten der Technologie immer kleiner und Bilder damit echter.

Bis die Vorschriften des AI-Acts aber vollständig in Stein gemeißelt sind, wird wohl noch etwas Zeit verstreichen. Bis dahin steht Aitana Lopez' makellosen Selfies vorerst kaum etwas im Weg.