Südkoreaner wegen KI-generierter Missbrauchsdarstellungen von Kindern verurteilt

In Südkorea generierte ein Mann mithilfe Künstlicher Intelligenz (KI) etwa 360 explizite Bilder von Missbrauchsdarstellungen von Kindern und muss dafür nun zweieinhalb Jahre ins Gefängnis, wie CNN berichtete. Die Bilder, die die Polizei beschlagnahmte, seien nicht verbreitet worden.

Die Staatsanwälte argumentierten, dass sexuell ausbeuterisches Material auch "virtuelle Menschen" umfassen sollte. Denn die Darstellungen seien realistisch genug, um wie echte Kinder zu wirken.

Ähnlicher Fall in Spanien

Es ist zwar das erste Urteil dieser Art, doch in Spanien leiteten Behörden wegen eines ähnlichen Falles ebenfalls Ermittlungen ein. Dort waren Bilder von minderjährigen Mädchen mithilfe von KI manipuliert worden, um ihre Kleidung zu entfernen. Die veränderten Bilder wurden in der Folge auch verbreitet. 

Ein Bursche versuchte auch eines der Mädchen mit einem manipulierten Nacktfoto zu erpressen, wie die Mutter dem Fernsehsender Canal Extremadura schilderte.

EU-Vorschriften für KI

Das EU-Parlament legte in Anbetracht des Fortschritts von KI im Juni seine Position zur geplanten Regulierung von KI fest. Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung richtet sich nach dem Grad des Risikos, das die KI erzeugen kann.

Das Gesetz verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können. 

Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Wann die Gespräche starten sollen, ist noch nicht bekannt.