Wien (OTS) – Im Rahmen der Eröffnung eines förmlichen Verfahrens der
Europäischen
Kommission gegen die Plattform X, unterstützt die Medienbehörde
KommAustria als österreichische Koordinatorin für digitale Dienste
die Opfer von sexualisierten Deepfakes und ersucht um Anzeige
derartiger Inhalte. Das Ziel des Verfahrens der Kommission ist es,
auf Grundlage des Digital Services Act gegen die Erstellung und
Verbreitung rechtswidrigen Bildmaterials vorzugehen. Hierzu sollen
mögliche Sorgfaltsverstöße von X im Zusammenhang mit der KI-Anwendung
Grok dokumentiert werden. Diese betreffen insbesondere die mögliche
Herstellung und Verbreitung illegal generierter KI-Inhalte. Die
Kommission verdeutlicht damit auch die Gefahr, die von der Nutzung
nicht überwachter KI-Tools ausgeht.

Hintergrund

In den vergangenen Wochen sind aufgrund von Entwicklungen des
Chatbots und der App “Grok” vermehrt Fälle bekannt geworden, in denen
auf der Plattform „X“ unter anderem sexualisierte Deepfakes ohne
Zustimmung der abgebildeten Personen angefertigt wurden. Laut einer
Studie der Organisation „AI Forensics“ sind von solchen Deepfakes zu
80 % Frauen betroffen.

Die Abbildungen können gegen verschiedene Normen des
österreichischen Rechts verstoßen. Über die Rechtslage wird die
KommAustria die Plattform informieren. Anlass dafür ist die
Ankündigung des Unternehmens, entsprechende Features nur in jenen
Gebieten zu deaktivieren, in denen derartige Inhalte verboten sind.

Aufruf zur Einbringung von Beschwerden

Betroffene sollten in einem ersten Schritt Fälle direkt bei X
unter der Meldemöglichkeit „illegale Inhalte“ melden. Informationen,
wie Nutzende illegale Inhalte auf Plattformen melden können, bietet
die Website der RTR unter
https://www.rtr.at/medien/was_wir_tun/DigitaleDienste/DSA/Deepfakes.-
html .

Zusätzlich ruft die KommAustria Betroffene dazu auf,
entsprechende Fälle auch über das Beschwerdeportal der RTR
einzureichen. Die Beschwerden werden an die Europäische Kommission
weitergeleitet und dienen als Grundlage für die Beurteilung von
Rechtsverletzungen im dem am Montag eröffneten Verfahren. Beschwerden
leisten einen wesentlichen Beitrag zur wirksamen Durchsetzung des
DSA. Zudem stellen sie eine zentrale Informationsquelle für die
Beurteilung der Einhaltung von gesetzlichen Verpflichtungen durch
Online-Plattformen dar.

Unter
https://www.rtr.at/medien/was_wir_tun/Beschwerdestelle/Beschwerdepor-
tal.de.html ist das Online-Beschwerdeportal der RTR abrufbar.

Ergänzend zur Einbringung einer Beschwerde, können Nutzer:innen
Beratung und Unterstützung zur Entfernung illegaler Inhalte auch
durch zertifizierte Trusted Flagger in Anspruch nehmen. Diese
Organisationen verfügen über prioritäre Meldewege, die ein
effizientes und schnelles Vorgehen gegen solche Inhalte ermöglichen.
Beim Verdacht von Kindesmissbrauch oder der Wiederbetätigung bietet
zusätzlich die “Stopline” der ISPA weitere Hilfe:
https://www.stopline.at/de/home .

Die Presseaussendung der Europäischen Kommission zum Verfahren
gegen X:
https://ec.europa.eu/commission/presscorner/detail/en/ip_26_203 .