Politik

»Code of Practice«

In den letzten Monaten hat das AI Office der Europäischen Union mächtig Druck gemacht, um über vier Entwürfe zu einer Art Vereinbarung zu kommen. Für eine EU-Behörde war das Tempo geradezu aberwitzig, wir von der »Task Force« beim Fotorat hatten alle Mühe, hier mitzuhalten – aber auch die hauptamtlichen Vertreter:innen der KI-Unternehmen haben sich über die Geschwindigkeit beklagt. Zum dritten Entwurf begann der Motor aber zu stottern. Eine virtuelle Konferenz wurde kurzerhand abgesagt und wir dachten schon, der gesamte Prozess wäre womöglich gescheitert – was nach Meinung einiger kein großer Verlust gewesen wäre. 

Nun kam er aber, der dritte Entwurf. Es gab ein paar kleine Verbesserungen, so wurde nicht mehr nur noch von robots.txt gesprochen, wenn es um die Möglichkeiten des Nutzungsvorbehalts (also des Opt-Outs) gegen die Verwendung unserer Bilder für das Training von KI ging. Insgesamt bleibt aber alles beim Alten: Niemand ist glücklich mit dem Entwurf, weder die KI-Unternehmen (die zu viel Bürokratie beanstanden), noch die Urheberverbände (die mangelhaften Schutz der Urheber:innen beklagen).

Für uns geht es munter weiter mit Stakeholder-Dialogen im Bundesministerium für Wirtschaft und Klima, mit der verschobenen virtuellen Konferenz des AI Office und unserer Stellungnahme zum Entwurf, der bis Ende März vorliegen muss. 

An dieser Stelle nochmals vielen Dank an alle Beteiligten, insbesondere Jürgen Scriba, der die AG im Fotorat leitet, Rechtsanwältin Sabine Richly, die den Prozess für die Initiative Urheberrecht begleitet und uns sehr hilfreich zur Seite steht, außerdem natürlich Alexander Lechner vom BFF, Katharina Uppenbrink und Matthias Hornschuh von der IU, sowie last but no least Dagmar Schwelle aus unserem Vorstand, die ich verlässlich an meiner Seite weiß.

Hier ist die offizielle Information der Europäischen Kommission:

Autorenverbände wenden sich an Henna Virkkunen und Glenn Micallef

Die Society of Audiovisual Authors hat sich mit weiteren europäische Autoren- und Künstlerverbänden in einem offenen Brief an EU-Vizepräsidentin Henna Virkkunen und Kommissar Glenn Micallef gewandt, um auf die Mängel des AI Code of Practice hinzuweisen und sicherzustellen, dass die Rechte und die Vergütung von Autor:innen und Künstler:innen respektiert werden. Wir hätten den Brief auch gerne gezeichnet, haben aber erst davon erfahren, nachdem er publiziert wurde. Hier wird einmal mehr deutlich, dass bessere Vernetzung unter den europäischen Urheber- und Fotoverbänden dringend nötig ist. Wer daran mitwirken möchte, darf sich sehr gerne bei mir melden (mail@marco-urban.de).

Mitglied des EU-Parlaments: EU hinterlässt »verheerende« Urheberrechtslücke im KI-Gesetz

Axel Voss, deutscher Europaabgeordneter und Mitgestalter der EU-Urheberrechtsrichtlinie von 2019, betont in einem Artikel des Guardian, dass die Gesetzgebung generative KI-Modelle, die Texte, Bilder und Musik auf Basis von Dateninputs erzeugen, nicht ausreichend berücksichtigt hat. Diese Lücke wurde mit dem Aufkommen von KI-Anwendungen wie OpenAIs ChatGPT offensichtlich. Er stellt fest, dass die im AI Act vorgesehene Ausnahme für Text- und Datamining (TDM) ursprünglich für begrenzte private Nutzung gedacht war, nicht für kommerzielle Ausbeutung durch große Tech-Unternehmen.
(The Guardian, 19.02.2025)

EU-Vorschriften für KI sind laut »Google« ein Schritt in die falsche Richtung

Die anderen sind auch nicht glücklich: Pieter Haeck von POLITICO berichtet, dass der der Europäischen Union vorgeschlagene, freiwillige Verhaltenskodex »Code of Practice« für fortgeschrittene KI-Modelle nach der Kritik von Spitzenmanager:innen von »Google« und »Meta« in Gefahr sei. Das sehen nicht nur die Big Techs so, auch die Urheberverbände sind höchst unzufrieden. Ich habe das ja schon im letzten Newsletter für die Task Force des Fotorates (u.a. mit Dagmar Schwelle und mir) beschrieben: Auch wir sind höchst unzufrieden. Allerdings beruht die Unzufriedenheit auf gegensätzlichen Gründen: Wir Urheber:innen sind der Meinung, dass unsere Interessen kaum vertreten werden, die Industrie beklagt, dass die Belastungen durch Transparenz und Beachtung des Urheberrechts zu hoch wären.
(POLITICO, 10.02.2025)

Neues Gutachten von Sebastian Stober: Umfassende Dokumentation von KI-Trainingsdaten ist möglich

Wenn wir unsere Rechte als Urheber:innen gegenüber KI-Unternehmen wahrnehmen wollen, müssen wir erstmal wissen, welche Bilder sie wo abgegriffen und wie verwendet haben. Das ist – wenn uns schon eine Opt-Out-Regelung aufgezwungen werden sollte – eine nachvollziehbare Forderung. Von den KI-Unternehmen wird das immer zurückgewiesen. Der Aufwand wäre zu hoch bzw. es wäre gar nicht möglich. Dabei kann man schon mit https://haveibeentrained.com sehen, dass es sehr wohl möglich ist. 

Sebastian Stober hat sich dieser Frage jetzt, gefördert durch die Verlegerverbände BDZV und MVFP, noch einmal angenommen. Seine Antwort: »Ja, es ist technisch möglich und in vielen Fällen – vor allem bei Quellen aus dem Web – trivial, die Quellen zu dokumentieren und für eine Auskunft zur Verfügung zu stellen. Dieser Artikel beschreibt im Detail, wie pragmatische Lösungen hierzu aussehen könnten.«

Künstler*innen in UK protestieren mit »Silent Album«

In Großbritannien haben über 1.000 Künstler:innen ein sogenanntes »Silent Album« veröffentlicht – ein stilles Zeichen des Protests gegen die geplante Sonderregelung der Regierung. Diese würde es Unternehmen erlauben, urheberrechtlich geschützte Werke ohne vorherige Zustimmung für das Training ihrer KI-Modelle zu nutzen. 

Die Regelung entspricht dem, wie die entsprechenden Gesetze Deutschlands und der EU aktuell vielfach interpretiert werden: KI-Unternehmen dürfen frei auf online verfügbare Werke zugreifen, wenn Urheber:innen nicht ausdrücklich per »Opt-Out«-Verfahren widersprechen. Dagegen wehren sich europäische Urheberverbände ebenfalls. 

Das Album mit dem Titel »Is This What We Want?« besteht aus zwölf Tracks, auf denen lediglich die Hintergrundgeräusche leerer Aufnahmestudios zu hören sind.

Dazu berichtet unter anderem TechCrunch (24.02.2025):

KI, Cloud, Chips: Länderchefs machen Druck bei digitaler Souveränität

Was wir ja schon länger sagen, erklären jetzt auch die Ministerpräsident:innen der Bundesländer: Die Abhängigkeit von außereuropäischen Technologieanbietern in zentralen Bereichen wie KI gefährdet Staat und Wirtschaft.

Ich sage mal: Natürlich ist es keine gute Idee, Kreativität und Daten aus Europa von US-amerikanischen und chinesischen IT-Konzernen absaugen zu lassen, um dann festzustellen, dass das Know-How und die Wertschöpfung anschließend dort verbleiben. 

Stefan Krempl dazu auf Heise.de (13.03.2025):

Neuer Video-Blog von Boris Eldagsen und Jürgen Scriba

Der Guru der bildgenerativen KI, Boris Eldagsen, und der Vorsitzende der AG Fortschritt des Detuschen Fotorates, Jürgen Scriba, haben ein neues Format gestartet, um über aktuelle Entwicklungen zu informieren. Monatlich machen die beiden jetzt einen Video-Blog.
In der Januar-Ausgabe ging es um Fortschritte bei der KI-Bild- und Videogenerierung, um Urheberrecht, regulatorische Herausforderungen, den »Code of Practice« und die Erosion des Vertrauens in die Medien. Ein toller Rundumschlag für alle, die ins Thema kommen wollen und am Thema dran bleiben wollen:

KI-Leitfaden

»Glaze« und »Nightshade« hinterlassen sichtbare Spuren 

Eine Kollegin hat das in meinem Leitfaden »Abwehr von Scraping und KI-Training« beschriebene Verfahren zum »vergiften« von KI-Modellen mit »Glaze« ausprobiert. Im Ergebnis hatten die Bilder recht deutliche Artefakte, besonders in den Flächen. Gleiches dürfte für »Nightshade« gelten. Die beiden Anwendungen sollten also nicht angewendet werden, wenn ihr eure Bilder optimal präsentieren wollt. Ich werde das im Leitfaden ergänzen.

Markt

Verwendung von KI-Bildern bei Fotoagenturen

Eine Untersuchung des Studiengangs Visual Journalism and Documentary Photography der Hochschule Hannover und des Bundesverbandes professioneller Bildanbieter (BVPA) gibt Aufschluss darüber, wie und in welchem Umfang Bildagenturen in Deutschland Künstliche Intelligenz einsetzen, und wie sie diese Technik aktuell mit Blick auf den redaktionellen Alltag bewerten.

Demnach beträgt der Anteil KI-generierter Bilder am Gesamtbildbestand der Agenturen, die überhaupt KI-generierte Bilder anbieten, nur 1,8 Prozent. Dabei beträgt der Anteil dieser Bilder am Umsatz der Agenturen 3,3 Prozent.

Recht

Urheberrechtsklagen gegen KI-Unternehmen in den USA

In den USA sind derzeit 39 Urheberrechtsklagen gegen KI-Unternehmen anhängig (Stand: 14.02.2025). 

Hier findet ihr eine passende Grafik dazu:

AFP testet Technologie zur Überprüfung der Authentizität von Fotos

Ich habe im Leitfaden gegen KI-Scraping ja schon ein paar Ansätze genannt, um die Authentizität von Fotografien sicher zu dokumentieren.

Die Nachrichtenagentur AFP hat während der US-Wahlen erfolgreich eine neue Technologie zur Überprüfung der Authentizität von Fotos getestet.

Dabei unterscheidet AFP vier Schritte:

1. Authentizität zum Zeitpunkt der Aufnahme

2. Sichere Speicherung der Originaldatei

3. Unsichtbares, fälschungssicheres Wasserzeichen

4. Mögliche Verifizierung durch das Wasserzeichen

Kennzeichnung und Verwendung von KI-Bildern bei Getty Images

Getty Images hat 2024 durch eine globale Studie herausgefunden, dass 90% der Verbraucher:innen Transparenz bei KI-Bildern wünschen.
(Getty Images, 30.04.2024)

Wie die NZZ herausgefunden hat, ignoriert Getty Images diesen Wunsch aber: »Getty und die erfundenen Fotos – wie die Bildagentur ihre Kundschaft veräppelt: Wenn Bildredaktoren bei der renommierten Agentur Getty Images Fotografien suchen, stossen sie oft auf computergenerierte Bilder, die danach der Leserschaft fälschlicherweise als Abbild der Realität angeboten werden. Eine Spurensuche entlang eines Tiefseekabels.«
(NZZ, 15.03.2025, leider Paywall)

Cornelia Diethelm, Gründerin des »Centre for Digital Responsibility« aus der Schweiz reagiert darauf: »Unsere Erwartung, dass mit Hilfe von KI erstellte oder stark veränderte Bilder deklariert werden, ist eine SACKGASSE. Viel sinnvoller wäre es, «echte Bilder» zu deklarieren. Oder braucht es in Zukunft sogar Echtheits-Zertifikate?«
(CDR, 16.03.2025)

Technik

Einmal mehr: KI-generierte Models

Eigentlich nichts Neues mehr, aber hier nochmal der Vollständigkeit halber: Mit BOTIKA kann man »stunning fashion photos with AI generated models« generieren. Gibt's sogar im Shopify App Store.

Auch das noch

Irres KI-Video zeigt Trumps Palästina-Traum

Dieses völlig irre KI-Video eines Trump-Traums des Gaza-Streifens darf hier natürlich nicht fehlen. Trump hat es wohl selbst auf seinem Truth-Social-Account gepostet.