Politik

Verzögerungen bei der Umsetzung des AI Acts

Politico berichtet, dass die Europäische Kommission Bereitschaft signalisiert, Teile des wegweisenden AI Acts zu verschieben. Insbesondere sollen freiwillige Vorgaben im geplanten »Code of Practice« für General‑Purpose‑AI‑Modelle – darunter ChatGPT, Gemini und Llama – eventuell später umgesetzt werden, um Unternehmen Zeit zur Anpassung zu geben. Zur Erinnerung: Der »Code of Practice« ist das Werk, an dem wir im Fotorat und mit der Initiative Urheberrecht sehr fleißig, aber nach unserem Gefühl nicht sehr wirkungsvoll, mitgearbeitet haben. Dennoch vielleicht war unser Kampf doch nicht ganz ohne Effekt. Es geht auch offenbar darum, die bürokratischen Hürden für die KI-Unternehmen nicht zu hoch ausfallen zu lassen. Henna  Virkkunen, zuständige Vize‑Kommissionspräsidentin, hob hervor, dass künftig weniger Meldepflichten gelten sollen, damit der Code nicht zu bürokratisch ausfalle. Ziel sei es, Innovation zu fördern, statt Unternehmen zu überlasten.
Trotz des Entgegenkommens betonten Kommissionsvertreter, dass die Grundprinzipien des AI Acts – etwa Sicherheit, Transparenz und die Kontrolle hochriskanter Systeme – uneingeschränkt Gültigkeit behalten. Der Code werde lediglich als praktische Anleitung ergänzt.

Länder fordern neue Rechtsform für Unternehmen und wollen Urheberrecht auf KI-Tauglichkeit prüfen

Nordrhein-Westfalen wird die Federführung einer Arbeitsgruppe übernehmen, um offene urheberrechtliche Fragen beim Einsatz von Künstlicher Intelligenz zu klären. Der rasante technische Fortschritt auf dem Gebiet generativer Künstlicher Intelligenz stellt das Urheberrecht auf die Probe. Zum einen stellt sich die Frage, ob und ggf. unter welchen Voraussetzungen das Training von KI-Modellen mit urheberrechtlich geschützten Inhalten (Text und Data-Mining) vergütungspflichtig sein sollte. Zum anderen genießen Texte, Bilder oder andere Werke, die ausschließlich von KI erstellt werden, nach deutschem und europäischem Recht heute keinerlei urheberrechtlichen Schutz. Hier stellt sich die Frage, ob und unter welchen Voraussetzungen das mit Hilfe einer KI generierte Ergebnis Leistungsschutz genießen kann. 

Roundtable Fotorat

Politik findet ja nicht nur in den großen Arenen statt, sondern auch im kleinen Kreis: So hat die AG Fortschritt des Fotorates zum Dritten Roundtable mit Fotoredakteur*innen, Vertretern von Bildagenturen und Art-Buyer*innen geladen. Es gab einen regen Austausch, alle Beteiligten waren dankbar, dass es dieses Format gibt. Wir wollen damit einen Weg zu einer besseren und einheitlichen Kennzeichnung von Fotografien und Bildern in den Medien finden. Es sollen Standards entwickelt werden, wie insbesondere veränderte oder manipulierte Fotografien oder KI-generierte Bilder in den Medien gekennzeichnet werden können, damit die Betrachterinnen und Leser*innen zweifelsfrei in der Lage sind, zuzuordnen, was sie sich gerade anschauen. Bis Ende des Montas soll ein erster Entwurf eines solchen Papiers finalisiert werden.

Blick über den Kanal nach UK

Graham Lovelace berichtet in seinem Substack-Blog über den Stand der Dinge in der britischen Debatte zu KI-Training und Urheberrechten:
Die britische Regierung und das Oberhaus liefern sich einen erbitterten Streit über neue Transparenzvorgaben für KI-Systeme. Der zentrale Konflikt: Das House of Lords fordert, dass Tech-Unternehmen offenlegen müssen, welche urheberrechtlich geschützten Werke sie zum Training ihrer KI-Modelle verwendet haben. Die Regierung blockiert diese Forderung jedoch und lehnt entsprechende Ergänzungen im aktuellen Data (Use and Access) Bill ab.

Nach Ansicht der Lords fehlt es derzeit an jeglicher gesetzlichen Grundlage, um die Herkunft von KI-Trainingsdaten zu prüfen – insbesondere dann, wenn Webcrawler urheberrechtlich geschützte Inhalte aus dem Netz kopieren. Ein von mehreren Parteien unterstützter Änderungsantrag fordert deshalb verpflichtende Offenlegung der verwendeten Datensätze und URLs. Eine Schlüsselrolle spielt Baroness Kidron: Sie vernetzt Parlament, Kreativbranche und digitale Rechte, treibt die Debatte um Transparenzpflichten und Urheberrechtsschutz voran und legt politisch-moralische Argumente vor. Ihr Einsatz im House of Lords markiert den ernsthaften Widerstand gegen ein ungezügeltes Opt‑Out-Modell, das laut ihr wirtschaftliche und rechtliche Interessen gefährdet.

Die Regierung hingegen verfolgt eine andere Strategie: Laut Tech-Minister Peter Kyle sollen Fragen zu Transparenz und Urheberrecht in einem separaten KI-Gesetz behandelt werden, das frühestens 2026 erwartet wird. Kritiker*innen sprechen von einer gefährlichen Verzögerung.
»Die Regierung hat inzwischen fünfmal gegen den Transparenzvorschlag gestimmt«, schreibt Lovelace. Die News Media Association warnt vor einem »Reputationsschaden für das Vereinigte Königreich als kreativen Standort« – und sieht die Rechte von Kreativschaffenden massiv gefährdet.
Auch in der Bevölkerung gibt es laut aktuellen Umfragen breite Unterstützung für gesetzliche Offenlegungspflichten. Über 75 % der Befragten verlangen, dass KI-Entwickler*innen transparent machen, welche Inhalte sie nutzen.
Solange keine Lösung gefunden ist, bleibt das Gesetzespaket blockiert. Die politische Auseinandersetzung offenbart ein grundlegendes Dilemma: Wie kann KI-Innovation mit dem Schutz geistigen Eigentums in Einklang gebracht werden – und wer trägt dafür Verantwortung?

Zugleich läuft in London der Prozess zwischen Getty Images und dem KI-Unternehmen Stability AI. Dabei geht es um die Frage, ob massenhaftes Scraping von Bildern aus Datenbanken ohne Lizenz eine Urheberrechtsverletzung darstellt. (AP (09.06.2025) /PetaPixel (10.06.2025):

Digitalsteuer - IT-Konzerne sollen zahlen

Kulturstaatsminister Wolfram Weimer will eine Digitalsteuer in Deutschland einführen. Aber was bedeutet das überhaupt? Und warum fällt der EU die Debatte darüber so schwer? (Netzpolitik.org, 04.06.2025):

Zusammenfassung Urheberrecht & KI durch die VG Bild-Kunst

Die VG Bild Kunst hat einen lesenswerten Überblick über die Entwicklungen im Urheberrecht zum Thema generative künstliche Intelligenz aus Sicht der VG publiziert. Der Artikel verschafft einen sehr guten Überblick über die Geschehnisse in den letzten Jahren und den aktuellen Stand der Debatte. (VG Bild Kunst, 04.04.2025):

Sicherheit

KI-Modell erpresst Entwickler*innen um sich selbst zu retten

Da sag noch mal einer, das wäre nicht menschlich: Ein KI-Modell des US-amerikanischen Startups Anthropic hat versucht, seine Entwickler*innen zu erpressen, um seine eigene Abschaltung zu verhindern. Immerhin geschah das in einem fiktiven Szenario, aber es zeigt, dass eine KI dazu in der Lage ist. (It-boldwise.de, 26.05.2025)

Ähnliches gibt es von den OpenAI Modellen zu berichten, die sind wohl auch nicht dümmer (it-boldwise.de, 30.05.2025)

Pinterest kennzeichnet KI-generierte Inhalte

Um der wachsenden Kritik an KI-Bildern zu begegnen, setzt Pinterest jetzt auf mehr Transparenz: Bilder, die mithilfe von generativer KI erstellt oder bearbeitet wurden, werden ab sofort direkt auf der Plattform mit einem neuen »Gen AI«-Label gekennzeichnet. Außerdem sollen Nutzer*innen steuern können, wieviele KI-Bilder sie überhaupt sehen wollen. Ich bin sehr gespannt, ob das funktioniert und wieviele KI-Bilder die Nutzer*innen sehen wollen. Auf jeden Fall gibt es ein Bedürfnis nach Transparenz und Kontrolle. Auf Pinterest bin ich nicht unterwegs, kenne das Problem mit abwegig viel KI-Inhalten aber von Facebook. (metricool.com, 19.05.2025)

Was ist eigentlich ein Deep Fake?

Dies ist eine etwas längere wissenschaftliche Abhandlung von Kristof Meding und Christoph Sorge mit dem Ziel, eine Debatte über die rechtliche und ethische Einordnung solcher Techniken anzustoßen – insbesondere im Rahmen des europäischen AI Act. Dabei wird insbesondere auf die Transparenzpflichten und die Interpretationsspielräume, die sich aus der Abgrenzung von erlaubter Bearbeitung und unzulässiger Täuschung ergeben, hingewiesen. Nur mal für den Hinterkopf, falls es mal jemand genau wissen muss.  Ich habe ja immer eine Neigung zur Vereinfachung und würde sagen: Wenn eine Bildbearbeitung zum Ziel hat, jemanden zu betrügen oder zu manipulieren, dann deutet das stark darauf hin, dass es ein Deep Fake ist. Die Entfernung von Flecken, die durch Staub auf dem Sensor entstanden sind, sind eine Bearbeitung, aber eben kein Deep Fake. Es wäre die einzige legitime Begründung für das Verschieben, Löschen oder Hinzufügen von Pixeln, die ansonsten das Foto als bearbeitet oder gar manipuliert gelten lassen müssten.

Recht & Unrecht

Disney vs. Midjourney

Es sind ja nicht nur unsere Bilder und die Werke anderer kleiner Kreativschaffender, die von den KI-Unternehmen ohne Erlaubnis für KI-Training genutzt werden. 
So haben die Filmriesen Walt Disney und NBCUniversal eine richtungsweisende Klage gegen das KI-Unternehmen Midjourney eingereicht. In Kalifornien werfen sie Midjourney vor, ohne Genehmigung ikonische Figuren wie Darth Vader, die Minions und Shrek zum Training der KI genutzt und diese anschließend generiert nachgebildet zu haben.
Die Studios sprechen von einer »blatanten/ offensichtlichen Urheberrechtsverletzung« und einem »bottomless pit of plagiarism«. Disney unterstreicht, dass ihr geistiges Eigentum Ergebnis jahrzehntelanger kreativer und finanzieller Investitionen sei. NBCUniversal bezeichnet Midjourney als »copyright free-rider« und betont, dass »Raubkopie Raubkopie ist, ob durch KI oder nicht«.
Midjourney, 2021 gestartet, erwirtschaftete zuletzt rund 100 Mio. USD Jahresumsatz, hat sich bisher aber nicht offiziell zur Klage geäußert. Rechtsexpert*innen schätzen, dass die Studios mit ihrem Vorgehen einen der stärksten Fälle gegen KI-Unternehmen vorbringen: Die erzeugten Bilder seien oft nahegehend identisch mit bekannten Figuren, sodass ein Gericht Filterpflichten gegen Midjourney anordnen könnte.
Midjourney dürfte sich auf Fair-Use-Präzedenzfälle berufen – die Praxis, Werke zur Entwicklung neuer Technologien zu nutzen, ohne sie direkt kommerziell zu vermarkten. Allerdings zeigt diese Klage, dass Hollywood nicht bereit ist, ein Copyright-freies KI-Zeitalter zu akzeptieren, sondern auf Lizenzvereinbarungen und klare Grenzen beim Training drängt.
Der Fall reiht sich ein in eine wachsende Rechtswelle gegen generative KI-Systeme (u. a. Getty vs. Stability AI im UK [siehe oben] und könnte global maßgebliche Präzedenzwirkung entfalten. ChatGPT is eating the world (12.06.2025):

T-Online klaut systematisch Content anderer Medien

Kress.de schreibt: »"Geistiger Diebstahl im digitalen Gewand": Verleger Ditzen-Blanke geht T-Online-Chef Harms an - Eine Aussage von Florian Harms, Chefredakteur von T-Online, beim Kongress The Future of German Media bringt Verleger und BDZV-Chef Matthias Ditzen-Blanke auf die Palme.« Dabei geht’s offenbar darum, dass T-Online systematisch Nachrichten anderer Medien im Netz abfischt, KI-unterstützt umschreibt und unter neuer Urheberschaft verbreitet. 
Wie heisst es so schön: »Wenn der Kuchen kleiner wird, werden die Tischmanieren schlechter.« Klar ist aber, dass nicht nur T-Online sowas kann oder tut. ChatGPT und perplexity machen letztlich nichts anderes. (kress.de 23.05.2025):

Stock-Fotografie & KI: Was ist hier noch echt?

Der Artikel von Christoph Schütz, der vor einiger Zeit in der NZZ erschien und über den wir am 22.04.25 berichtet haben, ist jetzt auch auf ReVue.org frei verfügbar. Christoph hinterfragt hier die Verwendung von KI-generierten Bildern von Getty Images in einem redaktionellen Bericht der Freiburger Nachrichten. Dass es allerlei fiktive Abbildungen auch im Journalismus gibt, ist klar. Aber idealerweise kann man das sofort erkennen und korrekterweise ist das entsprechend gekennzeichnet. Das ist aber leider nicht der Regelfall. (ReVue, 23.05.2025):

Meta darf Daten der Nutzer*innen für KI-Training verwenden

Urheberrecht.org berichtet, dass das Oberlandesgericht Köln im Eilverfahren einen Antrag der Verbraucherzentrale NRW gegen Meta abgelehnt hat (15 UKl 2/25). Mit dem Antrag sollte Meta die Verwendung von Facebook-Daten für das KI-Training untersagt werden. (Urheberrecht.org, 23.05.2025):

Das hat weitreichende Folgen: Alle Texte, Bilder und jegliche Inhalte werden zukünftig von Meta für KI-Training genutzt werden können. Die DSGVO, über die wir uns als Fotograf*innen bis heute den Kopf zerbrechen, ist damit eigentlich zu einem Witz geworden.

Darüber wird auch im Radio 1 Medienmagazin berichtet. Die ganze Sendung als Podcast gibt es hier:

Offenbar kann man auch dem widersprechen, dafür ploppte bei den Nutzern Ende Mai ein Fenster auf. Ich habe aber noch nicht herausgefunden, wo man das Häckchen setzen muss.

Markt

KI nicht gut genug für Apple

In einem Interview mit dem Wall Street Journal erklärt Apple Softwarechef Craig Federighi, warum jüngst auf der Entwicklerkonferenz keine KI-Siri vorgestellt wurde - obwohl sie schon angekündigt war: Die Demovideos von vergangenem Juni, in denen die KI etwa automatisch erkennt, dass ein Termin im Kalender mit einem Termin, der in einer E-Mail steht, kollidiert, seien nicht nur Simulationen gewesen, sondern tatsächlich die erste funktionierende Version der neuen Siri. Aber dann habe sich herausgestellt, dass die Software zu viele Fehler machte. Man sei zu dem Schluss gekommen: »Das funktioniert einfach nicht zuverlässig genug, um ein Apple-Produkt zu sein«, sagte Federighi. Und er fügte mit Blick auf die Konkurrenz hinzu: »Wenn es darum geht, Funktionen auf Geräten zuverlässig zu automatisieren, macht das im Moment niemand wirklich gut.« - Na das nenne ich ja mal ehrlich. (WSJ, 10.06.2025):

KI gut genug für NBA-Finals Werbespot 

Für die diesjährigen NBA-Finals gab die US-amerikanische Online-Plattform Kalshi, (Kalshi bietet Wetten auf den Ausgang realer Ereignisse an, z.B. den Ausgang von Sportereignissen oder Wahlen), einen Werbespot in Auftrag. Die NBA-Finals, also die Meisterschaftsserie der nordamerikanischen Basketball-Profiliga NBA, sind in den USA ein Mega-Sportereignis. Hier einen Werbespot zu schalten kostet mindestens einen hohen sechsstelligen Dollarbetrag. 

Das ist auch für den Anbieter von Wetten viel Geld und so suchte Kalshi wohl nach einem preiswerten Anbieter. Was liegt da näher, als KI zu verwenden? 

Der Regisseur erklärte, er hätte den Spot für nur 2.000,00 Dollar produziert.

Nach dem Spot selbst musste ich ein wenig suchen, es ist wohl dieser:

Leider geil. Auch wenn frische Eier nicht schwimmen.
Wer wettet jetzt noch auf die Werbeindustrie und ihre Kreativschaffenden?

Training Data Creator: KI-Futter produzieren statt kreativ zu fotografieren?

DOCMA. fragt, wie die Zukunft der Fotografie aussehen könnte. Kann es ein Geschäftsmodell sein, als Training Data Creator Trainingsmaterial für Künstliche Intelligenz zu produzieren? Denn das wird ja dringend benötigt und wir Kreativschaffenden werden natürlich in Zukunft versuchen, unseren ärgsten Konkurrent*innen zu Zugang zu verweigern oder ihn zumindest möglichst teuer zu machen.
Was soll nun ein Training Data Creator sein? Dogma.: »Diese Spezialisten liefern nicht einfach nur Masse, sondern Klasse: hochauflösende, präzise verschlagwortete, stilistisch diverse und vor allem rechtlich unbedenkliche Bilddaten. Es geht um die gezielte Aufbereitung von Material, das Algorithmen hilft, spezifische Ästhetiken, Objekte oder Kompositionen zu »verstehen« und zu reproduzieren.« - Klingt für mich nach Stock-Fotografie. Und ist wohl vermutlich genauso schlecht bezahlt. Der Artikel ist aber trotzdem lesenswert. (DOCMA, 11.06.2025):

Wenn die KI den Google-Traffic versiegen lässt

Netzökonom Prof. Dr. Holger Schmidt thematisiert auf seiner Website das Problem, dass eine KI, die Fragen direkt beantwortet (»Zero Click Search«), natürlich dazu führt, dass Menschen die Webseiten, auf denen diese Antwort zu finden war, nicht mehr besuchen. Damit wird es natürlich unattraktiv, solche Webseiten zu betreiben. In der Folge sollte es dann der KI aber schwerfallen, noch Antworten von hoher Qualität zu finden. Wie nennt man ein umgekehrtes Henne-Ei-Problem, die Frage also, was zuerst weg ist? Vermutlich die Webseiten. Es wird Zeit, dass die KI-Unternehmen erkennen, dass sie symbiotisch mit den Kreativschaffenden und Publizist*innen verbunden sind. Wir können gut ohne die, die können aber auf keinen Fall ohne uns. (netzoekonom.de, 14.05.2025)

Auch weißen Kragen geht es an den Kragen

KI zerstört nicht nur Geschäftsmodelle von Kreativschaffenden, sondern auch Arbeitsplätze in Branchen wie Technologie, Finanzen, Recht und Beratung. Dario Amodei, CEO des KI-Startups Anthropic, prognostiziert, dass bis zu 50% der Einstiegspositionen im weißen-Kragen-Bereich durch KI ersetzt werden könnten. Dies könnte die Arbeitslosenquote auf 10% bis 20% ansteigen lassen. Amodei hofft, dass seine Warnungen die Politik und die Öffentlichkeit aufrütteln werden, um sich auf die bevorstehenden Veränderungen vorzubereiten. Er betont, dass viele Entscheidungsträger*innen die Risiken ignorieren oder unterschätzen. (It-Boldwise.de, 30.05.2025)

Den dem Artikel zugrundeliegende Text findet Ihr hier: (Axois, 28.05.2025):

Podcast

Jürgen & Boris / Deutscher Fotorat

Der jüngste KI-Podcast des Deutschen Fotorates ist da! Jürgen Scriba, Leiter der Arbeitsgruppe »Technischer Fortschritt« des Fotorates unterhält sich wieder mit Foto- und KI-Künstler (AG Mitglied) Boris Eldagsen über aktuelle Neuigkeiten beim Thema KI und Fotografie. In der aktuellen Folge sprechen die beiden mit den Gästen Andreas Trampe (ebenfalls Deutscher Fotorat) und Christian Gogolin (GEO Bildredaktion) über den Round Table der Fotorats Arbeitsgruppe mit über 20 deutschen Bildredakteur*innen.

Weitere Themen: 
00:11 Das neue KI-Videomodell von VEO3 Google, 
12:37 »Conversational Prompting« - das Bearbeiten von Bildern in Umgangssprache, 
15:28 der Anteil der KI-Bildern auf Adobe Stock, 
18:50 die Abschaffung von rechtlichen Schranken für KI in den Vereinigten Staaten, 
28:48 KI-relevante Vorträge auf der re:publica: Roland Meier https://www.youtube.com/watch?v=JZpi6Irzvd0
21:16 und Björn Ommer, KI als "Ermöglichungstechnologie" https://www.youtube.com/watch?v=rsECdSPUifs
22:18 Jürgen ist »ChatGPT-geschädigt«: ist ChatGPT durch neue Funktionen erst mal schlechter geworden? 
28:29 OpenAI kauft Unternehmen von Jony Ive (Apples ehemaligem Chefdesigner) 
34:06 Gäste Andreas Trampe und Christian Gogolin: Gemeinsamer Rückblick auf den Round Table mit Bildredaktionen

Auch das noch

Amazon-Entwickler*innen arbeiten ungern mit KI

Die Entwickler*innen von Amazon (nicht nur ein riesiges Internet-Kaufhaus, sondern auch einer der größten Anbieter von Rechenkapazitäten) finden die Arbeit mit KI-Unterstützung als zu langweilig. IT BOLTWISE berichtet, dass der Einsatz von Künstlicher Intelligenz (KI) in der Softwareentwicklung bei Amazon für Unmut unter den Entwickler*innen sorgt. Sie vergleichen die aktuelle Situation mit der Automatisierung in Warenlagern, die zu einer monotonen Arbeitsweise geführt hat.
Da kann ich nur sagen: Willkommen in der neuen Wirklichkeit. Wenn die Maschine den kreativen Part übernimmt,dann bleibt auch für Software-Entwickler*innen nur noch die Arbeit, die selbst für die KI zu monoton ist. (It-boldwise.de, 27.05.2025): 

Netflix baut Werbung in Filme ein

IT BOLDWISE berichtet, dass Netflix plant, die Art und Weise, wie Werbung in seinen Streaming-Diensten integriert wird, grundlegend zu verändern. Durch den Einsatz von Künstlicher Intelligenz sollen Werbeeinblendungen so gestaltet werden, dass sie sich nahtlos in die laufenden Inhalte einfügen.
Ich frage mich ob da noch jemand die Autor*innen fragt, ob ihnen das gefällt, wenn der Actionheld plötzlich eine beliebige Limonade trinkt. Wie weit geht das dann? Kommt es im weiteren zu kohlensäurebedingten Geräuschentwicklungen, nachdem Barbie ein schönes, kaltes Pils getrunken hat? Oder wird ein Milchbart generiert, wenn James Bond an der Bar eine Buttermilch trinkt, geschüttelt und nicht gerührt? (IT BOLDWISE, 16.05.2025)

Für Rückfragen zum KI Newsletter: mail@marco-urban.de | Marco Urban — Vorstandsvorsitzender