ZOOM-Meeting

Fotorat KI-AG meets Gretchen

Dr. Jürgen Scriba, Leiter der AG Fortschritt des Deutschen Fotorates hat Tim Polzehl eingeladen, das Tool seines Start-ups »Gretchen AI« vorzustellen.

https://gretchen-ai.com/de/image-deepfake-solutions/

Im Kampf gegen KI-generierte Desinformation verspricht das System keine automatische Fake-Erkennung, sondern eine Unterstützung der menschlichen Faktenchecker durch die KI-gestützte Recherche nach Hintergrundinfo zu den Bildquellen, Fundstellen im Netz, Referenzen etc.

Nehmt gerne an der Vorstellung teil: Montag, 27. Oktober 2025, 11:00 Uhr 

Politik

Bundesministerium der Justiz zu angemessenen Vergütungen 

Das BMJ hat den Schlussbericht zum Forschungsvorhaben »Angemessene Vergütung insbesondere im Bereich Streaming und Plattform-Ökonomie / Reform des Vergütungssystems für gesetzlich erlaubte Nutzungen im Urheberrecht« veröffentlicht. 

Dabei geht es auch um Vergütungen für KI-Training, in der Kurzfassung, Seite 16, Punkt 2, in der Komplettversion ab den Seiten 518, 543, 579. 

Die Autor*innen sprechen sich für erweiterte kollektive Vergütungen (ECL) aus. Es wird aber auch darauf hingewiesen, dass eine solche Lösung nur dann in Betracht kommt, wenn seitens der Rechteinhaber*innen von der Opt-Out-Regelung Gebrauch gemacht wurde.

Das Werk hat 693 Seiten (!) und selbst die Kurzversion hat noch 19.

EU-Kommission führt Service Desk und Infoplattform zum AI Act ein

Die Europäische Kommission hat den KI-Gesetz-Service-Desk und die einheitliche Informationsplattform zur Erleichterung der Umsetzung des KI-Gesetzes eingeführt. Damit möchte man die Entwicklung vertrauenswürdiger KI zu unterstützen und gleichzeitig die erforderliche Rechtsklarheit in ganz Europa zu sicherstellen. 

Die einheitliche Informationsplattform wird als zentrale Anlaufstelle für Informationen zum KI-Gesetz dienen und den Interessengruppen umfassende Leitlinien zur Umsetzung bieten. Die Plattform umfasst Materialien aus den Mitgliedstaaten, häufig gestellte Fragen und verschiedene Ressourcen. Auf der Plattform stehen drei digitale Tools zur Verfügung: 1) ein Compliance Checker, der den Interessengruppen hilft, ihre rechtlichen Verpflichtungen und Compliance-Anforderungen zu identifizieren; 2) ein AI Act Explorer für die intuitive Navigation durch die Kapitel, Anhänge und Erwägungsgründe des Gesetzes; und 3) ein Online-Formular, über das Nutzer*innen mit dem AI Act Service Desk in Kontakt treten können, der mit Expert*innen besetzt ist, die mit dem AI Office zusammenarbeiten.

Wir sind gespannt.

Das einzige Deutsche Angebot wenn man nach den »National resources« des AI Act Service Desk schaut, ist der KI-Service Desk der Bundesnetzagentur.

Italien als Vorreiter für harte KI-Gesetzgebung?

Italien hat als erstes Mitglied der EU einen nationalen Rechtsrahmen für KI erlassen, der den AI Act widerspiegelt. Besonders interessant ist dabei, dass die Verbreitung von nicht einvernehmlich erstellten »Deepfake«-Bildern, -Audios oder -Videos mit einer Freiheitsstrafe von einem bis fünf Jahren geahndet wird. Das hat vielleicht etwas damit zu tun, dass Ministerpräsidentin Giorgia Meloni selbst von pornografischen Deepfakes betroffen war.

Zum urheberrechtlichen Teil schreibt der Münchner Merkur: »KI-unterstützte Werke bleiben geschützt, sofern sie eine eigenständige geistige Leistung darstellen. Text- und Data-Mining sind nur bei nicht urheberrechtlich geschütztem Material oder im Rahmen genehmigter wissenschaftlicher Forschung zulässig.« Das scheint im Einklang mit dem AI Act zu sein und es bleibt nach wie vor die Frage, wie man seine Werke als urheberrechtlich geschützt kennzeichnet. 

Die Legal Tribune Online (LTO) berichtet, dass es in Deutschland ebenfalls Planungen gibt, die Verbreitung von Deepfakes drastisch zu betrafen:

Kalifornien plant neue KI-Regulierung

US-Präsident Trump hatte ja vollmundig angekündigt, dass es für KI gar keine Regulierung geben soll. Der Gouverneur von Kalifornien, Gavin Newsom, hat jetzt aber angekündigt, ein Gesetz zu verabschieden, das sowohl Sicherheit als auch Innovationskraft fördern soll.
Dieser kalifornische Gesetzesentwurf SB 53 – Transparency in Frontier Artificial Intelligence Act, konzentriert sich primär auf Sicherheits- und Transparenzanforderungen für leistungsstarke KI-Modelle, er enthält keine spezifischen Regelungen zum Urheberrecht oder Copyright.

BDZV fordert Leitplanken für Googles AI Mode

Der Bundesverband Digitalpublisher und Zeitungsverleger (BDZV) sieht die freie Meinungsbildung durch Googles AI mode in Gefahr und fordert eine sofortige politische und regulatorische Prüfung. Solange zentrale Fragen zu Transparenz, Haftung, Quellenschutz und der Gefahr algorithmischer Meinungsmanipulation nicht geklärt seien, drohe eine ernsthafte Gefährdung der freien Meinungsbildung und der Medienvielfalt in Deutschland.
»Googles AI Mode liefert Nutzerinnen und Nutzern KI-generierte Antworten ohne vorrangige Verlinkung zu den journalistischen Originalquellen. Dabei besteht die Gefahr, dass nicht nachvollziehbar ist, wie Inhalte ausgewählt, gewichtet oder verändert werden. Die Sichtbarkeit professioneller Medienangebote wird dadurch eingeschränkt, publizistische Verantwortung ausgehebelt.«, so der BDZV.

Recht & Unrecht

GEMA vs. OpenAI

Nach einer vorläufigen Einschätzung der Vorsitzenden Richterin hat die GEMA gute Aussichten, Ihren Prozess gegen OpenAI zu gewinnen. 

Die Zeit schreibt: »Der Rechtsstreit dreht sich um die Texte - nicht die Melodie - von neun Liedern - unter anderem »Atemlos«, »Bochum«, »Männer«, »Über den Wolken« oder »In der Weihnachtsbäckerei«. Unstrittig ist, dass diese Texte zum Training der KI verwendet wurden. Die GEMA wirft OpenAI allerdings unter anderem vor, die Texte in seinem System memorisiert - also letztlich auf eine gewisse Weise abgespeichert - und damit vervielfältigt zu haben.«

»Rolling Stone« - Verlag verklagt Google

Hier geht es schon gar nicht mehr um das KI-Training. Das US-Verlagshaus Penske Media mit Titeln wie »Rolling Stone« und »Hollywood Reporter« wirft Google vor, mit den KI-Zusammenfassungen vor weiteren Suchergebnissen ein Monopol bei der Websuche zu missbrauchen. Hier zeigt sich einmal mehr, dass die KI-Revolution ihre Eltern frisst: Die KI-Suche wird mit den Inhalten von Webseiten gefüttert, die dann aber nicht mehr angesteuert werden und somit unrentabel werden. Das Sägen am Ast, auf dem man sitzt, ist bei generativer KI Teil des Geschäftsmodells. Irgendwie lustig. Leider sind wir der Ast.

KI-Bots saugen Wikipedia aus

Wie andere Medien auch bekommt Wikipedia ein Problem damit, dass die Informationen der Online-Enzyklopädie von KI-Bots abgegriffen werden und Nutzer*innen ihre Fragen als KI-Zusammenfassung beantwortet bekommen, ohne dass die Seiten der Medien noch besucht werden. »Mit über drei Millionen Artikeln gehört die Online-Enzyklopädie zu den meistbesuchten Websites Deutschlands. Seit der Einführung von ChatGPT im Jahr 2022 hat sie allerdings deutlich an Traffic verloren.« schreibt zum Beispiel t3n.

Es stellt sich die Frage, mit welchen Daten die KI gefüttert werden soll, wenn es keine Webseiten mehr gibt, weil niemand mehr darauf zugreift und folglich auch niemand mehr dort Werbung schaltet oder gar ein Abo bezahlt?

Creative Commons stellt Anstandsregeln fürs KI-Training vor

CC entwickelt derzeit »CC Signals« genannte Regeln für das KI-Training mit urheberrechtlich geschützten Werken. Dabei soll es nicht um simples Opt-Out gehen, dass nach dem AI Act KI-Training außerhalb wissenschaftlicher Nutzung gänzlich verbietet, sondern es soll »eine Nuancierung für den „machine reuse“ her, die ein neues Geben und Nehmen zwischen Inhalteerstellern und KI-Anbietern ermöglicht (CC spricht von »Reziprozität«).« 

Es soll vier »Signals« geben:

»Credit«, hier muss eine angemessene Nennung erfolgen (»appropriate credit«),

»Direct Contribution«, KI-Trainer sollen einen Beitrag zum Betrieb des genutzten Dienstes – also an den Rechteinhaber – leisten

»Ecosystem Contribution«. KI-Trainer sollen einen Beitrag an das Ökosystem leisten – nicht direkt an den Rechteinhaber,

»Open«, Der KI-Trainer muss die Codes oder generierte Datensätze anderen auch zur Verfügung stellen. 

Podcast

KI-Podcast des Fotorates 

 
Der KI-Podcast #9 von Dr. Jürgen Scriba, Leiter der Arbeitsgruppe »Technischer Fortschritt« / Deutscher Fotorat und Boris Eldagsen (Mitglied der Arbeitsgruppe) ist online. 

Im Fokus diesmal: Die Verwendung von KI zur Erstellung historisch anmutender Bilder. Zu Gast sind Gesine Born mit ihrem Projekt »Versäumte Bilder«, Dr. Philip Ströbel vom Historischen Seminar der Universität Zürich, der das Projekt »Re-Experiencing History« vorstellt. Außerdem: Dr. Anke Schierholz diskutiert aktuelle Copyright-Fragen mit Jürgen Scriba. Boris Eldagsen und Jürgen Scriba sprechen über den Nano Banana Konkurrenten Seedream 4 und den Release von Sora 2. 

DOCMATALK

Christoph Künnes recht kurze Podcasts zu Themen der Zeit an der Schnittstelle von Kultur, Mediengeschichte, Technik und Künstlicher Intelligenz:

Schlamm-Inferno Teil 2

Ich berichtete schon im letzten Newsletter über die Lawine von oft minderwertigen KI-Inhalten, die das Internet und ganz besonders die Social-Media Plattformen überrollt. Das Phänomenen nennt sich »AI Slope«.

Auch der Deutschlandfunk hat sich damit beschäftigt und fragt welche Konsequenzen das für unsere Wahrnehmung hat und wer unsere Aufmerksamkeit kuratiert, wenn die Masse der Inhalte schneller wächst, als wir sie prüfen können.

Arte hat eine tolle Reportage »KI: Der Tod des Internets« zum Thema »AI Slope« in der Mediathek.

Warheit oder Lüge

Echt jetzt? KI-Schauspiel-Star Tilly Norwood

Es wurde viel darüber geschrieben und auch der KI-Podcast des Fotorates berichtet darüber. Hier noch einmal der Bericht von »Basic Thinking« über die Präsentation einer KI-generierten Schauspielerin Tilly Norwood auf dem Zurich Film Festival: »Eine mittels Künstlicher Intelligenz generierte Kunstfigur hat in der Schauspiel-Branche für einen Aufschrei gesorgt. Geht es nach ihrer Schöpferin, soll die KI-Schauspielerin Tilly Norwood schon bald in Filmen mitspielen. Echte Schauspielerinnen und die US-Schauspielgewerkschaft SAG-AFTRA sind entzürnt.«

Siegerfoto der »Viepa« ist KI-Bild

Der Standard berichtet, dass der von der Wiener LIK Akademie ausgerichtete Fotowettbewerb »Veipa« in der Kategorie Portrait ein KI-generiertes Bild zum Siegerfoto kürte. LIK-Leiter Eric Berger wird dazu interviewt und nimmt Stellung zu dieser Entscheidung und anderen Fragen um KI und Fotografie.

KI-Bilder schaden dem Selbstbild

Ein interessanter Artikel in »Basic Thinking« befasst sich mit einer Studie der britischen Wissenschaftlerin Aisha Sobey, die sich damit befasst wie Bildgeneratoren Schönheitsideale verstärken und unser Verständnis von Normalität nachhaltig prägen: »Die Studienergebnisse zeigen, dass KI-Modelle kaum Bilder mit »größeren Körpertypen« generiert, es sei denn, man fragt ausdrücklich danach. Auch Körper, die außerhalb der sogenannten »Straight Size« liegen, werden nicht ohne detaillierte Anweisung erstellt.«

In einem Interview mit der Deutschen Welle sagt Sobey: »Wenn man eine generative KI nach einer Person fragt, zeigt keines der neun Modelle, die ich getestet habe, unaufgefordert einen behinderten oder dicken Körper. Menschen, die etwas anders sind als in unserer kollektiven Vorstellung, werden effektiv ausgelöscht.«

»KI-Bilder sind für den Populismus extrem nützlich«

Die Philosophin Dorothea Winter spricht in der taz über Kitsch und Kunst, warum Social-Media-Plattformen die KI so lieben und eine Ethik der falschen Bilder.

Markt

What Should I Get Paid When a Chatbot Eats My Books?

Der Vergleich zwischen Antrophic und den Autor*innen, die ihre Rechte mit einer Sammelklage einforderten, hat ja viel Interesse erzeugt. Zum einen war es interessant, dass es überhaupt zu einem Vergleich kam, zum anderen gilt der eben nur für Bücher, die aus Piraterie-Webseiten eingelesen wurden. Auch der Richter des Verfahrens meldete Zweifel an (siehe letzter Newsletter). 
In der »New York Times« fragt sich nun auch Autor Joel Stein (dem man auch auf Substack folgen kann), was eigentlich der Preis eben dafür sein kann. Gibt es nicht einen Unterschied zwischen sehr erfolgreichen Autor*innen und anderen? Wer bekommt eigentlich das Geld? Der Verlag oder der/die Autor*in? Der Text ist ein bisschen verzweifelt und man kann ihn nach einer Registrierung lesen.

IT Boldwise nimmt sich der Frage auch an - ohne jede Ironie:

Es gibt mittlerweile eine ganz ähnliche Klage von zwei Autorinnen gegen das amerikanische Softwareunternehmen Salesforce.

Meta will für KI-Lizenzen zahlen

Meta verhandelt mit Verlagen wie Axel Springer, Fox Corp und News Corp über Lizenzen für das KI-Training. Zuvor suchten schon OpenAI und Perplexity Kooperationsmöglichkeiten, im einen Fall mit Springer, im anderen mit RTL Deutschland. 
Business Punk zieht daraus die Schlussfolgerung: »Content bleibt King – aber nur, wenn er KI-verwertbar ist. Die Tech-Giganten haben erkannt, dass qualitativ hochwertige Inhalte für ihre KI-Modelle überlebenswichtig sind. Verlage sitzen plötzlich am längeren Hebel, sofern sie ihre Verhandlungsposition richtig einschätzen.
Die wahre Disruption findet nicht durch KI selbst statt, sondern durch die Neuverteilung der Machtverhältnisse in der Content-Wertschöpfungskette. Für Medienhäuser bietet sich ein schmales Zeitfenster, in dem sie Bedingungen diktieren können – bevor KI-Systeme lernen, ohne ihre Inhalte auszukommen.«
Ob diese Lizenzeinnahme die Ertragsrückgänge durch KI-generierte Informationen und Unterhaltung kompensieren können, sei dahingestellt. 

Otto setzt komplett auf KI-Bilder

Beim Otto Versand wird es zukünftig keine Modefotografie mehr geben. Man will neue Kollektionen so schneller und kostengünstiger anbieten. Heise berichtet: » Die Rede ist von wenigen Stunden bei neuen Kollektionen. Die Produktionskosten könnten so um bis zu 60 Prozent sinken. Die Modelbilder stünden in hochauflösender und fotorealistischer Qualität innerhalb von Minuten bereit. Die KI-Modelle könnten verschiedene Geschlechter, Ethnien, Altersgruppen und Körperformen abbilden. Alles, was benötigt werde, sei ein einziges Foto des Originalprodukts.«

Cloudflare will faire Vergütung für KI Training möglich machen

Cloudflare hat die private Beta seines neuen KI-Index gestartet, der es Website-Betreibenden ermöglicht, ihre Inhalte für KI-Entwickler*innen besser zugänglich zu machen. Anstatt KI-Crawler wahllos im Internet scrapen zu lassen, können KI-Entwickler*innen nun gezielt auf strukturierte und aktuelle Webinhalte zugreifen, die von den Websites bereitgestellt werden. Website-Betreibende behalten die Kontrolle über ihre Inhalte und können durch Monetarisierungsmodelle »Pay per Crawl« Einnahmen erzielen. Cloudflare plant zudem die Einführung eines aggregierten Open Index, der eine Sammlung von teilnehmenden Websites bündelt, um Entwickler*innen einen zentralen Zugangspunkt für die Suche nach Inhalten zu bieten.

Microsoft will Verlage für KI-Training vergüten

Microsoft entwickelt eine Plattform namens Publisher Content Marketplace, um Verlage für Inhalte zu vergüten, die in KI-Produkten wie Copilot verwendet werden. Das Unternehmen führt dazu Gespräche mit ausgewählten US-Verlagen über ein Pilotprojekt. Dieser Marktplatz soll über Microsoft Produkte hinaus erweitert werden und es sollen andere KI-Firmen zur Teilnahme eingeladen werden. Wann das umgesetzt werden soll oder gar wie die Lizenzen aussehen sollen, ist noch nicht bekannt. Interessant wäre ja auch die Frage, ob Kreativ*schaffende, also Autor*innen, Grafiker*innen  und Fotograf*innen auch etwas davon haben.

Technik

OpenAI präsentiert »Sora 2«

OpenAI hat sein neues Videomodell »Sora 2« veröffentlicht, das physikalische Regeln noch genauer beachten soll als frühere Versionen. Gleichzeitig startet OpenAI in Kanada und in den USA mit einer Social-App namens »Sora«, in der Nutzer*innen mit KI eigene Videos erstellen und ähnlich wie auf Tiktok miteinander teilen können.

Das offizielle Video zur Veröffentlichung zeigt aber auch, dass es so einfach eben doch nicht ist: Bei den schnell geschnittenen Bildern übersieht man leicht die Fehler: So verändert ein Snowmobile nach jedem Schnitt sein Aussehen ein wenig und eine Rennbahn für eine Art Entenrennen (das sieht irre aus, muss man schon sagen), wird von einer ovalen Rennbahn zu einer geraden Bahn. Das scheint die Nerds von OpenAI nicht zu interessieren. Hauptsache schnell und bunt. Art Direktor*innen dürften das aber schon schwierig finden und es ist klar, dass man auch mit »Sora 2« einen Werbespot nicht einfach mal eben prompten kann. Dennoch kann man völlig surreale (oder auch völlig reale) Filme absolut fotorealistisch erscheinen lassen. 

Also: Für TikTok-Spielereinen okay, aber bei seriösen Anwendungen braucht es trotzdem visuelle Expert*innen, die »Sora« an die Leine nehmen.

TechCrunch schreibt über die App, die als direkter Konkurrent zu TikTok auftritt. Die Plattform ermöglicht es Nutzer*innen, kurze Videos zu erstellen und in einem kuratierten Feed zu teilen. Ein zentrales Feature sind sogenannte Cameos: Wer einmal ein eigenes Video- und Audio-Sample hochlädt, kann seine digitale Erscheinung für generierte Inhalte freischalten – auch für die Verwendung durch andere. Die App startet zunächst in den USA und Kanada im Invite-Only-Modus, während Pro-Abonnenten von ChatGPT Zugang zu erweiterten Funktionen von »Sora 2« erhalten sollen. Einnahmen will OpenAI durch Gebühren für Videogenerierung in Stoßzeiten erzielen. Immerhin weist das Unternehmen auf mögliche Risiken hin, insbesondere beim Missbrauch von Nutzeridentitäten, und betont die Notwendigkeit klarer Regeln für den Einsatz solcher Technologien.

Sicherheitslücke bei C2PA 

Heise berichtet: »Nikons Foto-Authentifizierung ausgehebelt: KI-Hundepilot als echt validiert - Eine Sicherheitslücke der Authentifizierungsfunktion der Z6 III hat Nikon zu einem drastischen Schritt gezwungen: Der Service wurde vorübergehend ausgesetzt.« Es braucht schon etwas Aufwand um das Zertifikat zu fälschen, dass die Authentizität des Fotos belegen soll, aber im Grunde ist es simpel. 

IPTC Photo Metadata Conference 2025

»Lügner das Lügen erschweren«: IPTC Photo Metadata Conference 2025

Tim Bray spricht auf der IPTC Photo Metadata Conference 2025 über C2PA.

Die Software-Branchenlegende Bray richtete einen eindringlichen Appell an IPTC und andere, die sich mit Medienherkunft und C2PA befassen: Sein Fazit lautete, dass die Spezifikation und ihre Umsetzung zwar Probleme aufwiesen, diese jedoch langsam gelöst würden, und er lobte das Ziel des Projekts, »Lügner das Lügen zu erschweren und es denjenigen, die die Wahrheit sagen, zu erleichtern, geglaubt zu werden«.

Die Photo Metadata Conference 2025, die am 18. September stattfand, war mit 280 registrierten Teilnehmer*innen aus Hunderten von Organisationen aus aller Welt ein großer Erfolg. Videoaufzeichnungen der Veranstaltung sind jetzt verfügbar.

Zu den Referenten gehörten:

• David Riecks, Leiter der IPTC Photo Metadata Working Group, beschrieb einige neue IPTC-Fotometadaten-Eigenschaften in Bezug auf generative KI-Modelle und Prompts, die bei der nächsten Sitzung des Standards Committee, die im Rahmen des IPTC-Herbsttreffens stattfindet, zur Abstimmung vorgelegt werden sollen.
• Brendan Quinn, Geschäftsführer von IPTC, gab einen aktuellen Überblick über die IPTC-Richtlinien zum Opt-out aus generativen KI-Trainings und die laufenden Arbeiten zur Standardisierung von KI-Trainingseinstellungen bei der Internet Engineering Task Force (IETF).
• Ottar A. B. Anderson, Leiter der Fotografieabteilung bei SEDAK, dem GLAM-Bilddienst des Bezirks Møre og Romsdal in Norwegen, sprach über Metadaten für die Bildqualität in Galerien, Bibliotheken, Archiven und Museen (GLAM) und seine Arbeit in der Arbeitsgruppe »Digital Object Authenticity«.
• David Riecks gab ein Update zum IPTC-Foto-Metadaten-Panel in Adobe Custom Metadata.
• KI-Bildunterschriften für den Superbowl – Jerry Lai, Senior Director of Content, Imagn Images
• Paul Reinitz, ehemals bei Getty Images und jetzt Berater für geschäftliche und rechtliche Fragen rund um das Urheberrecht, sprach über die jüngsten Entwicklungen in diesem Bereich, darunter Updates in den USA, der EU und China.
• Brendan Quinn sprach erneut über die Arbeit der IPTC mit C2PA und die Welt der Medienherkunft, einschließlich unserer Arbeit an der Verified News Publishers List.
• Tim Bray, Schöpfer von technischen Standards wie XML und Atom und Unternehmen wie OpenText
• Marcos Armstrong von CBC / Radio Canada sprach über seine Arbeit zur Abbildung von Bildveröffentlichungs-Workflows bei CBC.

Für Rückfragen zum KI Newsletter: mail@marco-urban.de | Marco Urban — Vorstandsvorsitzender