Wird diese Nachricht nicht richtig dargestellt, klicken Sie bitte hier.

KI Newsletter # 27 – Juli 2026

Liebe Leserinnen und Leser, liebe FREELENS-Mitglieder,

liebe Kolleginnen und Kollegen,

hier kommt, mit etwas Verspätung, der KI-Newsletter für den Juli. Zum einen war ich im Urlaub, zum anderen – und das ist ein guter Grund – haben wir ja auf die Guidelines der EU-Kommission zu Fragen der Kennzeichnung von KI-generierten Bildern oder KI-bearbeiteten Fotografien gewartet. Ab dem 2. August 2026 soll gekennzeichnet werden und da wäre es schon schön, wenn wir wissen würden, wann zu kennzeichnen ist. Und da schau her, schon am 20. Juli 2026 veröffentlichte die Europäische Kommission den finalen Leitfaden: https://digital-strategy.ec.europa.eu/de/news/commission-publishes-guidelines-transparency-obligations-providers-and-deployers-certain-ai-systems Immerhin, es gibt gute Neuigkeiten: Die Liste der KI-gestützten Bearbeitungen, die ohne Kennzeichnung möglich sind, wurde erweitert.

So »(…) kann die KI-gestützte Manipulation unbedeutender inhaltlicher oder technischer Aspekte bereits vorhandener Inhalte für die Beurteilung der Authentizität oder Wahrhaftigkeit der Inhalte durch eine (betrachtende) Person von untergeordneter Bedeutung sein, sodass der daraus resultierende Inhalt nicht als Deepfake gilt. Dies könnte beispielsweise die Bearbeitung von Hintergrunddetails (z. B. das Entfernen von Passanten), Beleuchtungsanpassungen, die Anpassung von Audioparametern, Farbkorrekturen, Rauschunterdrückung oder -entfernung, die Verbesserung der Barrierefreiheit oder Dateikomprimierung sowie kosmetische Anpassungen und Verbesserungen umfassen. Ob die Manipulation in diese Kategorie fällt, hängt vom Kontext und den Auswirkungen auf die Wahrnehmung der Authentizität oder Wahrhaftigkeit des Inhalts durch die Betrachter im konkreten Fall ab. Beispielsweise dürften KI-gestützte Farbkorrekturen, Hintergrunderweiterungen bestehender Inhalte, Anpassungen oder Ersetzungen von Hintergründen aus eindeutig ästhetischen Gründen, Kompositionen und Anordnungen bestehender Produkte oder die Skalierung von Bildern, die in Produktwerbung oder auf Verpackungen verwendet werden, nur geringfügige Auswirkungen auf die Wahrnehmung der Authentizität und Wahrhaftigkeit der Werbung und des Produkts durch eine Person haben. Umgekehrt können umfangreiche KI-gestützte Bearbeitungen von Hintergrunddetails journalistischer Bilder, die über übliche technische und redaktionelle Praktiken hinausgehen, die Wahrnehmung der Authentizität und Wahrhaftigkeit des Inhalts durch eine Person negativ beeinflussen.« (Guidelines, Punkt 160, KI-Übersetzung).

Das schafft (wie von uns mit dem Deutschen Fotorat gefordert) deutlich mehr Möglichkeiten, um kleine Korrekturen vorzunehmen, ohne gleich kennzeichnen zu müssen. Allerdings muss im Einzelfall abgewogen werden. Die Regelung wird also weicher, aber auch unklarer. 

Dagmar Schwelle, frisch gewählte FREELENS-Vorstandsvorsitzende, hat den Leitfaden zur Kennzeichnungspflicht schon entsprechend auf den neusten Stand gebracht. FREELENS-Mitglieder können ihn hier ansehen: https://freelens.com/neues/news/leitfaden-deepfake-kennzeichnung

Wie das Ganze in der Praxis funktionieren soll, werden wir sehen. 

Vom Thema Transparenz und Kennzeichnung abgesehen gibt es natürlich noch die eine oder andere Meldung, die ich euch in diesem Newsletter zusammengefasst habe.

Viel Spaß beim Lesen und schöne Sommertage

Marco

 

P.S.: Feedback gerne an mich: marco.urban@freelens.com

P.P.S.: Man kann den Newsletter hier abonnieren:  KI-Newsletter

P.P.P.S.: Ich nutze KI für diesen Newsletter ziemlich umfangreich: Um Texte für mich zusammenzufassen, zu übersetzen, um weiter zu recherchieren und manchmal auch, um Texte zu entwerfen. Anders ist das hier nicht zu stemmen.

Politik

OpenAI bietet der US-Regierung 5 % Beteiligung

Im letzten Newsletter habe ich ja noch darüber geschrieben, dass sich unterschiedliche Politiker*innen darüber Gedanken gemacht haben, wie man die Bevölkerung an der Wertschöpfung der KI-Unternehmen beteiligen kann.

Jetzt berichtet die Financial Times über einen Vorschlag von OpenAI CEO Sam Altman: Die US-Regierung könnte eine Beteiligung von 5 % an OpenAI erhalten. 

Nach dem Konzept sollen langfristig auch andere große US-KI-Unternehmen wie Anthropic, Google oder Meta jeweils 5 % ihrer Anteile in einen staatlichen Fonds einbringen. Ob diese Unternehmen dazu bereit wären, ist jedoch völlig offen. 

Sam Altman hat den Vorschlag nicht nur mit Vertreter*innen der Trump-Regierung, sondern auch mit dem demokratischen Senator Bernie Sanders besprochen. Sanders fordert allerdings eine wesentlich weitergehende Beteiligung der Bevölkerung: Sein Modell sieht vor, dass die größten KI-Unternehmen zur Hälfte in einen staatlichen Zukunftsfonds eingebracht werden. Altman biete dagegen ja eher eine symbolische Beteiligung an, die auf eine engere Partnerschaft zwischen Staat und KI-Industrie abzielt.

»The Guardian« sieht den Vorstoß auch als Reaktion auf den wachsenden politischen Druck in Washington. Die Trump-Regierung greift inzwischen deutlich stärker in die KI-Politik ein und hat zuletzt sogar Einfluss auf die Veröffentlichung besonders leistungsfähiger Modelle genommen. OpenAI versucht hier wohl, sich als kooperativer Partner der Regierung zu positionieren und regulatorische Konflikte zu entschärfen.  

Die Frage, die ich schon im letzten Newsletter gestellt habe, bleibt: Was ist eigentlich mit Europa und anderen Staaten? Und was ist mit den Urheber*innen? 

Donald Trump hat schon Tage vorher klargemacht, dass er nicht teilen möchte: Er drohte allen Ländern, die eine Digitalsteuer erheben, mit Zöllen von 100 %. Ein Sprecher der EU-Kommission erklärte – so »Der Spiegel« -, man werde »umgehend und entschlossen« reagieren. Immerhin.

(The Guardian, 02.07.2026): https://www.theguardian.com/technology/2026/jul/02/openai-stake-us-government-ai-sam-altman

(Der Spiegel, 26.06.2026): https://www.spiegel.de/ausland/donald-trump-us-praesident-droht-im-fall-einer-digitalsteuer-mit-100-prozent-zoellen-a-c9106ab5-130d-4541-a77e-91641952b5c3?sara_ref=re-so-app-sh

New York schreibt Kennzeichnung von KI-Darsteller*innen in Werbung vor

Der US-Bundesstaat New York hat ein in den USA einzigartiges Gesetz in Kraft gesetzt: Werbung, in der statt realer Menschen KI-generierte Personen auftreten, muss künftig deutlich als solche gekennzeichnet werden. Die sogenannten »synthetic performers« dürfen in Anzeigen nur noch verwendet werden, wenn ihre künstliche Herkunft klar offengelegt wird. Verstöße werden mit Bußgeldern von 1.000 US-Dollar, bei Wiederholung mit 5.000 US-Dollar geahndet.  

Ausgenommen sind unter anderem Trailer und Werbematerial für Filme, Serien oder Videospiele, wenn die KI-Figuren auch im eigentlichen Werk vorkommen. Ebenfalls ausgenommen sind reine Audio-Werbung sowie KI-gestützte Übersetzungen. Unterstützt wurde das Gesetz unter anderem von der Schauspielgewerkschaft SAG-AFTRA, die darin einen wichtigen Schritt für Transparenz und den Schutz kreativer Berufe sieht. Werbeverbände kritisieren dagegen zusätzliche Bürokratie und Rechtsunsicherheit für Unternehmen.

Im Gegensatz zum AI Act der Europäischen Union geht es in New York wohl vorrangig um den Schutz von Arbeitsplätzen und nicht so sehr um die Transparenz für Verbraucher*innen. Dafür müsste man in New York nämlich deutlich weitergehen, hier geht es ja nur um KI-generierte Personen. 

Die Frage ist, was jetzt passiert. Unwahrscheinlich ist, dass die ganze Welt Ihre KI-generierte Werbung nach dem Gesetz von New York ausrichtet. Denn alles kann ja im Internet von den New Yorker*innen gesehen werden. Das gilt auch für den AI Act, aber Europa ist dann doch noch etwas größer als New York. 

(AP News, 10.06.2026): https://apnews.com/article/new-york-ai-law-hochul-synthetic-performers-e433625bfb61c8abeab0d619869192ed

Neuste Sicherheits-Rankings für KI: Niemand ist »A«

Je leistungsfähiger die KI-Modelle werden, desto schwächer werden offenbar die freiwilligen Sicherheitsversprechen ihrer Entwickler*innen. Zu diesem Ergebnis kommt der neue AI Safety Index des Future of Life Institute. Selbst Branchenprimus Anthropic erreicht nur die Note C+, OpenAI und Google DeepMind landen bei einem C, Meta bei D+. Schlusslichter sind xAI, DeepSeek und Mistral mit der Note F.  

Besonders kritisch sehen die Autor*innen, dass mehrere Unternehmen frühere Selbstverpflichtungen abgeschwächt oder ganz aufgegeben haben. Dazu gehören Zusagen, die Entwicklung besonders leistungsfähiger Modelle im Ernstfall zu stoppen oder deren Einsatz strenger zu begrenzen. Gleichzeitig öffnen sich viele Anbieter zunehmend militärischen Anwendungen ihrer Systeme – ein Punkt, der auch in die Bewertung eingeflossen ist.  

Der Index bewertet neun führende KI-Unternehmen anhand von 37 Kriterien in Bereichen wie Risikobewertung, Governance, Informationsaustausch und dem Umgang mit sogenannten existenziellen Risiken. Gerade in der letztgenannten Kategorie fällt das Urteil besonders schlecht aus: Kein Unternehmen erreicht hier bessere Noten als D+. Die Studie versteht sich ausdrücklich als Anreiz für mehr Transparenz und belastbare Sicherheitsstandards – denn freiwillige Selbstkontrolle allein scheint nach Ansicht der Autor*innen nicht auszureichen.  

(Time, 07.07.2026): https://time.com/article/2026/07/07/ai-safety-rankings-openai-anthropic-meta/?utm_source=substack&utm_medium=email

Dazu passt die Geschichte, dass zwei KI-Modelle von OpenAI selbstständig aus einer gesicherten Umgebung ausgebrochen sind und die KI-Plattform Hugging Face attackiert haben, weil sie dort die Lösung für ein zu lösendes Problem vermutet haben. Es gibt Hinweise darauf, dass das über eine Woche lang von OpenAI gar nicht bemerkt wurde. 

»Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang »beispiellos« genannt«, schreibt »Der Spiegel«. Und es geht noch besser: Der Angriff konnte nur durch ein chinesisches KI-Modell gestoppt werden. US-Modelle waren dazu nicht in der Lage. Politiker*innen forderten daraufhin einen »Kill Switch« (»Notausschalter«).

Als Reaktion (auf die selbstständige Attacke oder die Regulierungsandrohung?)  verkünden große KI-Unternehmen blitzschnell die Gründung einer Sicherheitsallianz – ohne OpenAI. 

(Heise, 26.07.2026): https://www.heise.de/news/US-Politiker-fordern-Kill-Switch-fuer-KI-Modelle-11378276.html

(Der Spiegel, 27.07.2026): https://www.spiegel.de/netzwelt/openai-microsoft-palantir-it-konzerne-schmieden-sicherheitsbuendnis-nach-ki-angriff-a-c0e4916d-5925-465d-b83f-9a799edd2df3?sara_ref=re-so-app-sh

Führende Ökonom*innen und KI-Forscher*innen: »We Must Act Now«

Ist es überraschend oder eben gerade nicht? Gerade diejenigen, die sich KI ausgedacht haben, fordern immer wieder Maßnahmen, um KI zu regulieren. 

Hier das Statement von über 200 Ökonom*innen und KI-Forscher*innen von führenden Universitäten und KI-Forschungseinrichtungen aus aller Welt (DeepL-Übersetzung):

We Must Act Now / Wir müssen jetzt handeln

Eine Stellungnahme zum wirtschaftlichen Wandel durch KI

  1. KI könnte in den nächsten zehn Jahren radikal an Leistungsfähigkeit gewinnen.
  2. Dies könnte einen beispiellosen Wandel unserer Wirtschaft vorantreiben, der größer ist als die industrielle Revolution, sich jedoch in einem weitaus kürzeren Zeitraum vollzieht. Er könnte Risiken mit sich bringen, darunter den Verlust zahlreicher Arbeitsplätze, aber auch Chancen wie erhebliche Verbesserungen des Lebensstandards.
  3. Ökonom*innen, politische Entscheidungsträger*innen und führende Technologieunternehmen müssen jetzt handeln, um die wirtschaftlichen Zusammenhänge der transformativen KI zu verstehen und die Anreize, Schutzmechanismen und Institutionen zu schaffen, die erforderlich sind, um die KI in eine Richtung zu lenken, die den Menschen ergänzt und der Gesellschaft zugutekommt.

Es gibt auch ein paar Statements dazu, z.B. von Anton Korinek, Professor an der University of Virginia, derzeit freigestellt, um bei Anthropic zu arbeiten: »Dampf, Elektrizität und Computer gaben den Gesellschaften jeweils Jahrzehnte Zeit, sich anzupassen; die KI lässt uns möglicherweise nur wenige Jahre. Wir können unsere Strategie und unsere Institutionen nicht mitten im Wandel improvisieren; auf Gewissheit zu warten bedeutet, zu spät zu kommen«.

Oder Tom Cunningham, Forscher bei METR, Model Evaluation and Threat Research: »Wir fahren im Nebel, und es ist außerordentlich schwierig, vorauszusehen, was als Nächstes passieren wird. Es ist der richtige Zeitpunkt für eine koordinierte Anstrengung, um Klarheit in eine verwirrende Situation zu bringen«.

(13.07.2026, PR Newswire): https://www.prnewswire.com/news-releases/we-must-act-now-sixteen-nobel-laureates-join-leading-economists-and-ai-researchers-in-call-to-prepare-for-ais-economic-transformation-302823418.html

Podcast

»Photonen und Pixel«– der KI-Podcast des Deutschen Fotorates 

Dr. Jürgen Scriba und Boris Eldagsen fragen sich: Ist die KI raus aus dem Rampenlicht? Auf dem Fotofestival im französischen Arles war sie nach ihrer Beobachtung deutlich seltener zu sehen – doch Kennzeichnung und künstlerischer Wert bleiben ein großes Thema. Die beiden Hosts fragen weiter: Wo endet Fotografie und wo beginnt KI? Von manipulierten Selfies bis zu synthetischen Bildern wird Authentizität zum neuen Minenfeld. Meta, Google und Gesetzgeber suchen nach Regeln für Deepfakes, KI-Labels und menschenähnliche Agenten – bisher sehen sie aber eher einen Flickenteppich als klare Lösungen. Parallel eskaliert das Wettrennen der Bild- und Videomodelle: schneller, günstiger, smarter – und längst ein lukratives Geschäft mit Nutzerdaten. Jetzt kommen MCP-Agenten und Skills: Kreative Workflows, Bildauswahl und Geschmack werden automatisierbar.

YouTube: https://youtu.be/oX_fwU7bqC4?si=aRH0THarhkxHE9AS

Spotify: https://open.spotify.com/episode/67SUlOCaEnxP3dDf99Q7qz?si=3658f39e46db4c26

Apple Podcasts: https://podcasts.apple.com/de/podcast/18-von-rencontres-arles-zu-mcp-agenten/id1883987339?i=1000778082546

 

Künstlerische Intelligenz mit Nina George

Die Schriftstellerin Nina George ist seit Jahrzehnten eine Kämpferin für Autor*innenrechte. Ich durfte in etlichen Stakeholderdialogen in Berlin und Brüssel ihren engagierten und pointierten Statements folgen. 

Podcast-Host Anna-Sophia Lumpe spricht mit ihr über generative KI und Erfahrungen aus ihrer politischen Arbeit. Nina und Anna-Sophia versuchen, den Kern der Begeisterung für generative Technologie zu entdecken und diskutieren darüber, wie sich die Wahrnehmung der Technologie in kurzer Zeit gewandelt hat.

Podcast: https://www.ki-derpodcast.de

 

Apple Podcast: https://podcasts.apple.com/de/podcast/k%C3%BCnstlerische-intelligenz/id1883769987?i=1000775596705

 

Streaming

Arte: Wird die KI die Fotografie ersetzen?

Der deutsch-französische TV-Sender zeigt in seiner Mediathek immer wieder interessante Dokus zur KI. »Tracks« trifft Fotografinnen und Fotografen, die mit KI experimentieren, bevor sie vielleicht in naher Zukunft von ihr ersetzt werden. Dabei hinterfragen sie die Begriffe wie Kunst, Realität und Wahrheit. Sie nutzen KI als Werkzeug zur Erweiterung der kreativen Fähigkeiten, und für einige unter ihnen übernimmt sie die Rolle einer kollaborativen Intelligenz, die die künstlerischen Möglichkeiten vervielfacht. Die Zähmung der KI ist ein Mittel, um den Beschränkungen der realen Welt zu entgehen, sei es in Bezug auf das Budget oder die Logistik.

(Arte, 20.07.2026): https://www.arte.tv/de/videos/119473-002-A/tracks/

Wahrheit oder Lüge

Propagandamaschine: Das KI-Kampagnentool der AfD

Das Zentrum für Digitalrechte und Demokratie (Markus Beckedahl) hat sich als »AfD-Kreisverband Bochum« getarnt und das KI-Kampagnentool der AfD ausprobiert.

Ergebnis: Die Software wird den Social-Media-Betrieb der Parteigliederungen weitgehend automatisieren. Dafür bindet sie die üblichen KI-Dienste ChatGPT, Claude und Gemini ein und ein »Geistschreiber« nimmt den Kreisverbänden und Parteifunktionär*innen die Textarbeit ab, ohne dass das nach außen deutlich wird. In dem Modul laufen im Viertelstundentakt die Nachrichten-Feeds von NIUS, Junge Freiheit, Apollo News, BILD Politik und n-tv-Wirtschaft ein. Eine KI liest mit und vergibt für jede Meldung einen »Viralitätsscore« von eins bis zehn, dazu eine Kurzzusammenfassung und mitunter gleich ein passendes Framing im Sinne der AfD-Programmatik.

Das ist also eine vollautomatische Propaganda- und Desinformationsmaschine, die keinen Menschen mehr braucht, der sich über Inhalte Gedanken macht oder technische Kenntnisse hat.

Die Kanäle werden in Zukunft also noch mehr mit rechts-außen Desinformation als bisher geflutet.

Das Zentrum für Digitalrechte und Demokratie beschreibt z.B. die Erstellung von »Sharepics«, das sind die Kacheln mit Bild und kurzem Text: »Die angeschlossene KI generiert ein Bild, in unseren Versuchen stets in derselben düsteren AfD-Ästhetik. Friedrich Merz in Handschellen oder Alice Weidel mit grimmigem Blick. Eine kurze Schlagzeile kommt in den passenden AfD-Schriftarten dazu, der Absender - etwa der Kreisverband Bochum - wird automatisiert mit Logo eingebaut. Klein und kaum lesbar findet sich oben rechts der »Transparenz«-Hinweis, dass das Bild KI-generiert sei.«

Hier werden wir wohl die Grenzen der Transparenzregelungen des AI Act vorgeführt bekommen. Denn ob das nun gekennzeichnet ist oder nicht, spielt für die äußerst geneigten Leser*innen wohl keine Rolle. Und auch bei den weniger geneigten bleiben Bilder und Botschaften haften – so funktioniert halt Werbung.

Die Plattform könnte aber »als Hochrisiko-KI gelten und damit engmaschigen Vorgaben unterliegen. Denn sie fällt in die Kategorie der KI-Systeme, die laut der KI-Verordnung »bestimmungsgemäß verwendet werden sollen, um (...) das Wahlverhalten natürlicher Personen (...) zu beeinflussen«. Die Details der Auslegung sind aber noch offen – und die Regeln für Hochrisiko-KI gelten erst ab Ende 2027.«

Das Tool wurde sehr ausgiebig getestet, es lohnt sich, den Text zu lesen:

(Zentrum für Digitalrechte und Demokratie, 02.07.2026): https://digitalrechte.de/news/propaganda-by-design-wir-haben-uns-das-ki-kampagnentool-der-afd-naeher-angeschaut

Flood the zone with slope

Das KI-Erkennungsunternehmen Pangram Labs bestätigt den Trend zu KI-Texten, die eben auch durch die oben beschriebenen Tools entstehen. Anders als frühere Studien analysierte Pangram nicht einfach veröffentlichte Inhalte, sondern mithilfe einer Browser-Erweiterung rund eine Million Beiträge, die Nutzer*innen tatsächlich in ihrem Feed gesehen haben. Das Ergebnis: Auf LinkedIn waren 41 Prozent der längeren Beiträge vollständig KI-generiert, auf X rund ein Drittel. Weitere Beiträge wurden zumindest teilweise mit KI erstellt. Auf Reddit und Substack waren etwa zehn Prozent der längeren Beiträge KI-generiert.  

Interessant ist die Methodik: Die Daten stammen aus dem realen Surfverhalten freiwilliger Nutzer*innen und nicht aus dem, was gepostet wird. 

LinkedIn reagierte auf die Studie mit dem Hinweis, man arbeite aktiv gegen minderwertige und automatisierte Inhalte und wolle weiterhin authentische fachliche Diskussionen fördern. Dennoch deutet die Untersuchung darauf hin, dass insbesondere professionelle Netzwerke immer stärker von KI-generierten Standardtexten geprägt werden.  

Social Media ist ja schon lange nicht mehr social. Aber welchen Sinn machen solche Plattformen, wenn man davon ausgehen muss, dass die Inhalte nicht mehr von Menschen erstellt werden? Und dabei geht es nicht mal mehr um Texte, die Menschen mit KI-Unterstützung erstellen, sondern darum, dass immer häufiger keine Menschen mehr hinter den Profilen stehen, sondern Bots, die Meinung machen und Propaganda verbreiten. 

(404 Media, 09.07.2026): https://www.404media.co/linkedin-and-x-are-flooded-with-ai-spam-browsing-data-suggests/

 

Sci-Fi-Autor: Sei ein Zentaur

Cory Doctorow ist Science-Fiction-Autor und er sagt, dass er die Zukunft nicht vorhersagen kann. Aber er sieht es als seine Aufgabe an, sich »futuristische Parabeln über unsere gegenwärtige sozio-technologische Situation auszudenken. Nicht nur, um zu hinterfragen, was ein Gerät tut, sondern für wen es das tut und wem es das antut

Im Dezember 2025 hielt er an der University of Washington eine Rede, die digitalcourage übersetzt hat. 

Doctorow macht klar, dass das eigentliche Problem der KI nicht die Technologie selbst sei, sondern ein Wirtschaftsmodell, das Menschen zu billigen Aufpasser*innen von Maschinen macht und den KI-Hype nutzt, um Kosten zu senken, Macht zu konzentrieren und Investor*innen neue Wachstumsversprechen zu verkaufen. Er plädiert dafür, den menschlichen kreativen Beitrag als eigentlichen Wert anzuerkennen und KI als Werkzeug einzusetzen – nicht als Ersatz für Menschen. Sehr lesenswert und ein starker Beitrag in der Debatte im Sinne derer, die KI gerne für ihre kreative Arbeit nutzen.

(digitalcourage, 26.06.2026): https://digitalcourage.de/blog/2026/der-umgekehrte-zentaur-ki

(Pluralistic, 05.12.2025): https://pluralistic.net/2025/12/05/pop-that-bubble/#u-washington

Recht

Haftung für urheberrechtsverletzende Ergebnisse generativer KI

Dieses Papier von Jan Bernd Nordemann, Jonathan Pukas und Malte Baumann ist aus dem November 2025, aber da es im Newsletter der Initiative Urheberrechte war, nehme ich es hier  – für die Jurist*innen – auch nochmal mit rein.

Es geht um die Frage, wer eigentlich haftet, wenn generative KI-Systeme Ergebnisse erzeugen, die Urheberrechte verletzen. Der/die erste Kandidat*in wäre der/die Nutzer*in, da die Person diejenige ist, die den Generierungsprozess direkt auslöst und steuert. Man könnte jedoch auch argumentieren, dass in bestimmten Fällen tatsächlich der KI-Anbieter die direkte Rechtsverletzung begeht. In anderen Fällen kann es angebracht sein, den KI-Anbieter zumindest sekundär haftbar zu machen. Was die öffentliche Wiedergabe betrifft, hat der EuGH bereits eine flexible Haftungsregelung geschaffen, die solche Fälle der sekundären Haftung abdeckt. Diese Regelung führt auch zu überzeugenden Schlussfolgerungen hinsichtlich der sekundären Haftung für Vervielfältigungen in KI-Ergebnissen.

Für den Fall, dass der von einem KI-System erzeugte Output Urheberrechte verletzt, müsse, so die Autor*innen, eine differenzierte Einzelfallprüfung erfolgen. In diesem Artikel wurden drei verschiedene Szenarien betrachtet: 

1. Urheberrechtsverletzungen, die infolge von Nutzer*inneneingaben entstehen, 

2. Urheberrechtsverletzungen aufgrund systembedingter Ursachen (insbesondere des Trainings) und 

3. Urheberrechtsverletzungen, die dem Verwendungszweck innewohnen.

(papers.ssrn.com): https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5721084

META stoppt Funktion von KI-Tool »Muse Image«

Die KI-Konzerne werfen ja gerne in schneller Folge KI-Apps auf den Markt, aber einige verschwinden auch schnell wieder, so wie OpenAIs Sora 2, das wohl zu viel Rechenkapazität verbraucht und damit Geld verbrannt hat.

Die entscheidende Funktion von »Muse Image« hat nur ein paar Tage durchgehalten. Und zwar nicht aufgrund einer unternehmerischen Entscheidung, sondern weil es eine Menge Protest gab.

Muse-Nutzer*innen konnten Bilder öffentlicher Instagram-Accounts per @-Erwähnung als Referenz für KI-generierte Bilder verwenden. Die Funktion war standardmäßig aktiviert – die Inhaber*innen der Accounts mussten aktiv widersprechen, wenn sie nicht wollten, dass ihre Bilder genutzt werden. 

Die Skepsis nimmt offenbar zu und es wurde zu Recht kritisiert, dass hier nicht nur ein Opt-Out-Verfahren angewendet wurde, sondern über die Nutzung auch nicht informiert wurde. Eine Einladung für die Erstellung von Deepfakes und Identitätsmissbrauch. Auch Bildstil, Kleidung, Orte und andere charakteristische Elemente konnten übernommen werden.

Besonders scharf kritisierte die US-Schauspielergewerkschaft SAG-AFTRA die Funktion als Beispiel für nicht einvernehmliche digitale Doubles.

(AP. 11.07.2026): https://apnews.com/article/meta-artificial-intelligence-instagram-images-privacy-4df3bdb3fec6e046c6562accc2d270a5

(Golem, 08.07.2026): https://www.golem.de/news/kuenstliche-intelligenz-meta-veroeffentlicht-kontroversen-bildgenerator-muse-image-2607-210624.html

Markt und Politik

Weimer sagt Mediensterben voraus

Kulturstaatsminister Wolfram Weimer sagt in einem Interview mit dem KNA-Mediendienst in den kommenden Jahren »eine Pleite-Serie bei lokalen Rundfunkanstalten, Zeitungen, Magazinen, auch Fernsehanstalten« voraus, spricht gar von einem »Mediazid« und fordert ein Vorgehen gegen die Quasi-Monopole der Tech-Unternehmen, die das journalistische Fundament zerstören.

Diese Vorhersage haben ja schon viele gemacht. Immerhin hätte der Kulturstaatsminister die Möglichkeit, mal mit seinen Kolleg*innen auf europäischer Ebene zu sprechen, was denn dagegen unternommen werden könnte. Kleiner Tipp: Schutz des Contents vor Scraping von KI-Unternehmen wäre eine Maßnahme. Hat mit dem AI Act leider nicht so gut geklappt. 

(turi2, 14.07.2026): https://www.turi2.de/aktuell/im-kna-interview-wolfram-weimer-warnt-vor-massivem-mediensterben/

Start-up aus Berlin will mit Content Credentials Herkunft von Werken sichtbar machen

Content Credentials sind Informationen über die Herkunft von Medien-Inhalten, die in die Werke eingebettet werden. Der dazugehörige C2PA-Standard wird von Content Authenticity Initiative, einem Zusammenschluss aus Unternehmen und Institutionen aus dem Bildbereich, Software- und Kamerahersteller, aber auch Bildagenturen und Fotoverbänden (u.a.FREELENS), vorangetrieben.

Nun hat das Berliner Start-Up Valid Technologies von C2PA die Genehmigung erhalten, den Standard zu verwenden. Man hört, dass potenzielle Kund*innen angesprochen werden, es gibt ein Interview auf der Website des MEDIATECH HUB Potsdam und natürlich eine Website. 

Im Interview und auf der Website wird nochmal erklärt, worum es geht - aber was nicht deutlich wird ist, warum man als Bildanbieter*in auf den Newcomer setzen sollte und die Content Credentials nicht einfach mit Lightroom, Photoshop oder anderer Standard-Software nutzen sollte. Generell ist das ganze kein Hexenwerk, entscheidend aber ist, dass alle Verarbeitungsschritte der Software auch aufgezeichnet werden. Vielleicht frage ich für die nächste Ausgabe mal nach. Falls jemand sachdienliche Hinweise hat, bitte gerne.

(Vaild): https://valid.tech

(MEDIATECH HUB Potsdam, 08.07.2026): https://mth-potsdam.de/expertise/content-credentials-gegen-desinformation-das-potsdamer-startup-valid-im-gespraech/

 

Auch das noch

2000-Dollar-KI-Variante von Christopher Nolans Odysseus

Man kann ihm kaum entgehen: Star-Regisseur Chrstopher Nolans neuer Film »Die Odyssee«, eine Produktion für rund 250 Millionen US-Dollar.

Geht auch günstiger, dachte sich Filmemacher Ash Koosha und stelle »Odysseus: The Fall« vor, ein 135 Minuten langer Spielfilm, dessen Bilder, Figuren, Effekte und Sounds von KI generiert wurden. Das soll laut dem Magazin Hollywood Reporter etwa 2.000 US-Dollar gekostet haben. Man muss zugeben, der Trailer sieht nach mehr aus. Allerdings spielt Matt Damon nicht mit.

(FOUNTAIN 0): https://watch.fountain0.com/movies/odysseus-the-fall

(The Hollywood Reporter): https://www.hollywoodreporter.com/business/digital/ai-generated-feature-odysseus-the-fall-1236646751/

Tilly Norwood im Tillyverse

Apropos Film: KI-Schauspielerin Tilly Norwood … Moment mal, kann es überhaupt eine KI-Schauspielerin geben? Vermutlich nicht, es gibt ja auch keine KI-Fotos.

Na egal, sie bekommt jetzt ihren ersten Film. Eine »Hybrid-Produktion«, in der sogar echte Menschen mitspielen sollen. Es soll ein »Comedy-Drama« sein, das im »Tillyverse« spielt. Inhalt: KI-Tilly soll menschliche Gefühle entwickeln. 

Also ein bisschen wie »Blade Runner«, aber mit mehr Comedy? Man darf gespannt sein.

Die menschlichen Kolleg*innen von Tilly sind auf jeden Fall nicht begeistert. Die Schauspielergewerkschaft SAG-AFTRA behauptet, Tilly wäre gar keine Schauspielerin und Schauspielerin Emily Blunt stellte angesichts von Tilly-Aufnahmen fest: »Wir (also die Schauspieler*innen) sind verloren.«

(Der Spiegel, 07.07.2026): https://www.spiegel.de/kultur/tv/tilly-norwood-ki-schauspielerin-bald-in-erster-hauptrolle-zu-sehen-a-d1bcaba8-6dc8-454a-b644-a3a7bf2bd603

 

Für Rückfragen zum KI Newsletter: marco.urban@freelens.com | Marco Urban

Wenn Sie diese E-Mail nicht mehr empfangen möchten, können Sie diese hier abbestellen.
 
FREELENS e.V.
Heike Ollertz
Alter Steinweg 15
20459 Hamburg
Deutschland


post@freelens.com