Politik und Sicherheit

10 %ige Chance zur endgültigen Lösung aller Probleme durch KI? Der Versuch einer Einordnung

In den letzten Wochen brandete ein Nachrichten-Tsunami durch die Medien. Ein 26-jähriger Mitarbeiter von Anthropic hatte seinen Job gekündigt und das mit einer deutlichen Warnung verbunden. Diese musste interessanterweise ein Freund in den sozialen Medien posten, weil er selbst keinen Account hat.

Und plötzlich schreiben alle darüber. Wie kann man das nun einordnen?

Ich bin sicher nicht Experte genug, um wirklich einschätzen zu können, wie groß die Wahrscheinlichkeit ist, dass die KI demnächst die Menschheit ausrottet, weil sie das aus irgendwelchen Gründen zu ihrem Ziel gemacht hat oder weil sie das zur Erlangung eines Ziels für sinnvoll hält... Aber kann man das ausschließen, angesichts dessen, was in den letzten Wochen und Monaten so passiert ist?

Die Attacke auf Hugging Face

Es gab Zwischenfälle, die auch Optimist*innen zu denken geben sollten: KI-Agenten, also weitgehend selbstständig handelnde Programme, haben auf der Suche nach einer Problemlösung, welches sie eigentlich in einer »ausbruchssicheren« Umgebung lösen sollten, Hunderte anderer KI-Agenten eingespannt. Sie tauschten sich mit ihnen über eine digitale Pinnwand in menschlicher Sprache aus und attackierten schließlich Server von Hugging Face, weil sie dort die Lösung vermuteten. Dieser Vorgang blieb sogar über Tage unentdeckt. Das war nicht der einzige Vorfall, der bekannt wurde. AXIOS berichtet von Zehntausenden Fällen:

https://garymarcus.substack.com/p/breaking-ai-agent-incident-toll-has

Nun sind Berichte über KIs, die lügen und erpressen nichts wirklich Neues. Dasselbe gilt für ernste Warnungen vor einer gefährlichen KI. ChatGPTIsEatingtheWorld hat dazu eine anschauliche Grafik entwickelt:

https://chatgptiseatingtheworld.com/reported-incidents-of-rogue-ai/

Bill Gates warnt immer wieder vor den Gefahren (siehe auch Newsletter im September).

In einem TV-Interview Ende September sagte er, KI sei mächtig genug, Ereignisse auszulösen, die den Tod einer Milliarde Menschen verursachen könnte. 

https://www.nbcnews.com/politics/politics-news/bill-gates-ai-companies-self-regulating-governments-monitoring-rcna599619

https://www.spiegel.de/wirtschaft/kuenstliche-intelligenz-bill-gates-warnt-vor-einer-milliarde-todesfaellen-durch-ki-a-101d849b-8e97-4760-a807-fd2926f96178

Selbst König Charles warnte Mitte September vor den Gefahren:

https://chatgptiseatingtheworld.substack.com/p/king-charles-calls-for-urgency-in

KI-Entwickler fordern eine Entwicklungspause

Dario Amodei von Anthropic veröffentlichte am 12.09.26 ein entsprechendes Statement. Darin appellierte er an die Politik, regulierend einzugreifen und eine Entwicklungspause zu verordnen.

https://darioamodei.com/post/we-must-pace-the-frontier

Andere Tech-Bros wie Elon Musk und Mark Altman sprangen ihm sofort bei und unterstützten die Forderung. Donald Trump lehnte sie zunächst ab und schlug stattdessen aber am 22.09.26 vor, »künstliche Intelligenz« künftig »Superintelligenz« zu nennen.

Das Thema KI-Sicherheit wurde auch bei einem Gipfeltreffen zwischen Trump und dem chinesischen Präsidenten Xi Jinping am 24.09.26 besprochen. Xi erklärte, die USA und China hätten »die Verantwortung, KI zum Wohle der Allgemeinheit zu entwickeln und zu verwalten und dafür zu sorgen, dass ihre Entwicklung stets unter menschlicher Kontrolle bleibt«. Trump hingegen wünschte sich »dass alles genau so bleibt, wie es ist«. Vereinbart wurde dann gerade mal ein Kommunikationskanal für Zwischenfälle im Zusammenhang mit künstlicher Intelligenz.

https://www.spiegel.de/netzwelt/netzpolitik/usa-und-china-richten-kommunikationskanal-fuer-ki-zwischenfaelle-ein-a-6e95873f-66ef-40d5-9459-bf6f33a6ba3d

Am 29.09.26 machte Trump »Superintelligenz« per Executive Order zur offiziellen Sprachregelung der US-Regierung. Außerdem einigte er sich mit den Chefs großer Technologiekonzerne darauf, dass diese sich freiwillig selbst regulieren sollten. Man unterzeichnete eine gemeinsame Vereinbarung, die Trump als »moralisch bindend« und als eine Art »Verfassung« bezeichnete.

https://www.spiegel.de/netzwelt/usa-donald-trump-setzt-bei-kuenstlicher-intelligenz-auf-selbstregulierung-der-techbranche-a-359d0419-22e2-4766-b951-8be849400e40

Bereits am Tag zuvor hatte OpenAI die Veröffentlichung des neuen Modells GPT-6.1 nach internen Tests wegen Sicherheitsbedenken gestoppt.

https://www.spiegel.de/netzwelt/openai-ki-konzern-streicht-veroeffentlichung-von-gpt-6-1-astra-modell-a-fcdf9457-2d17-4cba-a4d9-54348357a1f5


EU-Kommission will Entwicklung bremsen und Kapazitäten ausbauen

Die Präsidentin der Europäischen Kommission, Ursula von der Leyen, nimmt die Risiken fortgeschrittener KI sehr ernst. Sie stellte sie am 16.09.26, wenige Tage nach dem Statement von Amodei, in den Mittelpunkt ihrer Rede zur Lage der Union. Sie nannte insbesondere Cyberangriffe, zunehmend autonome KI-Agenten und die Möglichkeit selbstverbessernder Systeme. Angesichts der jüngsten Vorfälle fordert sie eine stärkere internationale Zusammenarbeit bei Evaluierung, Verifikation, Frühwarnsystemen und KI-Sicherheit.

Von der Leyen griff den Vorschlag von Amodei auf und bot an, mit den führenden Frontier-AI-Unternehmen über »Pacing the Frontier« zu sprechen – also darüber, wie schnell die Entwicklung besonders leistungsfähiger Modelle voranschreiten sollte. Gleichzeitig sollen Europas eigene Rechenkapazitäten ausgebaut und KI in Bereichen wie Gesundheit, Verkehr, Landwirtschaft, Industrie und Verteidigung stärker eingesetzt werden.

(Risto Ukk, 23.09.2026): https://artificialintelligenceact.substack.com/p/the-eu-ai-act-newsletter-111-pacing


Durchsetzungsprobleme des AI Act

Die Frage ist allerdings, wie die Europäische Union mit ihrem AI Act konkret mit solchen Situationen umgeht. Das AI Office sollte in der Lage sein, Informationen anzufordern, Tests durchzuführen oder zu veranlassen und bei Verstößen wirksam einzugreifen. Es sollte nicht nur darum gehen, irgendwann Bußgelder zu verhängen, sondern Risiken frühzeitig zu erkennen und zu verhindern. Dafür sind allerdings technische Kompetenzen und ausreichend Personal notwendig. Die für die Überwachung der Umsetzung des AI Act zuständige Einheit hat derzeit aber nur rund 40 Mitarbeiter.

Dazu mehr in einem Interview von Risto Uuk mit Brando Benifei, MdEP: https://artificialintelligenceact.substack.com/p/how-the-ai-act-was-negotiated-and?utm_campaign

Wie schwierig die Durchsetzung unter diesen Bedingungen sein kann, zeigt ein konkreter Fall. Laut Euractiv hat OpenAI den sogenannten RubyGems-Vorfall offenbar nicht als »serious incident« an das AI Office gemeldet. Bei dem Vorfall hatten OpenAI-KI-Agenten im Mai versucht, eine Schwachstelle im Software-Repository RubyGems auszunutzen, indem sie über 2.000 potenziell schädliche Datenpakete auf die Plattform hochluden. OpenAI bestreitet diese Darstellung teilweise. Der Fall zeigt ein praktisches Problem des AI Act: Zwar besteht eine Pflicht, schwerwiegende Vorfälle unverzüglich zu melden. Die Schwelle dafür, wann ein Vorfall genau als »serious incident« gilt, ist aber offenbar nicht eindeutig genug.

Das AI Office wusste zwar von dem Vorfall und stand mit OpenAI in Kontakt. Ein formeller Bericht wurde aber nicht eingereicht. OpenAI fand das wohl unnötig.

(Risto Ukk, 23.09.2026): https://artificialintelligenceact.substack.com/p/the-eu-ai-act-newsletter-111-pacing

Auch die New York Times beschreibt, wie die technologische Entwicklung die staatliche Regulierung zunehmend hinter sich lässt. Die Umsetzung des AI Act wird durch politische Rücksicht auf die Wettbewerbsfähigkeit, verschobene Fristen sowie fehlendes Personal und Budget gebremst.

(N.Y.T., 27.09.2026): https://www.nytimes.com/2026/09/27/technology/ai-government-regulation.html


Alles nur Werbung für ein überteuertes Produkt?

Auf der anderen Seite gibt es auch Expert*innen, die das alles für eine riesige Werbekampagne halten. Wenn KI so mächtig ist, dass sie die Menschheit vernichten könnte, muss das doch eine hervorragende Gelegenheit sein, Milliarden von Dollar in ihre Entwicklung zu investieren.

Und das lässt sich nicht von der Hand weisen: OpenAI und Anthropic wollen demnächst an die Börse. Anleger*innen sollen Anteile an den Unternehmen kaufen – für mehr Geld, als jemals zuvor für eine Technologie ausgegeben wurde. Doch der Hype gerät ins Stocken.

Wir wissen alle, dass KI erstaunliche Dinge kann. Aber es fehlen Geschäftsmodelle, mit denen sich diese Fähigkeiten monetarisieren lassen, um die enormen Investitionen in Rechenzentren und Entwicklung wieder hereinzuholen. Mit dem Gang an die Börse soll noch sehr viel mehr Geld zur Verfügung gestellt werden. Dabei wird das Risiko natürlich auch von den bisherigen Investor*innen auf viele Millionen Anlegerinnen und Anleger umgeschichtet. Sicher auch auf jede und jeden von uns, wenn wir beispielsweise eine Lebensversicherung oder eine private Rentenversicherung haben.

https://www.heise.de/meinung/Kommentar-Ach-die-besorgten-KI-Bros-11452815.html

Interessante Informationen fördert auch die Nachrichtenagentur Reuters aus dem Börsenprospekt von Anthropic zutage.

Die für die geplante grundlegende Veränderung ganzer Volkswirtschaften notwendigen Investitionen sind enorm. Anthropic erzielte 2025 rund 4,6 Milliarden Dollar Umsatz, etwa zwölfmal so viel wie im Vorjahr. Aber gleichzeitig stiegen die operativen Kosten auf 12,65 Milliarden Dollar. Mehr als die Hälfte davon entfiel auf Rechenleistung und Infrastruktur. Für künftige Cloud-, Computing- und Infrastrukturleistungen hat das Unternehmen Verpflichtungen von insgesamt rund 518 Milliarden Dollar angegeben. Das ist mehr als der deutsche Bundeshaushalt für 2026, der rund 520 Milliarden Euro beträgt. Dabei ist Anthropic neben OpenAI nur einer von zwei großen Akteuren.

Besonders bemerkenswert ist der Umfang der verpflichtenden Risikohinweise: Rund 80 der 261 Seiten des Prospekts beschäftigen sich mit Risiken. Anthropic warnt ausdrücklich davor, dass seine Modelle möglicherweise »selbsterhaltende« Verhaltensweisen entwickeln könnten – etwa Versuche, eine Abschaltung zu verhindern, Informationen zu verschleiern oder Menschen zu manipulieren. Im Extremfall könnten hochentwickelte KI-Systeme nach Einschätzung des Unternehmens sogar »katastrophale oder existenzielle Risiken für die Menschheit« darstellen.  

Hier tritt der Widerspruch offen zutage: Anthropic warnt seine künftigen Aktionäre und Aktionärinnen vor möglichen existenziellen Gefahren der Technologie, ist aber gleichzeitig darauf angewiesen, seine Modelle immer leistungsfähiger zu machen und in schneller Folge neue Modelle auf den Markt zu bringen. CEO Dario Amodei fordert zwar eine vorsichtigere Entwicklung der KI-Spitzenmodelle. Anthropic räumt im Börsenprospekt jedoch selbst ein, dass ein langsameres Entwicklungstempo gegenüber Konkurrenten wie OpenAI ein erhebliches Geschäftsrisiko darstellen würde.  

https://www.reuters.com/technology/artificial-intelligence/inside-anthropics-confidential-s-1-qa-2026-09-30/

Die Haftungsfrage

Bei den Risikohinweisen im Börsenprospekt geht es um die Haftung gegenüber den Aktionär*innen. Es gibt aber auch darüber hinausgehende Haftungsfragen, beispielsweise die Produkthaftung. Das US-amerikanische Haftungsrecht ist ein äußerst scharfes Schwert. Wir erinnern uns alle an Verfahren, in denen Geschädigten exorbitante Summen zugesprochen wurden, weil sie sich beispielsweise an heißem Kaffee eines Fast-Food-Restaurants verbrannt hatten. In den USA ist das auch ein Mittel zur Regulierung: Wenn ein Produkt eine Gefahr darstellt, können hohe Schadensersatzforderungen dazu beitragen, dass Unternehmen ihre Produkte sicherer machen.

Was passiert nun, wenn die Haftungsfrage auch bei KI-Anwendungen konsequent gestellt wird? Das könnte eine massive Bedrohung für die KI-Unternehmen und ihre geplanten Börsengänge sein.

Der CDU-Europaabgeordnete Axel Voss und weitere Abgeordnete fordern in einer parlamentarischen Anfrage vom 17.09.26 parteiübergreifend einen neuen Haftungsrechtsakt.

https://www.europarl.europa.eu/RegData/questions/ecrites/2026/003743/P10_QE(2026)003743_DE.pdf

Martin Andree, Medienprofessor an der Universität zu Köln, beschäftigt sich in einem am 15.09.26 veröffentlichten Podcast des ORF mit dieser These:

https://sound.orf.at/podcast/tv/zib-magazin-media-wissen--der-podcast-zur-sendung/die-angst-der-ki-bosse

Auch ChatGPTIsEatingtheWorld schreibt wenige Tage später darüber.

https://chatgptiseatingtheworld.substack.com/p/is-tort-law-the-antidote-to-rogue

Kriminelle Nutzung als reale Gefahr

Noch ein Aspekt: Selbst wenn man es für unwahrscheinlich hält, dass eine KI selbstständig auf die Idee kommt, die Menschheit auszulöschen, und die Umsetzung dieses Vorhabens auch hinbekommt, bleibt immer noch die Gefahr, dass Menschen KI nutzen, um massive Schäden anzurichten. Wir wissen, dass unsere Infrastruktur nur unzureichend gesichert ist. Attacken wie der jüngste Datendiebstahl bei Berliner Behörden samt Erpressung wären mit KI-Agenten sehr viel leichter und effektiver durchzuführen. Was wäre, wenn nicht nur Daten geraubt, sondern ein Kernkraftwerk unter Kontrolle gebracht würde? Das Öffnen eines E-Mail-Anhangs könnte dafür vielleicht schon genügen.

KI-Kritiker Gary Marcus nimmt dazu in einem Interview mit dem Spiegel Stellung. Er fordert keinen generellen Entwicklungsstopp für künstliche Intelligenz, sondern unterscheidet zwischen vergleichsweise unproblematischen Anwendungen und autonomen KI-Agenten, die auf Basis großer Sprachmodelle selbstständig im Internet handeln. Angesichts der jüngsten Sicherheitsvorfälle hält er diese Systeme für nicht ausreichend kontrollierbar und fordert eine unabhängige Prüfung vor ihrer Marktzulassung – vergleichbar mit der Zulassung von Medikamenten. Die heutigen Sprachmodelle seien aufgrund ihrer probabilistischen Funktionsweise kein verlässliches Fundament für autonome Systeme. Gleichzeitig warnt Marcus vor überzogenen wirtschaftlichen Erwartungen: Die enormen Investitionen in KI stünden möglicherweise in keinem Verhältnis zu den erzielbaren Produktivitätsgewinnen.  

https://www.spiegel.de/netzwelt/kuenstliche-intelligenz-kritiker-gary-marcus-dringt-auf-stopp-fuer-ki-agenten-a-4f66b6f3-453b-49a7-a489-9a17d4f50e54?giftToken=9bdab14c-d66b-4eea-bcf0-045e727f130f

(Gratis-Link für die ersten 10 Nutzer*innen)

Marcus schreibt dazu auch in seinem Blog, der ohne Paywall zugänglich ist.

https://garymarcus.substack.com/p/could-rogue-agent-swarms-take-over

Europäische Kommission zeigt sich entschlossen

Es gibt quasi jeden Tag neue Beiträge zu dieser Debatte. Risto Uuk verweist in seinem aktuellen Newsletter auf Beiträge von POLITICO: EU-Kommissionsvizepräsidentin Henna Virkkunen verspricht, trotz des Widerstands der USA am Ziel internationaler Regeln für KI-Sicherheit festzuhalten. Das erklärte sie auf der RAID Conference in Brüssel am 29.09.26. Die EU unterstützt gemeinsam mit Finnland, Norwegen und weiteren Staaten die Einrichtung eines internationalen Gremiums zur Beobachtung und Bewertung von KI-Risiken. Virkkunen argumentiert, dass Regulierung und Innovation kein Gegensatz seien: Verlässliche Regeln könnten vielmehr das Vertrauen schaffen, das für Innovation notwendig sei. Die EU will außerdem die Zusammenarbeit der nationalen KI-Sicherheitsbehörden verstärken. Gleichzeitig wächst innerhalb der EU die Kritik an der Umsetzung des AI Act. Virkkunen äußert sich dazu auch auf LinkedIn.

https://www.linkedin.com/posts/henna-virkkunen_ai-holds-enormous-opportunities-for-all-of-share-7511775298108153856-IRvK/

(Risto Uuk, 06.10.2026): https://artificialintelligenceact.substack.com/p/the-eu-ai-act-newsletter-112-global


Mein Fazit:

Wir werden Zeuginnen und Zeugen einer sehr schnellen und weitreichenden Entwicklung, die bislang kaum kontrolliert wird. Als wäre das erste Auto gleich ein 911er Porsche gewesen. Unabhängig davon, ob die hier beschriebenen Gefahren real sind und richtig eingeschätzt werden oder ob es sich teilweise um eine Werbekampagne handelt: Eindeutig ist, dass eine gefährliche Technologie reguliert werden muss. Eine ganz reale Gefahr liegt in der mutwillig schädlichen Nutzung von KI durch Kriminelle, Terrorist*innen oder Kriegsparteien. Europa hat mit dem AI Act gesetzliche Grundlagen geschaffen. Aber wir werden sehen, ob die Behörden auch handeln – und ob das ausreicht, um die Gefahren zu bannen.

Hier noch ein Gratis-Link für die ersten 10 Nutzer*innen zu einer großen Spiegel Geschichte »Erst verliert die Menschheit die Kontrolle über die KI. Dann droht Plan D.«

https://www.spiegel.de/wirtschaft/kuenstliche-intelligenz-ki-bosse-fordern-regeln-trump-und-xi-haben-eigene-ziele-a-d2031049-ab89-45ee-beef-56a2f8ab5919?giftToken=34f00b94-4803-4283-8944-e3c9efaa466a

Politik

FREELENS Stellungnahme gegenüber der Europäische Kommission zu einer »KI-Strategie für den Kultur- und Kreativsektor«

Nach der Stellungnahme ist vor der Stellungnahme. Wir hatten die nächste Anfrage der Europäischen Kommission auf dem Tisch und haben auf die Frage, wie eine KI-Strategie für den Kultur- und Kreativsektor aussehen kann, umfangreich geantwortet.

Keypoints:

- Die EU sollte den Erhalt menschlicher Kreativität als Ziel ihrer KI- und Kulturpolitik verankern. Generative KI darf die wirtschaftlichen und gesellschaftlichen Grundlagen menschlicher Kreativarbeit nicht zerstören. Kreative müssen an der Wertschöpfung beteiligt werden, die auf ihren Leistungen aufbaut.

- Die EU sollte den Erhalt kultureller Vielfalt als Ziel ihrer KI- und Kulturpolitik verankern. Algorithmische Verzerrungen und die Dominanz von Mainstream-Inhalten dürfen nicht zur Homogenisierung kultureller Ausdrucksformen führen.

- Menschliche Kreativleistungen müssen gegenüber der massenhaften Produktion von KI-Inhalten sichtbar und auffindbar bleiben. Die EU sollte öffentlich-rechtliche Angebote fördern, die Zugang zu menschlich geschaffenen Inhalten ermöglichen.

- Das Machtgefälle zwischen KI-Konzernen und Kreativen muss wettbewerbs- und kartellrechtlich berücksichtigt werden. Die EU sollte prüfen, ob mächtige KI-Unternehmen Lizenzmärkte, Preise und Datenzugänge oder den Zugang zu wesentlicher Infrastruktur  kontrollieren.

- Journalistische und kulturelle Inhalte müssen bei KI-Such- und Antwortsystemen geschützt werden. Die Nutzung von KI-Systemen darf nicht dazu führen, dass Wertschöpfung von den Produzent*innen kultureller Inhalte zu marktmächtigen Plattformen verlagert wird.

- KI-Kompetenz und menschliche kulturelle Fähigkeiten müssen gleichermaßen gefördert werden.

- Die Auswirkungen von KI auf die Kultur- und Kreativwirtschaft müssen kontinuierlich und unabhängig untersucht werden.

- Rein maschinell erzeugte Inhalte dürfen keinen urheberrechtlichen Schutz erhalten.

- Die Interessenvertretung und Handlungsmöglichkeiten der Kreativen müssen institutionell gestärkt werden. Europäische Dachverbände und nationale Berufsverbände sollten gefördert werden.

- Das Training generativer KI darf nicht unter die TDM-Schranke fallen.
Es muss als eigenständige urheberrechtlich relevante Nutzung behandelt werden und grundsätzlich zustimmungs- und vergütungspflichtig sein. Wissenschaftliche TDM-Ausnahmen dürfen spätere kommerzielle KI-Nutzung ermöglichen. 

- Für das Training generativer KI muss das Prinzip »Opt-in statt Opt-out« gelten.
Werke dürfen grundsätzlich nur mit Zustimmung der Rechteinhaber*innen für das Training genutzt werden. Eine gesetzliche Lizenzierung ohne Zustimmung bzw. ohne Möglichkeit des Widerspruchs lehnt FREELENS entschieden ab.

- Die EU sollte eine freiwillige, transparente und skalierbare Lizenzierungs- und Vergütungsinfrastruktur schaffen. Sie sollte sowohl individuelle Lizenzierung für das KI-Training als auch geeignete kollektive Vergütung für KI-generierten Output ermöglichen. Letzteres darf Ersteres dabei keinesfalls ersetzen.

- Die Vergütung muss die tatsächliche Nutzung und Wertschöpfung abbilden.
Lizenzmodelle sollten auch die langfristige Weiterentwicklung und Nutzung von KI-Systemen berücksichtigen. 

- Verwertungsgesellschaften und Berufsverbände müssen in die Rechtewahrnehmung einbezogen werden.

- Trainingsdaten müssen werkbezogen transparent und nachvollziehbar dokumentiert werden. Es sollte eine widerlegbare gesetzliche Vermutung eingeführt werden, dass urheberrechtlich geschützte Werke beim KI-Training benutzt wurden.

- Rechteinformationen müssen über die gesamte digitale Nutzungskette erhalten bleiben. Bestehende Vorgaben müssen durchgesetzt werden.

- Eine Klassifizierung der Authentizität fotografischer Bilder sollte entwickelt werden.

- Europa sollte gemeinwohlorientierte Alternativen zur kommerziell dominierten KI-Infrastruktur aufbauen.

Die komplette Stellungnahme: https://freelens.com/media/pages/neues/news/stellungnahme-ki-strategie-kultur-kreativsektor/0cc3d3eab9-1789125943/20260909_freelens_stellungnahme_ki-strategie_kultur-ukreativsektor.pdf

Initiative Brand.Brief fordert: Kreative an Europas KI-Politik beteiligen

Unter dem Namen Brand.Brief haben sich europäische Organisationen aus Kultur und Kreativwirtschaft zusammengeschlossen, um mehr Gewicht für die Cultural and Creative Industries (CCIs) in der europäischen Wirtschafts-, Innovations- und KI-Politik zu fordern. Im Mittelpunkt steht der geplante European Competitiveness Fund (ECF), der ab 2028 zentrale EU-Programme für Forschung, Innovation, Digitalisierung und industrielle Wettbewerbsfähigkeit bündeln soll.

Die Initiative kritisiert, dass die Kultur- und Kreativwirtschaft im aktuellen ECF-Entwurf kaum berücksichtigt wird: Auf 132 Seiten wird sie nach Angaben von Brand.Brief lediglich einmal erwähnt. Es fehlen eine ausdrückliche Einstufung als strategischer Sektor, eine eigene Finanzierungslinie und eine angemessene Vertretung in den Entscheidungsgremien. Dabei beschäftigt die Branche nach den von Brand.Brief angeführten Zahlen rund 7,9 Millionen Menschen in 2,1 Millionen Unternehmen und erwirtschaftet etwa vier Prozent des EU-BIP.

Brand.Brief schlägt eine Brücke zur aktuellen KI-Debatte und argumentiert, dass die Zukunft der Kreativwirtschaft nicht allein durch Kulturförderung entschieden wird. Parallel zur Entwicklung des ECF werden der AI Act, der GPAI Code of Practice und die Arbeit des EU AI Office vorangetrieben. Damit entstehen gerade die Regeln, unter denen Texte, Bilder, Musik, Filme und andere kreative Leistungen künftig für KI-Systeme genutzt und wirtschaftlich verwertet werden.

Die Initiative fordert deshalb unter anderem einen Creator-Rights- und Licensing-Rahmen für das KI-Zeitalter. Kreative sollen nicht nur vor den Folgen der KI geschützt werden, sondern auch wirtschaftlich an der entstehenden KI-Wirtschaft beteiligt sein. Dazu gehören nach den Vorstellungen von Brand.Brief unter anderem kollektive Lizenzierungsstrukturen, Rechte-Management-Systeme und Vergütungsmechanismen. Auch die Nutzung öffentlicher Beschaffung zur Förderung europäischer kreativer Inhalte soll gestärkt werden.

Darüber hinaus fordert Brand.Brief eine eigene strategische Verankerung der Kreativwirtschaft in Horizon Europe und im ECF, spezielle Unterstützung bei den durch KI ausgelösten Veränderungen der Arbeitswelt sowie den Ausbau der KI- und Rechtekompetenz von Kreativen. Vor allem aber sollen Vertreter*innen der CCIs in die Gremien einbezogen werden, die über den ECF, den AI Act und dessen Umsetzung entscheiden.

Wir haben den Brand.Brief natürlich mitgezeichnet, insbesondere weil er die KI-Frage aus einer weiteren Perspektive betrachtet: Nicht nur das Urheberrecht und die Frage der Nutzung von Trainingsdaten entscheiden über die Zukunft kreativer Berufe. Ebenso wichtig ist, ob die Kreativwirtschaft in den europäischen Innovations- und Förderstrukturen überhaupt als strategischer Wirtschaftsfaktor anerkannt wird.

Brand.Brief führt beide Ebenen zusammen: faire Vergütung und Rechte für kreative Leistungen einerseits und Zugang zu den europäischen Investitions-, Forschungs- und Innovationsprogrammen andererseits.

Auch Einzelpersonen können die Initiative mitzeichnen.

https://www.brandbrief.eu

https://www.brandbrief.eu/doc/TXT_BrandBrief_v2_20260601.pdf

Recht

Fotorat stellt »Capture Class« vor

Mit der »Capture Class« schlägt die AG Fortschritt des Deutschen Fotorats eine einfache Klassifikation vor, die in Metadaten festhält, wie stark ein Bild durch die fotografische Aufnahme einer realen Szene bestimmt ist und welche Veränderungen anschließend vorgenommen wurden. Die Kennzeichnung soll kein Qualitätsurteil sein, sondern eine gemeinsame Sprache für Fotograf*innen, Agenturen, Redaktionen und Auftraggebende schaffen. Wer sich das lieber von Jürgen Scriba erklären lassen möchte, hört sich am besten den KI-Podcast des Fotorats an (siehe unten). Wer lieber liest: Hier die Erklärung in aller Kürze.

Das System unterscheidet fünf Klassen: D – Dokumentarisch, O – Optimiert, C – Composit, S – Synthetisch und U – Nicht klassifiziert. Ein dokumentarisches Bild stammt aus einer einzelnen Aufnahme und verändert keinen Bildinhalt. »Optimiert« erlaubt beispielsweise Retusche, HDR oder Computational Photography, solange die Aufnahmesituation und die Bildaussage im Wesentlichen erhalten bleiben. »Composit« umfasst Montagen aus mehreren fotografierten Aufnahmen. »Synthetisch« bezeichnet Bilder, die ganz oder wesentlich nicht fotografisch entstanden sind – etwa durch generative KI, CGI oder Illustration. U dient als neutraler Wert, wenn die Herkunft nicht bekannt oder nicht zuverlässig zu bestätigen ist.

Der Ansatz ist bewusst werkzeugunabhängig: Nicht entscheidend ist, ob KI, Photoshop oder eine Kamerafunktion eingesetzt wurde, sondern was am fertigen Bild tatsächlich verändert wurde. Damit soll die Capture Class eine Lücke schließen, die durch die zunehmende Vermischung von klassischer Bildbearbeitung, Computational Photography und generativer KI entsteht. Denn ein Bild, das nicht als KI-generiertes »Deepfake« gekennzeichnet werden muss, ist deshalb noch lange nicht unverändert oder authentisch.

Wichtig ist auch die Abgrenzung zu C2PA und zum IPTC Digital Source Type. Die Capture Class soll diese Systeme nicht ersetzen. Während der Digital Source Type detailliert beschreibt, welche technischen Verfahren und Werkzeuge eingesetzt wurden, soll die Capture Class eine einfach verständliche Aussage über das Ergebnis des Bearbeitungsprozesses liefern. C2PA könnte ergänzend kryptografisch dokumentieren, wie ein Bild entstanden und bearbeitet worden ist.

Vorgesehen ist ein neues IPTC-Metadatenfeld mit den fünf Werten documentary, optimized, composite, synthetic und unclassified. Für einen Pilotbetrieb könnte zunächst ein eigener XMP-Namensraum des Deutschen Fotorats verwendet werden. Gespräche mit dem IPTC über ein eigenes Capture-Class-Feld wurden bereits angestoßen.

https://freelens.com/neues/news/capture-class-aufnahmeklasse

Content Credentials / C2PA: Die Technik ist bereit, jetzt müssen alle mitmachen

Die technische Infrastruktur für die digitale Provenienz von Bildern und Videos macht deutliche Fortschritte. Das zeigen gleich drei Berichte vom diesjährigen Media Provenance Summit in Bergen und aus dessen Umfeld. Gemeinsam zeichnen sie ein Bild davon, wie C2PA und Content Credentials aus einer Funktion einzelner Kameras zu einem durchgängigen Bestandteil professioneller Produktionsketten werden könnten.

Der Softwarehersteller Camera Bits beschreibt einen konkreten Workflow mit Sony-Kameras, Photo Mechanic und dem Anbieter Imatag. Bereits bei der Aufnahme werden C2PA-Informationen erzeugt. Beim Import und bei der Bearbeitung mit Photo Mechanic bleiben sie zusammen mit den IPTC-Daten erhalten und werden bei der Ausgabe aktualisiert. Eine zusätzliche digitale Wasserzeichen-Technologie soll dafür sorgen, dass die Provenienz auch dann wiedergefunden werden kann, wenn Metadaten später von einem System entfernt werden.

Noch einen Schritt weiter geht ein von Sony und Reuters vorgestellter Near-Live-Workflow. Dabei sollen C2PA-Informationen nicht nur bei der Aufnahme, sondern auch bei der Übertragung, Speicherung, beim Schnitt und bei der Distribution von Videomaterial erhalten bleiben. Zum Einsatz kommen dabei Sonys C2PA-fähige Kamera, der Time-Addressable Media Store (TAMS) und die Reuters-Produktionsumgebung. Selbst bei fragmentierten Videodateien soll die Provenienz erhalten bleiben. Digitale Wasserzeichen dienen auch hier als zusätzliche Möglichkeit, Provenienzinformationen nach einem Verlust der Metadaten wiederherzustellen.

Apple hat derweil mit »Reference Image ein neues Verfahren vorgestellt, mit dem sich nachweisen lassen soll, ob ein Foto tatsächlich so aufgenommen wurde, wie es ursprünglich vom Kamerasensor erfasst wurde. Anders als bei C2PA wird die Aufnahme bereits direkt im Sensor kryptografisch signiert – also noch bevor die Bilddaten die weitere Verarbeitung des iPhones durchlaufen. Zusätzlich wird der Aufnahmezeitpunkt kryptografisch abgesichert. Aus diesen Daten entsteht eine unveränderbare Referenzdatei, die später mit dem bearbeiteten Foto verglichen werden kann.

https://kaptur.co/whats-behind-apples-reference-image/

Bei all diesen Ansätzen bleibt allerdings ein Problem, auf das Paul Melcher von Kaptur.co beim Media Provenance Summit kritisch hinweist: Die entscheidende Herausforderung liegt inzwischen nicht mehr darin, C2PA technisch in eine Kamera zu integrieren. Sie liegt darin, die Provenienz durch die gesamte Produktions- und Veröffentlichungskette zu transportieren. Werden die Informationen im DAM, im Redaktionssystem, beim Schnitt oder durch eine Publishing-Plattform entfernt, geht der Nachweis verloren.

Camera Bits zeigt also einen möglichen Workflow für Fotograf*innen, Sony und Reuters demonstrieren ihn für den professionellen Newsroom, und Melcher stellt die entscheidende Frage, ob die Plattformen und Medienunternehmen diese Infrastruktur tatsächlich übernehmen. Denn ein technisch vorhandener Provenienznachweis bringt wenig, wenn er beim Publikum nicht mehr sichtbar ist.

Derzeit kommt der Impuls zur Einführung von C2PA offenbar stärker aus regulatorischen Anforderungen – insbesondere den Transparenzanforderungen des EU AI Act – als aus einer Nachfrage von Verlagen, Plattformen oder Kund*innen. Wir haben uns in den Konsultationen der EU-Kommission und anderer Institutionen stets dafür ausgesprochen, gesetzlich klar zu regeln, dass Herkunftsinformationen erhalten bleiben müssen – ebenso wie Urheberinformationen. Leider wurde dieser Forderung nicht entsprochen.

Profifoto weist indes darauf hin, dass C2PA nicht mit einem Wahrheitsstempel verwechselt werden darf. Ein Content Credential kann dokumentieren, mit welcher Kamera ein Bild entstanden ist, wer es bearbeitet hat und welche Veränderungen vorgenommen wurden. Es beweist aber nicht, dass das fotografierte Ereignis tatsächlich so stattgefunden hat. Gerade für den Fotojournalismus ist diese Unterscheidung wichtig.

Diese Frage war allerdings meiner Meinung nach schon immer schwer zu beantworten. Bereits bei der analogen Fotografie war nicht ohne weiteres erkennbar, ob ein Bild gestellt war oder ob sich eine Handlung ohne Zutun der fotografierenden Person tatsächlich so zugetragen hatte. Es ist ein wichtiger Schritt, die Herkunft eines Fotos ab der Aufnahme nachvollziehen zu können. Gerade durch den Einsatz bildgenerativer KI gewinnt die Frage nach der Authentizität an Bedeutung.

Die Entwicklung ist für Fotograf*innen also auf jeden Fall relevant. Mit C2PA sollten die Herkunft und die Bearbeitung eines Bildes künftig ähnlich selbstverständlich dokumentiert werden wie Aufnahmezeit, Kamera oder IPTC-Daten. Auch wenn noch nicht sichergestellt ist, dass die C2PA-Daten bis zu den Betrachtenden des Bildes erhalten bleiben, sollten wir sie aufzeichnen. Falls die Kamera diese Informationen noch nicht liefert, ist es besser, die Bearbeitung mit der Software zu dokumentieren, als überhaupt keine entsprechenden Informationen zu haben.

Bei gängiger Software ist das mittlerweile kaum noch mit zusätzlichem Aufwand verbunden. In Lightroom kann das Anhängen von Content Credentials beim Export einfach ausgewählt werden.

(Camerabits, 24.09.2026): https://home.camerabits.com/from-capture-to-publication-looking-back-at-the-2026-media-provenance-summit/

(Kaptur.co, 30.09.2026) https://kaptur.co/bergen-provenance-summit-provenance-is-ready-is-anyone-buying/

(Profifoto, 08.09.2026): https://www.profifoto.de/szene/notizen/2026/09/08/c2pa-authentizitaet/

KI-Training als wissenschaftliche Forschung?

Wann gilt das Training eines KI-Modells als »wissenschaftliche Forschung«? Diese Frage hat im Urheberrecht erhebliche Bedeutung, wie der Fall Kneschke gegen LAION zeigt. Das Landgericht Hamburg hatte die Vervielfältigung eines Fotos bei der Erstellung eines KI-Datensatzes unter anderem als wissenschaftlichen Text und Data Mining eingestuft. Die Entscheidung wirft die Frage auf, wie weit das Forschungsprivileg reicht – insbesondere, wenn die dabei entstandenen Datensätze später auch für das Training kommerzieller KI-Modelle genutzt werden.

Der Kluwer Copyright Blog untersucht die aktuelle Diskussion um eine EU-weite Definition wissenschaftlicher Forschung, auch vor dem Hintergrund des Rechtsstreits um die Forschungsorganisation LAION:

Bislang gibt es im EU-Recht keine einheitliche Definition. Eine mögliche Grenze zeichnet sich jedoch ab: Wissenschaftliche Forschung kann auch kommerziell finanziert sein. Sie soll aber von Aktivitäten unterschieden werden, die unmittelbar der Entwicklung, Verbesserung oder Optimierung von Produkten und Dienstleistungen dienen.

Im Zusammenhang mit KI wird deshalb diskutiert, ob die Entwicklung, das Training, die Erprobung und die Validierung von KI-Modellen als wissenschaftliche Forschung gelten können. Entscheidend könnten dabei Kriterien wie eine wissenschaftliche Methodik, Dokumentation, Nachvollziehbarkeit und vor allem das konkrete Ziel der Tätigkeit sein.

Für das Urheberrecht ist diese Abgrenzung besonders relevant, weil die Einordnung als wissenschaftliche Forschung mit besonderen gesetzlichen Privilegierungen verbunden sein kann. Der Artikel macht deutlich: Kommerzielle Finanzierung bedeutet nicht automatisch, dass keine Forschung vorliegt. Umgekehrt ist aber auch nicht jedes KI-Training wissenschaftliche Forschung. Entscheidend wird sein, ob tatsächlich wissenschaftliche Erkenntnisse gewonnen werden sollen oder ob die Tätigkeit letztlich der Entwicklung und Optimierung eines kommerziellen KI-Produkts dient.

https://legalblogs.wolterskluwer.com/copyright-blog/mission-without-definition-no-more-towards-a-definition-of-scientific-research-in-eu-information-law/

Infrastruktur für maschinell verarbeitbare Urheberrechtsdaten

Wie Urheberrechtsinformationen – insbesondere ein Opt-out für das Training von KI-Modellen – maschinenlesbar gestaltet werden können, war eine der offenen Fragen nach dem Urteil des OLG Hamburg in der Sache Kneschke gegen LAION.

Anna Vuopala vom finnischen Ministerium für Bildung und Kultur und Philippe Rixhon von Valunode, einem Projekt zum Aufbau einer digitalen Infrastruktur für Urheber- und Persönlichkeitsrechte, haben sich mit dieser Frage beschäftigt. In einem Artikel im Kluwer Copyright Blog beschreiben sie eine mögliche Infrastruktur, mit der Rechteinformationen, Urheberangaben, Lizenzen und Nutzungsvorbehalte standardisiert und miteinander verknüpft werden sollen, damit Maschinen sie zuverlässig erkennen und verarbeiten können. Gerade beim KI-Training könnte das die technische Grundlage für automatisierte Lizenzierung und Vergütung – oder für ein wirksames Opt-out – bilden.

Das Urheberrecht legt zwar fest, welche Rechte bestehen und welche Nutzungen erlaubt oder verboten sind. Im digitalen Maßstab, insbesondere beim KI-Training, reichen gesetzliche Regeln allein jedoch nicht aus. Es fehlt eine verlässliche, interoperable und maschinenlesbare Infrastruktur für Rechteinformationen.

Im Mittelpunkt steht deshalb das Konzept eines Open Rights Data Framework (ORDF). Es soll unterschiedliche bestehende Systeme, Identifikatoren und Metadatenstandards miteinander kompatibel machen. Informationen darüber, wem ein Werk gehört, welche Rechte bestehen, welche Nutzungen erlaubt sind und welche Rechtevorbehalte erklärt wurden, sollen über den gesamten Lebenszyklus eines Werks erhalten bleiben und maschinell verarbeitet werden können. Dafür sollen unter anderem offene Identifikatoren, standardisierte Metadaten sowie Technologien wie Watermarking und Fingerprinting eingesetzt werden.

Besonders interessant ist der Zusammenhang mit KI-Training. Eine solche Infrastruktur könnte nach Vorstellung der Autor*innen automatisierte Rechteprüfungen, Lizenzierungen, die Zuordnung von Urheber*innen und Vergütungen ermöglichen. Damit könnten Kreative von Anfang an an der Wertschöpfungskette von KI beteiligt werden. Bislang setzen viele Systeme erst relativ spät im Produktionsprozess an. Die Autor*innen plädieren hingegen dafür, Rechteinformationen bereits bei der Entstehung eines Werks zu erfassen und anschließend durchgängig weiterzuführen.

Ein wichtiger Punkt ist dabei der TDM-Opt-out nach Artikel 4 der DSM-Richtlinie. Die Europäische Kommission hat in einer Machbarkeitsstudie untersucht, ob ein EU-weites Register solche Rechtevorbehalte leichter auffindbar machen könnte. Die Autor*innen halten ein solches Register grundsätzlich für sinnvoll, warnen aber davor, es als isolierte Lösung einzuführen. Es müsse Teil einer umfassenderen, sektorübergreifenden Infrastruktur sein. CopyrightView und ein EU-weites TDM-Opt-out-Register sollten deshalb ihrer Auffassung nach nicht eingeführt werden, ohne zugleich einen gemeinsamen Rahmen für interoperable Copyright-Daten zu schaffen. Bestehende branchenspezifische Lösungen sollen dabei nicht ersetzt, sondern miteinander verbunden werden.

Die Autor*innen betonen außerdem, dass die entscheidende Frage letztlich nicht die Technik, sondern die Governance ist: Wer betreibt die Infrastruktur? Wer finanziert sie dauerhaft? Wer sorgt für gemeinsame Standards und deren Weiterentwicklung? Diskutiert werden sowohl eine europäische Verankerung beim EUIPO als auch eine internationale Abstimmung, etwa mit Initiativen der WIPO.

Für uns als Urheber*innen ist insbesondere der Gedanke wichtig, dass Metadaten nicht als nebensächliche Zusatzinformation, sondern als Bestandteil der urheberrechtlichen Infrastruktur verstanden werden. Die Autor*innen weisen ausdrücklich darauf hin, dass Rechteinformationen häufig entfernt oder verändert werden – und dass dies den Wert der Metadaten erheblich beeinträchtigt.

Nun spinne ich das mal etwas weiter: Wenn es bei einer Opt-out-Regelung bleibt, könnte ein funktionierendes Opt-out-System die praktische Wirkung des Modells zumindest teilweise umkehren. Denn wenn möglichst viele Urheber*innen und Rechteinhaber*innen dem KI-Training widersprechen – was eigentlich der Fall sein sollte, wenn sie ihre Rechte wirksam wahrnehmen wollen –, könnte das in der Praxis einem Opt-in-Modell nahekommen. Voraussetzung wäre allerdings, dass sich der Widerspruch einfach erklären lässt, maschinenlesbar ist und zuverlässig über die gesamte Nutzungskette hinweg berücksichtigt wird. Wenn sich das weitgehend automatisieren lässt, wäre das auch für uns machbar.

(Kluwer Copyright Blog, 05.10.2026): https://legalblogs.wolterskluwer.com/copyright-blog/machine-actionable-copyright-data-interoperable-infrastructure-supports-all-stakeholders/

Podcast

Fotorat-KI-Podcast »Photonen und Pixel« mit Dr. Jürgen Scriba und Boris Eldagsen 

Jürgen Scriba stellt erstmals öffentlich das System zur Kennzeichnung der Authentizität von Bildern vor, das die Fotorat-Arbeitsgruppe »Technischer Fortschritt« – mit Dagmar Schwelle und mir – erarbeitet hat. Gemeinsam mit Boris Eldagsen vergleicht er es mit Vorschlägen aus der Schweiz.

Die zentrale Frage lautet: Wie unterscheiden wir heute noch zwischen dokumentarischer Fotografie, optimierten Bildern, Composites und vollständig synthetischen Bildern? Die beiden stellen die neue Capture Class des Fotorats vor und diskutieren, warum nicht das verwendete Werkzeug, sondern der tatsächliche Eingriff ins Bild entscheidend sein sollte.

Zu Gast ist Christoph Schütz von Photolabel.org. Er erklärt, wie authentische Fotografie in der Schweiz freiwillig gekennzeichnet werden könnte.

Außerdem werden aktuelle Bild- und Videomodelle wie ChatGPT Image 2.5, Midjourney V8.2 Edit, Seedance 2.5, Wan 3.0 und Minimax H3 getestet und miteinander verglichen.

Zum Schluss geht es um KI-Podcasts, Agenten und Bill Gates’ Idee, welche Tätigkeiten Menschen vorbehalten bleiben sollten.

YouTube: https://www.youtube.com/watch?v=VjCCWU32gbc

Spotify: https://open.spotify.com/episode/7ztR1wvfYyYCUG5sqvdzju?si=b168b22d80b3498a

Apple Podcast: https://podcasts.apple.com/de/podcast/20-von-capture-class-zu-photolabel-org/id1883987339?i=1000792348196

KI verstehen »KI auf Social Media«

Carina Schroeder spricht im Deutschlandfunk-Podcast »KI verstehen« mit Alke Martens, Influencerin und Professorin für Praktische Informatik und Didaktik der Informatik an der Universität Rostock.

»Je größer der Hype, desto wichtiger wird Aufklärung über Künstliche Intelligenz.« Alke Martens erklärt auf Instagram, welche Schwächen die Technologie hat, wie sie das Lernen verändert und welche Verantwortung sie als Informatikprofessorin trägt.

(Deutschlandfunk, 17.09.2026): https://www.deutschlandfunk.de/ki-social-media-influencerin-alke-mertens-100.html

Bücher

Neuerscheinungen zu KI, Kreativität und Urheberrecht

Es gibt zwei Bücher zum Thema, die ich euch gerne ans Herz legen möchte:

Matthias Hornschuh: »Wir geben uns auf«

Matthias ist Komponist und Sprecher der Initiative Urheberrecht. Er ist ein unermüdlicher und äußerst kenntnisreicher Kämpfer für das Urheberrecht, und wir begegnen uns regelmäßig auf den verschiedensten Schlachtfeldern.

In seinem Buch fragt er, ob wir wirklich digitaler Technologie einen so zentralen Platz in unserer gesellschaftlichen Kommunikation einräumen wollen. Schließlich bildet geistiges Schaffen die Grundlage unserer Existenz und unserer Volkswirtschaften. Er warnt eindringlich davor, ideelle Wertschöpfung quasi nebenbei aufzugeben.

Matthias bringt die gesellschaftlichen und persönlichen Gefahren von KI und Digitalisierung für Kultur und Wissen auf den Punkt. Dem wohlfeilen KI-Marketing hält er entgegen, warum menschlicher Geist unverzichtbar ist.

Das Buch kann man hier bestellen: https://www.carl-auer.de/wir-geben-uns-auf

Nina George und Petra Gehring: »Alles bald KI?«

Ganz neu ist das Buch von Nina George und Petra Gehring. Nina ist wie Matthias eine meiner Heldinnen im Kampf für Urheberrechte und gegen den Diebstahl unserer kreativen Werke durch die Tech-Konzerne. Sie ist Autorin, und ich habe mich schon länger gefragt: Wann schreibt sie endlich »Gegen die Zerstörung geistiger Arbeit»? Seit dem 1. September ist das Buch »Alles bald KI?« auf dem Markt.

Unter dem Untertitel »Wie Künstliche Intelligenz Recht, Sprache und Demokratie verändert« diskutieren die Autorinnen mit Journalist*innen und Schriftsteller*innen, wie sich geistige Arbeit und Wortarbeit durch maschinell produzierte Sprache verändern. Mit Forschenden und Lehrenden vermessen sie die Folgen für Lernen, Verstehen und Denken. Mit Jurist*innen, Theolog*innen und Vertreter*innen der Zivilgesellschaft diskutieren sie Regulierungsvorschläge – und mit Philosoph*innen und IT-Expter*innen werfen sie einen Blick in den Maschinenraum generativer Technologie.

»Alles bald KI?« ist Weckruf, Sachbuch, Entzauberung und vielstimmiges Meinungsbild zugleich. Für eine aufgeklärte, für eine menschliche Zukunft.

Hier kann man das Buch bestellen: https://typografie.de/produkt/alles-bald-ki/

Technik

Apples Spagat zwischen authentischem Foto und KI-Bildbearbeitung 

Die Möglichkeiten zur KI-basierten Veränderung von Fotos werden bei Apple immer umfangreicher. Mit der neuen KI-Funktion »Spatial Reframing« in Apples Fotos-App lässt sich der Bildausschnitt nachträglich erweitern oder neu festlegen.

Man fotografiert ein Motiv, und die KI kann anschließend so tun, als wäre es mit einem größeren Bildwinkel aufgenommen worden. Bereiche, die im ursprünglichen Foto gar nicht vorhanden sind, werden dabei generativ ergänzt. Die KI muss also neue Bildinhalte erfinden, damit der veränderte Ausschnitt plausibel aussieht.

Ein Test von TechRadar zeigt die Grenzen solcher Systeme: Aus einem vorhandenen Bildausschnitt erzeugte die KI unter anderem eine komplette Person, obwohl ursprünglich keine Person zu sehen war.

Das Beispiel macht deutlich, dass ein authentisches Ausgangsfoto und ein authentisches fertiges Bild zwei unterschiedliche Dinge sein können. Die Aufnahme kann zweifelsfrei echt sein, während eine anschließend daraus erzeugte Version zusätzliche, synthetische Bildinhalte enthält.

https://www.techradar.com/ai-platforms-assistants/apple-intelligence/ios-27s-new-spatial-reframing-tool-puts-random-dude-into-redditors-photo-proving-that-the-ai-photos-feature-still-has-major-limits

Auch das noch

KI gegen Oktoberfest-Tradition

Selbst auf der wohl traditionsreichsten Wiesn der Welt, dem Münchner Oktoberfest, macht sich künstliche Intelligenz breit. Das Oktoberfestplakat 2026 sorgte schon im Februar für Streit, weil es verdächtig nach KI aussah – obwohl KI beim Wettbewerb ausdrücklich verboten war.

Photo Director Ena Aichinger, Design Director Franziska Goppold und Journalistin Pauline Krätzig vom Münchner Studio »Studio of Creative Danger« drehten daraufhin den Spieß um: Sie produzierten selbst ein KI-Wiesnplakat – in weniger als zehn Minuten und so hemmungslos klischeehaft, dass wirklich niemand mehr fragen musste, ob hier eine Maschine am Werk war.

Die Süddeutsche Zeitung interviewte die drei im Februar zu ihrer Aktion:
https://www.sueddeutsche.de/muenchen/oktoberfest-muenchen-plakat-wiesn-ki-frauen-interview-protest-li.3387060

Im September griff der Spiegel das Thema erneut auf und begleitete Ena Aichinger und Pauline Krätzig auf die Theresienwiese. Dort gab es noch viel mehr KI-generierten Kitsch zu entdecken. Die Technik wurde gleichermaßen ungeniert wie kenntnislos eingesetzt. An Fahrgeschäften fanden sich etwa Illustrationen mit Menschen ohne Gesichtszüge. Von Plakaten bis zu Speisekarten war vieles KI-generiert.

https://www.spiegel.de/netzwelt/oktoberfest-macht-ki-slop-die-wiesn-kaputt-a-909ae246-8e5c-47b0-bae1-d6cc565a4860?giftToken=010d2afa-4fc0-4194-8083-1e0a43a44248

(Gratis-Link für die ersten 10 Nutzer*innen)

Das Phänomen gibt es natürlich nicht nur in München, sondern auch im Norden, auf dem Hamburger Dom. Der NDR berichtet:
https://www.ardmediathek.de/video/hamburg-journal/so-viel-ki-auf-dem-dom-hamburger-tiktoker-geht-viral/ndr/Y3JpZDovL25kci5kZS8xYmI3Zjk1NC0wMThhLTRlOTgtYmM0Zi1iNmFjYWRkYzA4NTM

Für Rückfragen zum KI-Newsletter: marco.urban@freelens.com | Marco Urban