AI Act

Auftaktplenarsitzung für den »Verhaltenskodex für generative KI«

Der AI Act ist ja am 1. August 2024 in Kraft getreten. Viele der Vorgaben finden aber erst nach Ablauf von zwei Jahren Anwendung. Denn wie die Regeln (also z.B. der Urheberrechtsschutz) im Detail ausgestaltet werden sollen, ist noch völlig unklar. Um dies anzugehen, gab es einen Aufruf der EU zu einem Beteiligungsverfahren, an dem der Deutsche Fotorat und die Initiative Urheberrecht teilgenommen haben – darüber habe ich ja auch in den letzten Newslettern berichtet.

Die Auftaktplenarsitzung für den »Verhaltenskodex für generative KI« fand am 30.09.2024 online statt. Jürgen Scriba (Leiter der AG Technischer Fortschritt des Fotorates) hat, wie auch die Initiative Urheberrecht, neben fast 1.000 weiteren Personen teilgenommen. Laut Jürgen Scriba waren nur ca. 6% der Teilnehmer*innen Urhebervertreter, also rund 30 Organisationen.

Das AI-Office der EU dazu (Übersetzung von DeepL): »Im Laufe des heutigen Tages gibt das Europäische Amt für künstliche Intelligenz (KI) den Startschuss für die Ausarbeitung des ersten Verhaltenskodex für KI-Modelle für allgemeine Zwecke im Rahmen des KI-Gesetzes. Fast 1.000 Teilnehmer, darunter Anbieter von KI-Modellen für allgemeine Zwecke, nachgelagerte Anbieter, Industrie, Zivilgesellschaft, Hochschulen und unabhängige Experten, werden an der Online-Plenarsitzung teilnehmen, um an der Entwicklung des Verhaltenskodex mitzuwirken. Das Treffen hat Arbeitscharakter und steht daher nur berechtigten Interessengruppen offen, die sich bis zum 25. August 2024 über die EU-Umfrage angemeldet haben.
Vor der Veröffentlichung im Herbst wird das AI-Büro auch die ersten Ergebnisse der Multistakeholder- Konsultation zum Verhaltenskodex vorstellen, zu der fast 430 Beiträge eingegangen sind.
Der Verhaltenskodex soll die ordnungsgemäße Anwendung der Vorschriften des KI-Gesetzes für KI- Modelle mit allgemeinem Verwendungszweck erleichtern, einschließlich der Transparenz- und Urheberrechtsvorschriften, der Taxonomie für systemische Risiken, der Risikobewertung und der Maßnahmen zur Risikominderung. (…)
Die endgültige Fassung des Verhaltenskodex wird veröffentlicht und auf einer Abschlussplenarsitzung, voraussichtlich im April 2025, vorgestellt. Weitere Informationen über die Entwicklung des ersten KI- Verhaltenskodex für allgemeine Zwecke sind online verfügbar.«

Zu dem ganzen Komplex berichtet Jürgen Scriba in seinem KI-Wochenpost vom 21.09.2024.

KI-Wochenpost des Deutschen Fotorats

KI-Wochenpost 2024-36/38

Der europäische AI-Act ist nun im zweiten Monat in Kraft, und keiner hat’s gemerkt, oder? Kommt drauf an. Auch wenn sich für die Normalos unter den Anwendenden noch nicht so viel getan hat, hat der Startschuss des nach Eigenlob epochalen Regelwerks hinter den Kulissen hektische Aktivität ausgelöst. Text: Jürgen Scriba

(21. September 2024)

KI vor Gericht

Urteil im Verfahren Robert Knesche gegen LAION e.V.

Am 27. September 2024 urteilte das Landgericht Hamburg zu der Klage von Robert Kneschke gegen LAION e.V.: Die Klage wurde abgewiesen, das Datensammeln von LAION wurde als wissenschaftliches Text-Data-Mining gewertet. Das Gericht kommt also zu einer anderen Einschätzung als Dornis und Stober in der Tandem-Studie (siehe Rubrik »Studien zu KI«).
Die Studie lag dem Gericht aber vor und es nimmt auch Bezug darauf.

Interessant ist: Es gab einen Nutzungsvorbehalt auf der Website der Agentur, über die Kneschke das fragliche Bild vertrieben hat. Den erkennt das Gericht auch an und bestätigt, dass er maschinenlesbar ist. Damit wird »maschinenlesbar« als weit gefasster Begriff definiert. Aber wissenschaftliche Nutzung ist auch bei einem entsprechenden Nutzungsvorbehalt legal.

Darauf, dass LAION beste Verbindungen zu den großen IT-Konzernen hat und die Kataloge von LAION von diversen KI-Firmen für kommerzielles KI-Training genutzt wurden, nimmt das Gericht zwar Bezug, trennt diesen Fakt aber von der Frage ab, ob LAION gegen Urheberrechte verstoßen hat.

Es ist aber auch erst das Landgericht, höhere Instanzen können noch anders entscheiden.

Das Gerichtsurteil: 

Mehr dazu von:

Für seinen wahrhaft wackeren Einsatz im Rahmen seiner Klage gegen Fotosammler LAION hat Robert jetzt sogar den ALIS Upphovsrättspris 2024 der schwedischen Verwertungsgesellschaft ALIS in Anerkennung seines Engagements für die Rechte von Kreativen erhalten. Finde ich gut – auch wenn Robert mittlerweile selbst große Mengen an KI-generierten Stockbildern auf den Markt bringt. Merke: KI benutzen ist nicht das gleiche, wie sich von KI benutzen lassen.

Studien zu KI 

Tandem-Studie der Initiative Urheberrecht nun auch in Berlin vorgestellt

Die Tandem-Studie »Urheberrecht und Training generativer KI-Modelle – Technologische und juristische Grundlagen« wurde von den anerkannten Fachleuten Prof. Dr. Tim W. Dornis (Universität Hannover) und Prof. Dr. Sebastian Stober (Universität Magdeburg) erstellt. Die Thematik wird sowohl von technischer als auch von juristischer Seite beleuchtet und die Autoren kommen zu dem Schluss, dass das Training generativer KI nicht unter das Text-Data-Mining-Gesetz fällt.

Folgen Gesetzgeber und/oder Gerichte dieser Auffassung, hätte das weitreichende Folgen, denn die Datensammler berufen sich in Europa auf das TDM-Gesetz, nachdem Daten genutzt werden dürfen, wenn die Rechteinhaber dem nicht aktiv widersprechen. Sollte es sich um wissenschaftliche Nutzung handeln, gibt es auch keine Widerspruchsmöglichkeit.

Dornis und Stober legen sehr umfassend und genau dar, warum sie glauben, dass KI-Training nicht Text-Data-Mining ist. Das würde bedeuten, dass KI-Firmen die Rechte für die Nutzung von Werken für das Training aktiv einholen müssen – so wie sonst auch.

Die Studie wurde bereits am 05.09.2024 im Europäischen Parlament und am Montag letzte Woche auch in Berlin vorgestellt. Im Saal waren rund 60 Personen anwesend (darunter auch Verantwortliche des Bundesjustizministeriums), per Zoom noch einmal rund 100.

Die Studie kann hier heruntergeladen werden:

Die F.A.Z. schrieb dazu (leider Paywall): 

Matthias Hornschuh, Sprecher der Initiative Urheberrecht, wird dazu vom Börsenblatt des Deutschen Buchhandel interviewt:

Meldungen zu KI

Getty Images präsentiert iStocks 10-Schritte-Anleitung zum perfekten KI-Bild

Bildagenturen bereiten sich offenbar schon auf eine Welt mit deutlich weniger Fotokäufer*innen vor. Das neue Geschäftsmodell ist es wohl, den Kund*innen zum besseren KI-generierten Bild zu verhelfen. Und das soll natürlich möglichst einfach sein. iStock liefert hier die Anleitung. Allerdings ist das Endziel wohl die App, bei der Kenntnisse im Prompten gar nicht mehr so wichtig sind. 

Stellen sich die Agenturen hier auf neue Klientel ein, sind das schon Rückzugsgefechte der Symbol-Fotografie?

Werbeagenturen haben keine Angst

Auch an anderer Stelle werden KI-Bilder schon das neue Normal. »Keine grundsätzliche Angst vor AI Humans« hat man in den Werbeagenturen: KI-generierte Menschen in der Werbung seien die nächsten evolutionären Schritte in der Markenkommunikation, sagt eine Studie von WongDoody und der Hochschule für Medien Stuttgart. Und sie sind auf dem Vormarsch: Sowohl Slack als auch Salesforce veröffentlichten jüngst ihre Avatar-Strategie. (Media, 20.09.2024)

Urheberrecht im Wandel?

Julio Carvalho prophezeit im Angesicht all dessen gleich einen »Wandel der Bedeutung des Urheberrechts«. Er schreibt, dass der verfügbare Datenbestand 2028 erschöpft sein könnte und nennt das »Data Wall«. Die KI Generatoren brauchen aber immer mehr und auch immer neue Daten. Das Problem fehlenden Trainingsmaterials ist so groß, dass bereits über neue Formen des Opt-Outs oder gar KI-generiertes KI-Trainingsmaterial nachgedacht wird. Zumindest bei letzterem wird es aber Qualitätsprobleme geben. Das wäre der von uns bereits vor anderthalb Jahren prognostizierte Inzest. Vorteil wäre nach Carvalho, dass es kein Urheberrecht zu beachten gäbe.

Aber dies, so schreibt er »führt uns zu einem letzten, eher philosophischen Punkt: Der Rückgriff auf synthetische Daten wird den Übergang zu einer posthumanen Kreativitätsordnung nur beschleunigen und möglicherweise die Kernbegriffe von Originalität und Autorschaft erschüttern, die wir seit der Romantik hochhalten und die tief in die prometheische DNA der Moderne eingeschrieben bleiben. Auch auf die Gefahr hin, einen unbeabsichtigten Kulturpessimismus zu verraten, könnte es sich lohnen, darüber nachzudenken, ob das menschliche Vorrecht auf höchste Kreativität etwas ist, das wir bereit wären, zu verhandeln oder auf dem Altar des technischen Fortschritts zu opfern. Wenn LLMs stochastische Papageien sind (siehe Bender, Gebru et al., 2021), würde dann der Rückgriff auf synthetische Daten nicht auf eine ewige Wiederholung aller vom Menschen geschaffenen Dinge hinauslaufen? Würden wir nicht einfach die Vergangenheit wiederholen oder, wie ich einmal einen Neurowissenschaftler sagen hörte, eine ›Zukunft voller Vergangenheit und ohne Zukunft‹ produzieren?« (Übersetzt mit DeepL)

In den letzten Absätzen geht er noch auf Quantencomputing und Urheberrecht ein. »Filtermechanismen können eingesetzt werden, um Urheberrechtsverletzungen zu erkennen, zu verhindern und abzumildern, und Quantenwasserzeichen können in urheberrechtlich geschützte Inhalte eingebettet werden, um sie vor unbefugter Wiederverwendung zu schützen.« (Übersetzt mit DeepL)

Es bleibt also bei einer Debatte um Opt-Out anstatt Opt-In, aber moderne Technologien könnten uns dabei auch zur Hilfe kommen.

Mehr dazu, wie Quantencomputer die Anwendung des Urheberrechts radikal verändern können, hier (University of Exeter, 05.03.2024): 

»KI-Bilder werden niemals eine Seele haben!«

… sagt Sebastião Salgado gegenüber der F.A.Z. (21.09.2024) (leider Paywall):

Extrem leistungsfähige KI schon 2026 – oder erst sehr viel später?

Anthropic-CEO Dario Amodei skizziert in einem Essay seine Vision einer Welt mit extrem leistungsfähiger KI, räumt aber ein, dass seine optimistischen Prognosen mit großen Unsicherheiten behaftet sind und er keine Ahnung hat, ob und wann ein solches System realisiert werden könnte.(the-decoder.de, 12.10.2024)

Noyb gegen X: Illegales Datensammeln für KI-Training

Noyb (https://noyb.eu/de) – eine spendenfinanzierte NGO mit Sitz in Wien, die sich für die Durchsetzung von Datenschutzgesetzen einsetzt – hat geklagt und die irische Datenschutzbehörde hat ein Gerichtsverfahren gegen X eröffnet. Die Plattform sammelt seit einer Weile personenbezogene Daten, um damit ihre KI-Modelle zu trainieren. Konkret geht es um die Künstliche Intelligenz von Elon Musks KI-Firma xAI, die er Anfang 2023 gegründet hat. Noyb reicht das noch nicht, die NGO ht Beschwerden in neun EU-Ländern eingereicht. (Heise.de, 13.08.2024)

KI Podcast-Tipp

One More Podcast Tip

Matthias Hornschuh, Sprecher der Initiative Urheberrecht, empfiehlt einen Podcast:

»Die fünfteilige WDR5-Podcast-Reihe »Maschinensturm – KI und wir« von Matthias Greffrath und Tom Schimmek ist mit Sicherheit das Beste, was ich zu den weit reichenden gesellschaftlichen Implikationen aktueller Formen des maschinellen Lernens bislang gehört habe. Wer sich einigermaßen standfest im Diskurs verorten will, dem kann ich die 5 x ca. 35 Minuten wirklich nur ans Herz legen.«

Die einzelnen Folgen heißen: 

1. »Werkzeug oder Wesen?«

2. »Macher, Macht, Muskonomy«

3. »Über Chancen«

4. »Homo sapiens war gestern«

5. »Politik sucht Lenkrad«

Ich habe mir den ersten Podcast gleich mal angehört und stimme Matthias zu. Ist auch wirklich hochwertig gemacht – auch für Fotograf*innen ein echter Hörgenuss. Außerdem ein sehr guter Einstieg ins Thema.

Abschluss 

Und zum Schluss: Danke, Margrethe Vestager!

Nach zehn Jahren scheidet Margrethe Vestager als EU-Wettbewerbskommisarin aus. Sie gilt in den USA als schärfste Big-Tech-Kritikerin. Kurz vor Ende ihrer Amtszeit positioniert sich das Silicon Valley und fordert »die Nutzung europäischer Daten beim Training von KI-Modellen zum Nutzen der Europäer zu ermöglichen«.

Vestager widerspricht. Leitplanken seien wichtig, sagte sie am Freitag: »Denn wenn wir bleiben wollen, wer wir sind, brauchen wir News, Kreative, Musiker, Autoren. Wir müssen ihr Urheberrecht schützen. Wir können nicht all das opfern, um einen digitalen Wirtschaftssektor zufriedenzustellen.« Schon vor Facebook habe es etwa News gegeben, fügte Vestager süffisant hinzu. »Es waren andere Zeiten, ich weiß. Und wir werden nicht dorthin zurückkehren. Aber wir müssen nun in die Zukunft schauen.« (Handelsblatt, 30.09.2024)