Politik 

Kulturrat veröffentlicht neues Positionspapier zur Künstlichen Intelligenz

Der Kulturrat, in dem auch der Deutsche Fotorat und dort wiederum FREELENS Mitglied ist, hat ein neues Positionspapier zur KI veröffentlicht.

Darin heisst es u.a.: »Die Nutzung von KI-Werkzeugen durch professionelle Künstlerinnen, Künstler und Kreative, ihre Partner wie auch durch individuell handelnde Amateure wirft neue Fragen auf, was die menschliche Leistung ausmacht und wie diese, z.B. durch Transparenzregelungen, von KI-generierten Werken und Inhalten zu unterscheiden ist. Neben der Frage des beruflichen Selbstverständnisses ist dieses Thema insbesondere mit Blick auf die vertraglichen Beziehungen zu den Entwicklern und die Partizipation an der Wertschöpfung für alle Beteiligten von großer Bedeutung.«

Multi-Stakeholder Konsultation der Europäischen Kommission 

Das European AI Office der Europäische Kommission hat uns zu den Multi-Stakeholder Konsultationen geschrieben:

Sehr geehrte Damen und Herren,     

wir freuen uns, Ihnen ein Update zu Ihren Beiträgen zur Multi-Stakeholder Konsultation »Zukunftsfähiges KI-Gesetz: Trustworthy General-Purpose AI«, die am 18. September abgeschlossen wurde, geben zu können. Dies steht im Einklang mit unserer Verpflichtung, einen inklusiven und transparenten Prozess zur Ausarbeitung des ersten General-Purpose KI-Verhaltenskodex zu gewährleisten. 

Die 430 eingereichten Beiträge stammen von verschiedenen Interessengruppen, unter anderem aus der Industrie (32 %), von Rechteinhabern (25 %), aus der Zivilgesellschaft (16 %) und aus der Wissenschaft (15 %) sowie von anderen.
Wir sind dankbar für die verschiedenen Perspektiven, wie eine vertrauenswürdige und verantwortungsvolle KI in der EU gewährleistet werden kann. 

Die ersten Ergebnisse wurden den Teilnehmern des Plenums des Verhaltenskodex auf der Auftaktveranstaltung die am Montag, den 30. September online stattfand, vorgestellt. Eingeladen waren alle in Frage kommenden Akteure, die bis zum 25. August ihr Interesse an einer Teilnahme bekundet hatten. Der Code of Practice soll die ordnungsgemäße Anwendung der Vorschriften des KI-Gesetzes für allgemein anwendbare KI-Modelle sicherstellen.

Der Kodex

Die Vorsitzenden und stellvertretenden Vorsitzenden wurden vom Amt für künstliche Intelligenz ernannt und erarbeiten derzeit einen ersten Entwurf des Verhaltenskodex für allgemeine KI-Modelle auf der Grundlage der Konsultationsbeiträge. Sie werden ihn in der ersten Novemberhälfte an die jeweilige Arbeitsgruppe weiterleiten. Insgesamt wird es vier Redaktionsrunden geben. Nach neun Monaten wird die endgültige Fassung des ersten Verhaltenskodexes auf einer Abschlussplenarsitzung, die voraussichtlich im April stattfinden wird, vorgestellt und veröffentlicht. 

Wie bereits erwähnt, wird das AI-Büro zu gegebener Zeit eine Zusammenfassung der Ergebnisse der Konsultation veröffentlichen. Die Ergebnisse werden auf aggregierten Daten beruhen und die Befragten werden nicht direkt zitiert.
Zur Verdeutlichung fügen wir noch einmal die Datenschutzerklärung bei. Wir werden Sie auf dem Laufenden halten, sobald die Ergebnisse veröffentlicht sind.  

Wir danken Ihnen, dass Sie sich mit Ihrem Fachwissen und Ihrer Sichtweise an diesem umfassenden und transparenten Prozess beteiligt haben.   

European Commission – European AI Office

DG for Communications Networks, Content & Technology (CNECT)

Recht

Kommentar von Pro­f. Dr. Tho­mas Hoe­ren zu Kneschke / LAION e.V.

Wer gerne mal die Meinung der »anderen Seite« lesen möchte, hier ist sie: Prof. Dr. Thomas Hoeren steht offenbar ganz auf der Seite der KI-Industrie. Er ist, wie die Richter des Hamburger Landgerichts, der Meinung, dass LAION e.V. Links zu unseren Bildern und die dazugehörigen Metadaten aus dem Netz scrapen durfte, um sie als Open Source jedem zur Verfügung zu stellen – auch den großen KI-Konzernen, die sich mit Infrastruktur und Know-How revanchiert haben. 

Hoeren befürchtet den »Todesfall« der europäischen KI-Szene, die in die USA oder nach Asien abwandern würde, wenn »Regulierungsfanatiker« weiterhin die KI zerreden würden. 
Wir werden sehen, ob die KI-Firmen in den USA oder Asien auch weiterhin alles dürfen. In den USA sind einige Verfahren anhängig (siehe auch nächster Artikel), da ist der Drops noch nicht gelutscht. Und der AI Act wird die Nutzung von KI in Europa verbieten, wenn sie nicht den Standards des AI Acts genügt.

Bleibt zu hoffen, dass auch Leiter des Instituts für Informations-, Telekommunikations- und Medienrecht an der Universität Münster irgendwann durch KI ersetzt werden. Die ist vielleicht objektiver.

Robert Kneschke geht gegen LAION e.V. in die nächste Runde

Zwischenzeitlich hat Robert Kneschke Berufung eingelegt: 

New York Times fordert von Jeff Bezos' KI-Firma »Perplexity«: »Stop Using Our Stuff«

Der Verlag hat dem generativen KI-Startup »Perplexity« eine Unterlassungsaufforderung geschickt, in der das Unternehmen aufgefordert wird, den Zugriff auf seine Inhalte und deren Nutzung einzustellen, wie das Wall Street Journal berichtet.

Die Times hat bereits ChatGPT-Entwickler OpenAI verklagt. Sie schließt sich damit anderen Verlagen an, darunter Forbes und Condé Nast, die »Perplexity« beschuldigen, ihr Material ohne Erlaubnis für die Generierung von KI-Suchergebnissen zu verwenden. (The Wall Street Journal, 15.10.2024)

Penguin Random House will Buchautor*innen vor KI-Ausbeutung schützen

Penguin Random House (PRH) hat seine Copyright-Erklärung für alle seine Verlage weltweit geändert, um auf den Boom von generativer Künstlicher Intelligenz (KI) zu reagieren. Über diesen Schritt des weltgrößten Fachverlags, der zu Bertelsmann gehört, berichtet das Fachmagazin The Bookseller. Die einschlägige neue Passage lautet demnach: »Kein Teil dieses Buches darf in irgendeiner Weise zum Zweck des Trainings künstlicher Intelligenztechnologien oder -systeme verwendet oder reproduziert werden«. Der erweiterte Hinweis solle in allen neuen Titeln und nachgedruckten Bänden aus dem Bestand enthalten sein. PRH habe bestätigt, dass er »auf den Impressumsseiten in unseren Märkten« erscheinen werde. (Heise.de, 20.10.2024)

Kampagne

»Statement zu KI Training«

Auf der Website https://www.aitrainingstatement.org kann man folgendes Statement zeichnen:

»The unlicensed use of creative works for training generative AI is a major, unjust threat to the livelihoods of the people behind those works, and must not be permitted.«

»Die unlizenzierte Nutzung kreativer Werke für das Training generativer KI ist eine große, unrechtmäßige Bedrohung für den Lebensunterhalt der Menschen, die hinter diesen Werken stehen und darf nicht zugelassen werden.«

Initiator der Kampagne ist Fairly Trained (https://www.fairlytrained.org), eine Non Profit Organisation, die u.a. von The Author's Guild, SAG-AFTRA und Universal Music Group unterstützt wird. Kopf von Fairly Trained ist Edward Newton-Rex, Komponist und eine der bekanntesten und einflussreichsten Stimmen an der Schnittstelle von KI-Technologie und Kulturschaffenden: 

Der Spiegel schrieb über die Kampagne:

Wir haben das Statement als Verband gezeichnet, jede und jeder Einzelne kann das aber auch tun.

Technik

»Content Credentials«

Ein kommendes Update für die NIKON Z6 III wird die Funktion »Content Credentials« (Inhaltsurhebernachweise) beinhalten. Die Z6 III ist nach der Leica M11-P die zweite Kamera, die diese Authentifizierungstechnologie anbietet. Damit werden Metadaten zur Authentizität und Herkunft ihrer Bilder direkt in den Bilddateien als digitales Zertifikat gespeichert, was dazu dienen soll, Manipulationen zu verhindern und die Urheberschaft der Bilder sicher nachzuvollziehen. Dabei werden die Standards der Coalition for Content Provenance and Authenticity (C2PA) angewendet.

Bei Leica stammen die individuell erzeugten Gerätezertifikate von der Firma D-Trust GmbH, einem Unternehmen der Bundesdruckerei-Gruppe mit Sitz in Berlin. 

Ziel ist es, in den Content Credentials auch alle Bearbeitungsschritte durch Softwareanwendungen festzuhalten und so nachvollziehbar zu machen. Adobe hat die Technologie bereits in Photoshop, Lightroom und KI-Generator Firefly implementiert.

Die Informationen sollen dann auch für Mediennutzer*innen abrufbar sein. Jetzt geht das schon hier: 

Später soll es aber über sogenannte »Pins« direkt am digital veröffentlichten Bild möglich sein.

Schwachstellen der Technologie hat Dr. Neal Krawetz in seinem »The Hacker Factor Blog« aufgezeigt. Hacker Factor ist ein offenbar kleiner Anbieter von Software und Dienstleistungen für Businesskunden in Fort Collins, USA. Ich kann das nicht beurteilen oder überprüfen, will euch den Link aber trotzdem zur Kenntnis geben: 

Falls jemand in der Lage ist, das mit einem verständlichen Text einzuordnen, würde ich mich freuen. Das wäre ein interessanter Beitrag für den nächsten Newsletter und die Debatte allgemein.

Der Vollständigkeit halber noch die Website von Content Credentials:

KI-Podcast 

PODCAST: »KI - WIR MÜSSEN SPRECHEN!«

Dieser Podcast ist immer hörenswert, zwei jüngere Folgen empfehle ich euch besonders:

10.10.2024 - Dr. Sebastian Stober und Dr. Tim Dornis haben das bahnbrechende interdisziplinäre Gutachten zum Thema »Urheberrecht und Training generativer KI-Modelle« veröffentlicht, von dem auch hier schon öfter die Rede war. Anna-Sophie Lumpe und Sebastian Eck sprechen mit ihnen über die Kernaussagen ihrer Studie, die für viel Aufsehen in der Fachwelt sorgen.
Stober als Informatiker erläutert die technischen Aspekte des KI-Trainings und wie generative Modelle tatsächlich mit den Trainingsdaten umgehen. Dornis bringt seine juristische Expertise ein und erklärt, warum das Training von KI-Modellen seiner Ansicht nach eine Urheberrechtsverletzung darstellt und nicht unter Text- und Data-Mining fällt.
Besonders spannend ist die Diskussion darüber, wie KI-Modelle Teile der Trainingsdaten memorieren und reproduzieren können. Dies wirft natürlich brisante urheberrechtliche Fragen auf. Die Gäste betonen, dass ihre Studie erstmals in diesem Umfang Licht in die »Blackbox« der KI-Verarbeitungsschritte bringt.
Außerdem geht es um die möglichen Konsequenzen ihrer Forschung für die Kreativbranche und die Politik. Beide teilen ihre Hoffnung, dass ihre Arbeit zu einem besseren Gleichgewicht zwischen dem Schutz menschlicher Kreativität und der Förderung von KI-Innovationen beitragen wird.

24.10.2024 - Matthias Hornschuh ist ein vielseitiger Künstler: Komponist, Musiker, Sprecher der Initiative Urheberrecht und mehr. Anna-Sophie Lumpe und Sebastian Eck diskutieren die Herausforderungen ehrenamtlichen Engagements in Zeiten von generativer KI, was wir aus der Vergangenheit lernen könnten und wie wir dem Narrativ der Evangelist*innen begegnen können.
Künstlerisches Schaffen wird als Datenquelle für generative KI genutzt, doch die Künstler*innen sollen nicht am Gewinn beteiligt werden und möglicherweise auch noch die Verantwortung für die Ausgewogenheit des Outputs tragen. Warum das problematisch ist, welche Maßnahmen die Initiative Urheberrecht dagegen ergreift und wie wir uns als Gesellschaft und Individuen dazu positionieren können, sind zentrale Themen der Diskussion.
Die Folge beleuchtet auch das Thema der persönlichen Erfüllung durch kreative Tätigkeiten und die damit verbundene Perspektive auf die Welt. Zudem wird hinterfragt, warum die bildliche Vereinfachung unserer Tätigkeiten in der Debatte um generative KI so populär ist.

Weitere Podcasts von »KI - WIR MÜSSEN SPRECHEN!« unter: