Die Enquete-Kommission Künstliche Intelligenz hat nach über zweijähriger Arbeit ihren knapp 800-seitigen Abschlussbericht veröffentlicht. Der Bericht ist in sechs thematische Bereiche gegliedert. Hans-Christian Gräfe hatte der Projektgruppe “KI und Medien” zugearbeitet.
Hintergrund und Inhalt des Abschlussberichts
Im Juni 2018 setzte der Bundestag die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ ein. Ihr gehörten 19 Bundestagsabgeordnete und 19 sachverständige Mitglieder an. Ziel der Kommission war es, dem Gesetzgeber Handlungsempfehlungen auf nationaler, europäischer und internationaler Ebene vorzulegen. Dies soll dazu beitragen, Chancen der KI für Gesellschaft, Staat und Wirtschaft zu nutzen und ihre Risiken zu minimieren.
Neben den sechs spezifischen Bereichen adressierte die Kommission themenübergreifend Künstliche Intelligenz im Zusammenhang mit Daten, Diskriminierung, Forschung und ökologischer Nachhaltigkeit. Unter Verweis auf die GAIA-X-Pläne strebt die Kommission den Aufbau einer europäischen Dateninfrastruktur an. Forschungsprojekte zum Erkennen und Vermeiden von diskriminierenden Systemen seien stärker zu fördern. Dies gelte auch für KI-Forschung allgemein. Technologien zugunsten der Umwelt seien auszubauen und die Datenbasis zu Vor- und Nachteilen der Systeme auf den Energieverbrauch zu verbessern.
Projektgruppe 6: KI und Medien
Künstliche Intelligenz ist beim Erstellen, Selektieren und Verbreiten von Medieninhalten kaum mehr wegzudenken. Die Technologien können Nachrichtentexte bereits automatisiert produzieren. Zudem nutzen Suchmaschinen, soziale Medien und andere digitale Plattformen KI, um die für Nutzer:innen relevanten Inhalte herauszufiltern und zu verbreiten. Da sich Bürger:innen zunehmend mittels digitaler Medien informieren, birgt dies Chancen und Risiken für die politische Meinungsbildung. Diesen widmete sich die Projektgruppe „KI und Medien (Social Media, Meinungsbildung und Demokratie)“. Sie untersuchte, wie sich der Einsatz von KI auf Journalismus, Medienpolitik und Meinungsbildung auswirkt.
Zuerst betrachtete die Projektgruppe Anwendungen, die beim Herstellen und Bearbeiten von Medieninhalten unterstützen. Im Mittelpunkt standen der Roboterjournalismus und sogenannte Deep Fakes. Automatisierte Texterstellung könne journalistische Routinearbeiten übernehmen, stoße jedoch auf Grenzen beim Qualitätsjournalismus. Letzterer sei für die politische Meinungsbildung unabdingbar, weshalb die Technik in diesem Bereich weiterentwickelt werden müsse. Herkunft und Einfluss von Deep Fakes müssen stärker geahndet und erforscht werden. Dafür müssen Intermediäre Journalist:innen und Wissenschaftler:innen Zugang zu ihren Datenpools gewähren.
Weiterhin analysierte die Gruppe, wie Technologien Medieninhalte selektiert. Im Kern ging es um Medienintermediäre und deren Einsatz personalisierter Empfehlungssysteme. Diese ermöglichen aus einer riesigen Menge von Inhalten nur diejenigen herauszusuchen, die für Nutzer:innen relevant sind. Riskant seien ihre Nebenwirkungen, die die politische Meinungsbildung gefährden können. Politisches Microtargeting, Filterblasen, Echokammern und Social Bots scheinen Symptome dieses Risikos, deren tatsächlichen Einfluss auf den politischen Diskurs die Projektgruppe unterschiedlich bewertet. Insgesamt bestehe auch hier noch Forschungsbedarf.
Schließlich erörterte die Projektgruppe, wie KI medienregelnde Verfahren beim Verbreiten von Inhalten unterstützen kann. Uploadfilter mit dem Ziel Urheberrechtsverstöße zu erkennen und Techniken gegen Hassrede bewertet die Gruppe als allein nicht zielführend. Angesichts der Unabdingbarkeit der Meinungsfreiheit müssen Menschen – neben Algorithmen – mediale Inhalte kontrollieren, bevor diese gesperrt werden.
Übergreifend identifizierte die Projektgruppe zwei politische und gesellschaftliche Handlungsfelder. Einerseits müsse die Medienpolitik unabhängigen Journalismus und eine pluralistische Öffentlichkeit gewährleisten. Andererseits müssen Bürger:innen ihre digitalen Kompetenzen durch Bildungsangebote stärken, um besser mit digitalen Nachrichten und der Wirkung von KI-Systemen umgehen zu können.