KI und Demokratie: zwischen Untergang und Heilserwartung. Teil 2

Den Beiträgen zu den Einsatzmöglichkeiten von KI in demokratischen Prozessen und zur Beämpfung von Desinformation im Internet folgten zwei Vorträge aus der Welt der Medien und des Journalismus.

Ine Dippmann, stellvertretende Studioleiterin beim MDR und Vorsitzende des Deutschen Journalisten-Verbands Sachsen, berichtete über den Einsatz von KI beim Mitteldeutschen Rundfunk und bei anderen sächsischen Medien. „Es gibt keine Angst vor dem weißen Blatt mehr“, berichtete sie über die Möglichkeit, ChatGPT und andere Programme wie Google Trends für die Themenfindung einzusetzen. Sie zeigte aber auch am praktischen Beispiel, dass die KI ihre Grenzen habe: So schlug ihr ChatGPT vor, über einen verschwundenen Zoowärter mit prominenten Namen zu berichten – die Verbindung der Person aber mit der Tätigkeit als Zoowärter ist von der Maschine frei erfunden. Ihr erstes Fazit: „Zum Recherchieren nein, als Inspiration ja“.

Auch seien schon jede Menge praktische Tools im Einsatz, etwa bei der Transkription von Interviews. Man experimentiere beim MDR zwar mit den Möglichkeiten, sei aber nach wie vor sehr zurückhaltend: „Es befindet sich alles noch in der Pilotphase.“ Ob und wie bei sächsischen Zeitungen KI eingesetzt werde, da hielten sich die Verlage bislang sehr bedeckt, berichtet Dippmann. 

endenSie endete ihren Vortrag mit der Forderung, dass Regulierung durch den Gesetzgeber unerlässlich sei, etwa wenn es um Datenschutz, Kennzeichnungspflicht und Urheberrechte geht.

Individuelle Programm-Angebote durch KI

Rebecca Ciesielski arbeitet als Reporterin am AI + Automation Lab des Bayrischen Rundfunks. Das ist einerseits eine Redaktion, die sich investigativ mit Algorithmen und Automatisierung befasst. Und andererseits werden hier in Zusammenarbeit von Journalisten und Informatikern praktische KI-Anwendungen für den Journalismus entwickelt. Auf diesem Gebiet gehört das Lab zu den führenden Entwicklern in Deutschland.

Auch Ciesielski ging auf die Vorteile von KI für den Journalismus ein: Recherche und Faktenüberprüfung könnten zwar nicht abgenommen aber unterstützt werden, und KI kann automatisiert Untertitel erstellen oder gesprochene Texte tanskripieren. Auch bei der Archivierung und Verbreitung von Inhalten kann KI assistieren. Sie stellt auch verschiedene Tools vor, die beim Bayrischen Rundfunk schon im Einsatz sind: So gibt es etwa das „Regionalupdate“, bei dem die KI Ortsmarken in das Programm reinschneidet und regionale Inhalte einbaut, die für das Publikum vor Ort relevant sind. Software würde es so ermöglichen, Inhalte zu einem Thema aus anderen Programmen zusammenzuziehen und zu einem neuen Programm zusammenzustellen. 

Ein weiteres Tool ist „Second Opinion“, dass es Nutzenden ermöglicht, sich eine Zusammenfassung zu einem Thema mit unterschiedlichen Meinungen erstellen zu lassen. Andere KI-Programme helfen bei der Erstellung von Social-Media-Postings oder untersuchen Kommentare solcher Posts auf konkrete Fragen, die anschließend durch Journalistinnen und Journalisten beantwortet werden können. Ciesielski warnte aber auch vor dem „Automation Bias“: Menschen halten Maschinen häufig für glaubwürdiger, denn auch KI könnte Fehler machen. 

Fällt mein Job vielleicht weg? 

Die Abschluss-Diskussion mit Ine Dippmann, Isabel Bezzaoui, Rebecca Ciesielski und Nikolai Horn verließ den inhaltlichen Rahmen KI und Demokratie und fragte übergeordnet: Was kann und sollte der Mensch nicht aus der Hand geben?

Zunächst einmal wurde eine zentrale Frage gestellt: Die nach den Zukunftssorgen um den eigenen Job. Eine Befragung des Publikums zeigte, die wenigsten im Saal haben die Sorge, dass ihr Beruf wegfallen wird. Tatsächlich, so erwähnte das Podium, gibt es eine Studie von 2013, welche Berufe alle durch KI entfallen könnten. Bis heute hat sich diese Prophezeiung nicht im Ansatz erfüllt.

Uneinigkeit herrscht über die Frage, ob die Arbeit durch KI leichter wird. Nein, antwortete jemand aus dem Publikum, der Schulung zur Medienkompetenz macht. Denn es gebe auch damit  immer neue und größere Herausforderungen. Auch Nikolai Horn betonte, zwar könnten unliebsame Aufgaben an die KI abgegeben werden. Tatsächlich aber befürchtet er, dass die Dichte der Arbeit durch KI eher steigen könnte. „Das Aufgabenspektrum wird sich verändern“, mutmaßte er. 

Ine Dippmann vertrat die These, dass sich einzelne Spezialisierungen herauskristallisieren werden und der Mensch mehr Zeit haben werde für komplexere Aufgaben. Doch zugleich wurden Bedenken auf dem Podium geäußert, welche sozialen Verwerfungen KI mit sich bringen könnte, wenn weitere Arbeitsplätze mit geringeren Anforderungen an Qualifikation weiter automatisiert würden.

Rebecca Ciesielski treibt auch eine andere Sorge um: Sie fragt sich, inwiefern die KI auch Grundrechte gefährde und damit auch die Gesellschaft destablisiere. Zumal der Gesetzgeber kaum mit der Entwicklung mithalten könne, die sich gerade abspielt. Sie brachte ein Beispiel: Eine Recherche über den Lieferdienst Lieferando hatte ergeben, dass dessen Datenerfassung dort eine illegale Datenerhebung darstelle – eine Strafe sei aber nie verhängt worden. Das hänge vermutlich an der Überlastung der Datenschützer. Eine weitere Recherche hätte ergeben, dass man über Daten von Datenhändlern aus den USA auch Geheimdienstmitarbeiter erfassen und enttarnen könne. „Die Datenhändler wären nach DSGVO belangbar gewesen – sie sitzen aber in Florida“, berichtete sie. 

Die Fake-News-Flut ist schon da 

Diskutiert wurde auch die Frage, ob eine Fake-News-Flut droht und welche Auswirkungen das auf die Demokratie haben könnte. Das Podium antwortete: „Die Angst ist berechtigt.“ Ciesielski konkretisierte: „Wir sind mittendrin. Es gibt super viele Fake-Informationen, viele falsche Bilder. Es gibt Beispiele, wo der Videofilter ausfällt – und man sieht beispielsweise im Videi sei gar keine 18-jährige Chinesin zu sehen, sondern eine ältere.“ Sie betonte gleichzeitig, dass Fake-News kein Problem allein des Netzes und der KI seien. 

Rege diskutiert wurde auf dem Podium auch die Macht der großen Tech-Konzerne, bei denen nicht nur technisches Wissen sondern auch die Daten der Menschheit zunehmend konzentriert sind. Die Einhaltung von Regeln für einen verantwortlichen Einsatz von KI auf der Grundlage von Gesetzen steht unter großen Schwierigkeiten. Zum einen haben Unternehmen aus den USA andere gesetzliche Grundlagen und einen schwächeren Datenschutz und weniger Regulierung als es in Europa verbreitet ist. Zum anderen funktioniert die Durchsetzung von Regulierung unzureichend und die Behörden sind im Vergleich zur Macht der Tech-Giganten eher schwach ausgestattet.

Die letzte Frage der Diskussion war: Gibt es Dinge, die KI niemals lernen wird? Ein Zuhörer meinte, dass KI niemals menschliche Wärme vermitteln könne. Andere nannten „Humor“ oder die Fähigkeit, in gefährlichen Situationen angemessene Entscheidungen zu treffen, als Fähigkeiten, die nur der Mensch besitze. Passend dazu war man sich auf dem Podium einig, dass niemand die Kontrolle eines Atomkraftwerks allein einer KI anvertrauen würde.

Fazit: Chancen und Herausforderungen

Zum Abschluss der Diskussion fasste Moderatorin Kirsten Limbecker zusammen, dass KI weder ein Allheilmittel noch eine Bedrohung sei, die zum Untergang der Menschheit führen werde. Die Herausforderung liege darin, weder in Alarmismus noch in naive Begeisterung zu verfallen, sondern sich bewusst mit den Möglichkeiten und Risiken auseinanderzusetzen. Vieles sei noch unklar und werde sich erst im Laufe der Zeit zeigen. Die Entwicklungen seien disruptiv, aber die Chancen auf sinnvolle Anwendungen und gesellschaftliche Verbesserungen durch KI seien real – wenn sie verantwortungsvoll eingesetzt und reguliert werde. Wobei die Moderatorin auch darauf verweist, dass im Rahmen der Tagung nicht über das Problem des immensen Energie- und Ressourcenverbrauchs durch zunehmenden Einsatz von KI gesprochen wurde. Das habe schließlich potentiell verheerende Auswirkungen auf den Klimawandel und auch auf geopolitische Spannungen. 

Das Spannungsfeld zwischen Angst und Hoffnung blieb bis zum Ende der Diskussion präsent. Nikolai Horn formulierte es positiv: KI fordert die Menschheit auf, sich selbst besser zu verstehen. Denn nur der Mensch hat die Fähigkeit, sich selbst und die Gesellschaft zu reflektieren. Das wird KI wohl niemals leisten können. 

zu Teil 1 des Tagungsberichtes

Empfehlungen unserer Gäste, der Teilnehmenden und uns finden Sie auch in der TaskCard, die im Rahmen der Tagung befüllt wurde.