Governance: Das „Private Ordering“ kommunikativer KI durch Unternehmenskommunikation und Unternehmensregeln (ComAI P4)

• Laufzeit: 2025 – 2028
• Projektleitung: Prof. Dr. Christian Katzenbach

Wie funktioniert Content-Moderation bei Kommunikativer KI (ComAI)? Welche Probleme und Kontroversen müssen Technologieunternehmen dabei adressieren? Dieses Projekt untersucht Content-Moderation und Private Ordering —Regulierung durch Regeln privater Unternehmen anstelle staatlicher Regulierung — als zentrale Dimension dessen, wie neue Medien wie Communicative AI (ComAI) in der Praxis definiert und geprägt werden.

---

Die Entstehung neuer Technologien ist nicht nur ein technischer, sondern auch ein normativer Prozess: Unternehmen treffen folgenreiche Entscheidungen darüber, was ihre Produkte tun sollen und was nicht. Diese Entscheidungen können Teil breiterer öffentlicher Kontroversen werden. Wie sollten Systeme wie ChatGPT mit politischen Inhalten und potenzieller Desinformation umgehen? Wo verläuft die angemessene Grenze zwischen kreativer Inspiration und Urheberrechtsverletzung? Solche Fragen haben erhebliche Auswirkungen darauf, wie sich diese Medien letztlich etablieren und wie wir als Gesellschaft sie nutzen.

Vor diesem Hintergrund stellen wir in diesem Projekt zwei miteinander verbundene Fragen: Erstens, welche Regeln und Normen werden von Unternehmen für die Nutzung von ComAI-Systemen gesetzt? Zweitens, gelingt es öffentlichen Kontroversen und regulatorischen Maßnahmen, diese Unternehmens-Entscheidungen  herauszufordern und Regeln im öffentlichen Interesse zu gestalten?

Wir untersuchen diese Fragen anhand von vier Fällen — Alphabets Gemini, OpenAIs ChatGPT, Amazons Alexa und Mistral AIs Le Chat — die ausgewählt wurden, um Variation hinsichtlich Unternehmensgröße, geografischer Herkunft (USA vs. EU) und Anwendungstyp abzubilden.

Dabei kommen drei empirische Ansätze zum Einsatz: (1) die Analyse zentraler Kontroversen in der Medienberichterstattung, (2) die systematische Untersuchung von Nutzungsrichtlinien und Plattform-Guidelines sowie (3) die Analyse der Positionierung von Unternehmen innerhalb von Kontroversen durch ihre Unternehmenskommunikation.

Als Teil dieses Projekts erweitern wir zudem das Platform Governance Archive um eine eigene Sammlung, die die Richtlinien von ComAI- und GenAI-Produkten im Zeitverlauf dokumentiert und archiviert. Dies schafft eine wertvolle offene Ressource für die Forschungsgemeinschaft, die sich mit Platform Governance und der Entstehung von KI-Produkten befasst.

Organisation von Konferenzen und Workshops

From Platform Governance to Generative AI: Concepts, Methods, and Data for Studying Tech Governance. AoIR Flashpoint Symposium 2025. 3-4 Juni 2025. Bremen, Deutschland.

Workshop „Digital Service Act Art. 40: Promise vs. Practice“. 26 November. Bremen, Deutschland.

Vorträge

Ermler, K., Katzenbach, C. (2026): Platform Goverance Archive: Forschungsdaten zu Regeln in Social Media und Generative AI. DGPuK Jahrestagung, Institut für Journalistik der Technischen Universität Dortmund.

Katzenbach, C., Ermler, K., Runge, L. (2025). To Ghibli or not to Ghibli? How Tech Companies Set Normative Standards on the Use of Generative Artificial Intelligence for Creative Practices. GenAI & Creative Practices: Past, Present, and Future, University of Amsterdam, Amsterdam.

Katzenbach, C., Ermler, K., Runge, L. (2025). Content Moderation, next Level? Emergence of Platform Governance from Social Media to Generative AI. PlatGovNet 2025, Online.

Publikationen

Bareis, J., & Katzenbach, C. (2021). Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics. Science, Technology, & Human Values, 47(5), 855–881. https://doi.org/10.1177/01622439211030007

Bory, P., Natale, S., & Katzenbach, C. (2025). Strong and weak AI narratives: An analytical framework. AI & SOCIETY, 40(4), 2107–2117. https://doi.org/10.1007/s00146-024-02087-8

Gorwa, R., Binns, R., & Katzenbach, C. (2020). Algorithmic content moderation: Technical and political challenges in the automation of platform governance: Big Data & Society, 7(1), 1–15. https://doi.org/10.1177/2053951719897945

Hepp, A., Loosen, W., Dreyer, S., Jarke, J., Kannengießer, S., Katzenbach, C., Malaka, R., Pfadenhauer, M. P., Puschmann, C., & Schulz, W. (2023). ChatGPT, LaMDA, and the Hype Around Communicative AI: The Automation of Communication as a Field of Research in Media and Communication Studies. Human-Machine Communication, 6, 41–63. https://doi.org/10.30658/hmc.6.4.

Katzenbach, C. (2021a). “AI will fix this” – The Technical, Discursive, and Political Turn to AI in Governing Communication. Big Data & Society, 8(2), https://doi.org/10.1177/20539517211046182

Katzenbach, C., Kopps, A., Magalhães, J. C., Redeker, D., Sühr, T., & Wunderlich, L. (2023). The Platform Governance Archive v1 – A longitudinal dataset to study the governance of communication and interactions by platforms and the historical evolution of platform policies [Data Paper]. https://doi.org/10.26092/ELIB/2331

Marres, N., Katzenbach, C., Munk, A. K., & Jobin, A. (2025). On the controversiality of AI: The controversy is not the situation. Big Data & Society, 12(4), 20539517251383870. https://doi.org/10.1177/20539517251383870

Richter, V., Katzenbach, C., & Schäfer, M. S. (2023). Imaginaries of artificial intelligence. In S. Lindgren (Eds.), Handbook of Critical Studies of Artificial Intelligence (pp. 209–223). Edward Elgar Publishing. https://doi.org/10.4337/9781803928562.00024

Mao, Y., Richter, V., & Katzenbach, C. (2025). Strategising imaginaries: How corporate actors in China, Germany and the US shape AI governance. Big Data & Society, 12(4), 20539517251400727. https://doi.org/10.1177/20539517251400727