Künstliche Intelligenz in Organisationen: Governance, Kontrolle und Intransparenz aus systemtheoretischer Perspektive
Wie lassen sich KI-Systeme in Organisationen sinnvoll steuern, wenn ihre Funktionsweise oft nur schwer durchschaubar ist? Das Seminar widmet sich der Frage, wie Künstliche Intelligenz (KI) unter Bedingungen von Unsicherheit und Intransparenz in Organisationen verantwortungsvoll gestaltet und implementiert werden kann. Im Zentrum steht die Analyse von Governance-Strukturen, Entscheidungsprozessen und Formen der Kontrolle im Umgang mit algorithmischen Systemen.
Ausgehend von kybernetischen und systemtheoretischen Ansätzen – von Ashbys Kontrollbegriff über die Beobachtung zweiter Ordnung bis zu Luhmanns Organisationstheorie – werden theoretische Grundlagen und konkrete Anwendungsbeispiele aus Wirtschaft, Verwaltung und Militär diskutiert. Ethische Fragestellungen werden dabei nicht als vorgegebene Prinzipien verstanden, sondern als Beobachtungs- und Zurechnungsleistungen innerhalb organisationaler Entscheidungsprozesse analysiert. Ein besonderer Fokus liegt auf der Frage, wie Risiken, Verzerrungen (Bias) und Intransparenz beobachtet, bewertet und organisational verarbeitet werden.
Ziel des Seminars ist es, ein vertieftes Verständnis dafür zu entwickeln, wie Organisationen mit der „Black Box" KI umgehen – und zu zeigen, dass die entscheidende Frage nicht lautet, wie KI vollständig transparent gemacht werden kann, sondern wie Organisationen trotz fortbestehender Intransparenz entscheidungs- und handlungsfähig bleiben.
Ziele & Kompetenzen
Wissensebene: Die Studierenden kennen zentrale Konzepte der Kybernetik und der soziologischen Systemtheorie (Beobachtung erster und zweiter Ordnung, Steuerung und Kontrolle, Entscheidungsprämissen, Unsicherheitsabsorption) und können sie auf den organisationalen Einsatz von KI beziehen. Sie können das Problem der Intransparenz von KI-Systemen („Black Box“) theoretisch einordnen und von einem rein technischen Transparenzverständnis abgrenzen. Sie kennen zentrale regulatorische Ansätze (etwa den EU-AI-Act) und deren organisationale Wirkungsweise.
Handlungsebene: Die Studierenden analysieren und vergleichen Governance-Strukturen, Verantwortungszuschreibungen und Kontrollformen im Umgang mit KI in unterschiedlichen organisationalen Kontexten (Wirtschaft, Verwaltung, Militär). Sie reflektieren ethische Anforderungen an KI (Fairness, Verantwortung, Rechenschaftspflicht) als organisationale Übersetzungs- und Zurechnungsleistungen. Sie wenden systemtheoretische Begriffe eigenständig auf Fallbeispiele an und vertreten ihre Analysen argumentativ.