Künstliche Intelligenz
Henry David Thoreau, ein amerikanischer Schriftsteller und Philosoph des 19. Jahrhunderts, hatte eine kritische Haltung gegenüber der Demokratie. Thoreau sah die Demokratie als eine Kraft, die den Fokus von individueller Moral und Gewissen auf Institutionen und Prozesse verlagert. Er kritisierte die Art und Weise, wie ein demokratischer Staat die Verpflichtungen bedroht, die die Praxis der Moral erleichtern und ihr Bedeutung verleihen.
Obwohl er nicht direkt über künstliche Intelligenz gesprochen hat, könnten wir seine allgemeinen Ansichten auf die Frage der demokratischen Kontrolle von künstlicher Intelligenz anwendenThoreau. Vor allem sollten wir seine Warnung vor Selbstgefälligkeit auf die Notwendigkeit anwenden, die ethische und moralische Kontrolle über Technologien wie künstliche Intelligenz zu bewahren.
Problemstellung
In der Kaste der Berufspolitiker breitet sich immer mehr Unwissenheit über die Herausforderungen des Informationszeitalters aus. In Kombination mit sich häufender Selbstgefälligkeit und dem Trend, das eigene Denken und die Arbeit an „Beratungsunternehmen“ auszulagern, könnte unserer Gesellschaft die demokratische Kontrolle von KI entgleiten – insbesondere, indem zu nachlässig mit den Risiken und Herausforderungen umgegangen wird.
Unterschätzung der Risiken
Unwissenheit kann dazu führen, dass politische Entscheidungstragende die potenziellen Risiken von KI nicht ernst genug nehmen. KI hat das Potenzial, Arbeitsmärkte zu verändern, Datenschutz- und Sicherheitsbedenken aufzuwerfen und ethische Fragen zur Maschinenautonomie und Entscheidungsfindung aufzuwerfen. Hinzu kommen KI-Systeme in den Händen von Sicherheitsbehörden, vor allem bei mangelnden Kontrollen und in autoritären Demokratien wie z.B. aktuell Ungarn. Uninformierte Politiker könnten die Tiefe und Breite dieser Auswirkungen unterschätzen, was zu unzureichenden Vorbereitungen und Maßnahmen führt und im schlimmsten Fall Ihren Nachfolgern einen schlüsselfertigen Überwachungsstaat hinterlässt.
Mangelnde ethische Kontrolle
In einem Vakuum politischer Kenntnisse und Regulierungen könnten große Technologieunternehmen oder andere mächtige Interessengruppen sowie „Sicherheitsbehörden“ die Entwicklung und Implementierung von KI-Technologien nach ihren eigenen Vorstellungen gestalten, oft ohne angemessene Berücksichtigung der gesellschaftlichen Auswirkungen oder des Gemeinwohls. Dies könnte zu unfairen, diskriminierenden und auch Orwellschen KI-Systemen und – in Kombination mit dem Überwachungskapitalismus – in eine Shadow-Run-Welt führen.
Globale Standards
Die Entwicklung von KI ist ein globales Phänomen, aber das Fehlen eines fundierten Verständnisses und Engagements seitens der Politik kann dazu führen, dass keine oder – wie aktuell – eher schwache internationalen Normen oder Kooperationen entstehen. Dies könnte zu einem „Wettlauf nach unten“ führen, bei dem Länder um die laxesten Regulierungen konkurrieren, um Investitionen anzuziehen, was globale Risiken erhöht. Insbesondere im Bereich der generativen KI und autonomen Systeme könnte dies langfristige Folgen haben, die schwer umzukehren sind. Eine Unterschätzung dieser Risiken würde dazu führen, dass es eines Tages zu spät ist, effektive Kontrollmechanismen zu implementieren.
Technologischer Determinismus:
Eine Kombination aus Unwissenheit und Selbstgefälligkeit könnte dazu führen, dass die politischen Entscheidungstragenden KI als unvermeidlich ansehen und die Kontrolle aufgeben. Durch die Annahme, dass technologischer Fortschritt ein autonomer Prozess ist, der unabhängig von menschlichen Werten, Entscheidungen und Handlungen voranschreitet, vernachlässigt der technologische Determinismus die bedeutende Rolle, die Menschen bei der Gestaltung dieser Technologien spielen. Diese Perspektive ignoriert, wie Entwickler, Anwender, Regulierungsbehörden und die breite Öffentlichkeit durch ihre Entscheidungen und Handlungen die Entwicklung und Implementierung von KI beeinflussen. Diese Sichtweise enthebt die Beteiligten der Notwendigkeit, ethische Überlegungen in den Entwicklungsprozess einzubeziehen und verantwortungsvolle Entscheidungen zu treffen, die über die technische Machbarkeit hinausgehen.
Gegenmaßnahmen
Insgesamt ist es wichtig, dass politische Entscheidungsträger sich ihrer Verantwortung bewusst sind und proaktiv handeln, um die demokratische Kontrolle über KI zu stärken. Die Politik sollte sich mit Experten aus der Forschung und der Zivilgesellschaft austauschen und die langfristigen Auswirkungen von KI berücksichtigen. Weitere Ethische Richtlinien und klare Regeln für KI-Entwicklung und -Einsatz sollten festgelegt werden und unabhängige Überprüfungsgremien geschaffen werden – das ist nicht die Aufgabe des CCC! Zudem sollten politische Entscheidungsträger die Technologie nicht einfach akzeptieren, sondern aktiv regulieren und steuern.
Und Thoreau?
Thoreau, so wie ich ihn verstanden habe, wäre vermutlich zutiefst erschrocken über die aktuellen Entwicklungen des Überwachungskapitalismus und die Fähigkeiten aktueller KI-Systeme. Ich befürchte, er würde im Wald ohne Internet und Smartphone leben – mit einem nicht-elektronischen Bibliotheksausweis und ohne Bankkonto.
Redaktionsmitglied Sperling
Redakteur seit 2011, Kernteam der Redaktion seit 2013. De facto "Leitung" ab 2016, irgendwann auch offiziell Chefredakteur - bis 2023. Schreibt und Podcastet nur wenn ihm die Laune danach steht, zahlt aktuell die Infrastruktur der Flaschenpost, muss aber zum Glück nicht haften 🙂
