Symbolbild: Zusammenleben von Mensch und KI. Utopie oder Dystopie ?
Dieser Artikel ist eine Übersetzung eines Kommentars der isländischen Parlamentsabgeordneten der Piratenpartei, Halldóra Mogensen.
Geschwister sitzen gemeinsam am Frühstückstisch und scrollen auf ihren jeweiligen Geräten durch die sozialen Medien. Social-Media-Algorithmen werten sie mit so unterschiedlichen Informationen über die Welt aus, dass sie genauso gut in verschiedenen Sternensystemen leben könnten, aber nicht im selben Zuhause.
Das ist die Realität, in der wir heute leben. Eine völlig neue Situation, mit der Menschen, Gesellschaften und Demokratie noch nie zuvor konfrontiert waren. Diese neue Realität ist das Ergebnis einer recht einfachen Form künstlicher Intelligenz, die Inhalte priorisiert und verteilt, mit dem Ziel, das Betrachten, Lesen und Scrollen des Benutzers zu maximieren. Um die Aufmerksamkeit der Benutzer so weit wie möglich zu erregen, mit dem alleinigen Zweck, Werbung zu verkaufen und die Gewinne der Unternehmen zu maximieren, die die Technologie besitzen und entwickeln.
Wir Menschen haben uns dazu entwickelt, auf das zu achten, was für uns am bedeutsamsten ist. Wenn wir versuchen, uns dazu zu zwingen, etwas zu tun, von dem wir keinen Sinn sehen, ist es sehr schwierig, konzentriert zu bleiben. Wenn wir mit einer Aufgabe beschäftigt sind, die für uns von großer Bedeutung ist und unsere Aufmerksamkeit fesselt, geraten wir in den Flow. Im Flow distanzieren wir uns von Ego und Selbstbewusstsein und erleben, ganz in der Gegenwart zu sein. Wir sind es, anstatt es zu tun. Je mehr Flow wir erleben, desto besser fühlen wir uns.
Kunden statt Ware
In einer Welt, in der wir von Ablenkungen umgeben sind, wird es immer schwieriger, unseren Fokus aufrechtzuerhalten und uns auf die Aufgaben und Ziele zu konzentrieren, die unserem Leben wirklich Sinn und Zweck verleihen. Wir sind von einer Technologie umgeben, die unsere Aufmerksamkeit mit einem Algorithmus stehlen soll, dessen Hauptziel darin besteht, uns an den Bildschirm zu fesseln. Der effektivste Weg, dieses Ziel zu erreichen, besteht darin, Inhalte zu priorisieren, die Empörung oder Wut hervorrufen oder auf irgendeine Weise mit unseren Emotionen spielen. Je extremere Emotionen der Inhalt hervorruft, desto mehr Aufmerksamkeit erhält der Algorithmus von uns. Je mehr Aufmerksamkeit, desto mehr Umsatz erzielt das Unternehmen. Wenn wir emotional verärgert sind, wird der Qualität der Diskussion weniger Aufmerksamkeit geschenkt und das Denken wird fragmentierter und oberflächlicher. Die Unternehmen verdienen Geld, aber die Nutzer verlieren.
Wenn wir durch ein Kommentarsystem erfahren, dass wir von wütenden Menschen umgeben sind, werden wir wachsam und unsere Aufmerksamkeit verlagert sich mehr auf die Suche nach Gefahren und Feinden, anstatt den Geist, die sozialen Beziehungen und die Gemeinschaft in Frieden und Flow zu pflegen. Dies untergräbt unsere Fähigkeit, als Gemeinschaft zusammenzukommen, um Probleme zu identifizieren und gemeinsam Lösungen zu finden. Die Unternehmen verdienen Geld, aber die Gesellschaft als Ganzes verliert.
KI kann mit dem Ziel entwickelt werden, Ablenkungen zu reduzieren und unsere Fähigkeit, auf sie zu achten, zu verbessern, was den Sinn, den Flow und das Wohlbefinden in unserem Leben erhöht. Wir könnten zur Gestaltung sozialer Medien beitragen, die das Leben der Menschen wirklich verbinden und bereichern, Medien, bei denen Benutzer eher Kunden als Waren sind.
Eine falsche Realität, die uns einsperrt
Die neueste künstliche Intelligenz, die wir künstliche Intelligenz nennen, die die meisten von uns aber als ChatGPT kennen, analysiert Inhalte nicht nur, sondern erstellt sie selbst auf der Grundlage einer großen Datenmenge. Obwohl es viele Möglichkeiten gibt, muss diese Entwicklung unzählige Fragen darüber aufwerfen, wie störend und zerstreuend diese Fähigkeit der KI im aktuellen Anreizumfeld sein kann.
Stellen Sie sich eine künstliche Intelligenz vor, die alles über uns weiß, alle unsere Interessen, alle unsere Vorurteile, alles, was wir fürchten, und darauf programmiert ist, Schwächen in unserem Denken und Verhalten auszunutzen, um uns Produkte und Dienstleistungen zu verkaufen. Dies ist heute bis zu einem gewissen Grad möglich, aber was wäre, wenn die KI auch Inhalte erstellen könnte, die die Geschichte unterstützen und verstärken, die uns die Menschen hinter der Technologie verkaufen.
Wir müssen auch gefälschte Nachrichten, gefälschte Videos, Fotos und die künstlichen Personen, die Kommentarsysteme übernehmen und die Ergebnisse von Wahlen beeinflussen können, in das Bild einbeziehen. Heutzutage fällt es vielen Menschen schwer, den Informationen zu vertrauen, die in den verschiedenen Medien präsentiert werden. Was passiert, wenn die Situation so weit fortgeschritten ist, dass Menschen generell überhaupt keinen Informationen mehr vertrauen können?
Wie soll jemand wissen, ob irgendetwas über den Zustand der Welt vertrauenswürdig ist? Woher wissen wir, ob wir mit einer echten Person sprechen und nicht mit einer künstlichen? Wie navigieren wir in einer Welt, in der KI Inhalte erstellen kann, die unsere Aufmerksamkeit manipulieren und dann eine falsche Realität schaffen, die uns einsperrt? KI hat allein durch die Nutzung von Algorithmen und den politischen Vorurteilen der Menschen bereits einen langen Weg zurückgelegt. Welche Auswirkungen wird dies auf die Demokratie haben?
Die Hauptvoraussetzung für eine aktive Demokratie besteht darin, dass die Bürger frei und gebildet sind und einen echten Dialog führen, mit dem Ziel, ein immer besseres Verständnis der gemeinsamen Werte und der Ziele unserer Gesellschaft zu erreichen. Wie ist der Status der Demokratie in einer Welt, in der alle Informationen, die wir sehen, personalisiert sind und wir nicht darauf vertrauen können, was wir lesen oder wissen, ob die Person, mit der wir sprechen, eine echte Person oder nur eine künstliche Person ist, die dazu bestimmt ist, uns kennenzulernen und uns in eine Ideologie hineinführen, die einer uns verborgenen Sache dient? Wie kann die Demokratie in einer solchen Welt überleben?
Wie können von Natur aus langsame Demokratien mit der Regulierung exponentiell wachsender Technologien umgehen? Derzeit bestimmen einige CEOs bedeutender Technologieunternehmen das Schicksal der Menschheit, während alle möglichen Ausschüsse und Arbeitsgruppen auf der ganzen Welt darüber diskutieren, wie Technologien am besten reguliert werden können, die mutiert sein werden, bis die Gruppen etwas liefern.
Wenn KI uns formt, wer formt dann KI?
Wenn KI weiterhin vom aktuellen Geschäftsmodell des Überwachungskapitalismus beherrscht wird, bei dem Benutzerinformationen gesammelt und verkauft werden, um sie gegen uns zu verwenden, wird KI weiterhin Spaltung und Polarisierung vorantreiben. Es wird enorme Auswirkungen auf die Weltanschauung und Meinungen der Menschen haben können und läuft Gefahr, zum Zusammenbruch der demokratischen Systeme, die wir bisher kannten, beizutragen.
Wir haben die Wahl zwischen zwei mächtigen Kräften: Fragmentierung oder Flow. Die Fragmentierung macht uns kleiner, oberflächlicher und wütender, während der Flow uns erweitert, vertieft und beruhigt. Der Zerfall entspringt der Ideologie der Vermögensanhäufung, des endlosen Wachstums und des Konsums. Flow entsteht in einer Zukunft, die Sinn, Wohlstand und Ausgeglichenheit in den Vordergrund stellt. Fragmentierung lässt uns schrumpfen, während der Flow uns ausdehnt. Das ist die Wahl.
Wie sich die Technologie weiterentwickeln wird, hängt ganz von den Anreizen für die Unternehmen ab, die sie entwickeln. Wenn soziale Motive über Profitmotive gestellt werden, bietet Technologie ein enormes Potenzial für menschlichen Fortschritt und Wohlstand. Es wurde darauf hingewiesen, dass künstliche Intelligenz beispielsweise bei der Diagnose von Krankheiten, bei der Suche und Rettung nach Naturkatastrophen, bei der Anpassung des Unterrichts an die Bedürfnisse jedes Einzelnen oder bei der Förderung einer nachhaltigen Gesellschaft durch die Stärkung der Energiesysteme gegen Erschütterungen, mit der Bewirtschaftung von Wasser- und Abfallsystemen in der Landwirtschaft oder der Verkehrskontrolle helfen kann. Die Möglichkeiten sind endlos und KI könnte tatsächlich der Schlüssel zu einer besseren Gesellschaft für uns alle sein. Eine Gesellschaft, in der wir mehr Zeit mit der Familie und unseren Lieben haben, mehr Zeit, Leidenschaft zu verfolgen, Ziele zu verwirklichen, wertvolle Beziehungen aufzubauen und Gesellschaft und Demokratie zu fördern.
Das Zukunftskomitee des Alþingis (Anm. d. Red.: das isländische Parlament) veranstaltet derzeit Seminare zu künstlicher Intelligenz und Demokratie und steht bereit, um mit führenden Experten über die Auswirkungen künstlicher Intelligenz auf den Arbeitsmarkt, das Bildungssystem, die Politik, den Datenschutz, das Urheberrecht und mehr zu sprechen. Das nächste Seminar findet am 16. Februar um 10:30 Uhr statt und diskutiert den globalen Stand der KI-Politik. (Anm. d. Red.: das Seminar fand bereits statt und es gibt eine Aufzeichnung davon) Die Seminare werden direkt auf dem Alþingis-Kanal und der Website des Parlaments gestreamt, sodass das Publikum teilnehmen und Fragen einsenden kann. Ich ermutige alle, die sich für die Entwicklung künstlicher Intelligenz und die Zukunft der Demokratie interessieren, die Seminare des Zukunftsausschusses zu verfolgen und daran teilzunehmen.
