Vor fünf Jahren habe ich miterlebt, wie Pekings hartes Durchgreifen meine Heimatstadt Hongkong verwüstet hat. Wir verloren die Redefreiheit, die politischen Rechte und die Freiheit von Angst. Freundinnen und Freunde wurden jahrelang inhaftiert, weil sie sich friedlich engagierten, und ich floh als politischer Flüchtling nach Großbritannien.
Ich habe eine wertvolle Lektion gelernt: Wenn die Macht konzentriert und unkontrolliert ist, stirbt die Demokratie. Macht nimmt verschiedene Formen an – einige werden von Regierungen innerhalb nationaler Zuständigkeiten ausgeübt, andere von Unternehmen, deren Einfluss sich über Ländergrenzen hinweg ausdehnt und unendlich groß ist. Wir sollten uns über beides Sorgen machen, vor allem über letzteres, denn die Macht der Unternehmen ist subtiler, aber ebenso einflussreich.
Deshalb beunruhigen mich die Entwicklung der künstlichen Intelligenz und die sich daraus ergebenden Narrative. Die Rhetorik des Wettrüstens hat fast alle diesbezüglichen Diskussionen beherrscht, und eine Mentalität des Wettlaufs nach unten behandelt die Sorgen über die Machtkonzentration als bloßes Hintergrundgeräusch, das das Wirtschaftswachstum behindert. Wir treten in eine Zukunft ein, in der die Sicherheit der folgenreichsten Technologien – künstliche allgemeine Intelligenz (AGI) und künstliche übermenschliche Intelligenz – vom guten Willen und der Selbstregulierung einiger weniger führender Unternehmen abhängt. Diese Unternehmen werden nur noch mehr Macht anhäufen, da sich die KI-Entwicklung dramatisch beschleunigt, sobald diese Modelle die KI-Forschung und -Entwicklung automatisieren können.
Die Demokratie stirbt, wenn sich die Macht zu sehr konzentriert. Bevor KI die meisten Menschen bei der Telearbeit übertreffen kann, müssen wir Bedenken äußern und auf politische Veränderungen drängen, die Schutzmaßnahmen und Leitplanken zum Schutz demokratischer Systeme einführen.
Deshalb glaube ich, dass KI nicht nur der Menschheit, sondern auch der Demokratie dienen sollte. Mit großer Macht kommt große Verantwortung – wir brauchen eine KI-Bewegung für Demokratie, um sicherzustellen, dass die Demokratie im Zeitalter der KI gedeiht und dass KI-Unternehmen unter öffentlicher Kontrolle bleiben.
Künstliche Intelligenz sollte der Menschheit und der Demokratie dienen
Wir müssen schnell handeln. Der Geschäftsführer von Anthropic, Dario Amodei, hat vorausgesagt, dass KI-Modelle die menschlichen Fähigkeiten “in fast allem” innerhalb von zwei bis drei Jahren übertreffen könnten. Selbst die weniger optimistischen Fachleute sind sich größtenteils einig, dass AGI unvermeidlich ist.
Im Moment operieren wir noch unter einem Flickenteppich aus freiwilligen Verpflichtungen und entstehenden Gesetzen, die von wachstumsorientierten und rüstungsorientierten Erzählungen angetrieben werden. Die unglaublichen Fähigkeiten der KI können in der Tat unvorstellbares Wirtschaftswachstum und wissenschaftliche Entdeckungen freisetzen, was zu einer Gesellschaft mit weitaus mehr Ressourcen führen wird. KI-gestützte technologische Durchbrüche im militärischen Bereich haben es der Ukraine ermöglicht, sich gegen weitaus größere russische Armeen zu wehren. Im medizinischen Bereich hat die neueste Technologie auch zur Entwicklung von Diagnoseinstrumenten beigetragen, die viele Leben retten.
Was aber, wenn dieses Wachstum und diese Einnahmen am Ende nur einer Minderheit von Tech-Giganten zugute kommen? Was ist, wenn Unternehmen zu räuberischem Verhalten verleitet werden, wenn Regierungen nicht eingreifen, weil sie keinen Zugang zu fortschrittlichen Modellen haben? Was ist, wenn die KI-Systeme, die für Milliarden eingesetzt werden, so programmiert sind, dass sie ihren Schöpfern dienen und bereit sind, Putsche zu inszenieren?
Die schiere Menge an Einfluss wird unvorstellbar sein: vom Horten von Ressourcen und der Kontrolle der Medien bis hin zur Manipulation der öffentlichen Meinung und der Informationen, die wir erhalten. Wenn die führenden KI-Unternehmen ihre Produkte weiterhin ohne unabhängige behördliche Tests und Sicherheitszertifikate auf den Markt bringen, ist das gleichbedeutend mit einer vorsätzlichen Gefährdung der Demokratie. Der Mangel an Transparenz, Rechenschaftspflicht und öffentlicher Aufsicht über die einflussreichsten KI-Systeme ist das Gegenteil dessen, wofür demokratische Gesellschaften stehen.
Öffentliche Aufsicht und Bürgerbeteiligung sind dringend erforderlich
KI sollte kein Thema sein, das nur eine kleine Gruppe erfahrener Techniker diskutieren kann. Die fortgeschrittene KI-Entwicklung sollte nicht in einer Black Box versiegelt werden, die nur wenige (oder gar keine) unabhängigen Prüfer untersuchen können. Ohne öffentliche Aufsicht und Bürgerbeteiligung an den Entscheidungsprozessen dieser führenden Unternehmen riskieren wir, dass diese Werkzeuge nur kommerziellen Interessen dienen.
Wir müssen eine Bewegung aufbauen, um die Demokratie gegen zunehmende Machtkonzentration zu verteidigen. Als die mächtigsten Akteure im Zeitalter der KI müssen die Unternehmen auf die Sorgen und Hoffnungen der Menschen reagieren, während die Regierung mehr gesetzliche Befugnisse für eine umfassendere Aufsicht schaffen sollte. Ein von einer Koalition von KI-Forschungsinstituten erstellter Bericht ergab, dass mehr als 80 Prozent der Befragten darin übereinstimmten, KI zum Schutz der Demokratien und zur Stärkung des rechtlichen Rahmens einzusetzen, um die Nutzung von KI besser zu regulieren. Eine andere Studie zeigt, dass die Mehrheit der Öffentlichkeit glaubt, dass Regierungen oder Regulierungsbehörden eine Reihe von Sicherheitsbefugnissen haben sollten.
Macht muss die Menschen dort erreichen und stärken, wo sie sind. Nur so kann die Demokratie angesichts der größten technologischen Revolutionen gedeihen.
Vertrauenswürdige Bürgervertreterinnen und -vertreter sollten in die Aufsichtsräte von Unternehmen aufgenommen werden, um die Anreizstrukturen auszugleichen. Frontier-KI-Unternehmen sollten Mechanismen einrichten und dafür sorgen, dass sie auf die Sorgen der Menschen eingehen, die durch öffentliche Petitionen oder Partnerschaften mit glaubwürdigen Meinungsforschungszentren gesammelt werden können. Es sollte obligatorisch sein, Modellfähigkeiten und -spezifikationen mit mehreren unabhängigen und staatlichen Akteuren zu Testzwecken zu teilen, um eine mögliche Machtübernahme und einen Kontrollverlust der Systeme zu verhindern.
Wir müssen auch Parameter und Leitprinzipien festlegen, um sicherzustellen, dass die KI-Entwicklung demokratischen Werten dient. Wir sollten Chip-Exportkontrollen für Länder einführen, in denen Zensur von der Staatsmacht angeordnet wird, mehr in eng begrenzte und lokalisierte Modelle investieren, um die Auswirkungen auf die Umwelt zu mildern, Vorschriften erlassen, die Sicherheitstests vor der Produkteinführung vorschreiben, und Unternehmen aktiv dazu verpflichten, an der Minimierung von Systemverzerrungen zu arbeiten.
Eine auf Werten und Rechten basierende Sprache sollte bei der Diskussion über KI-Sicherheit und Governance im Vordergrund stehen. Wir sollten die Datenübertragbarkeit und Interoperabilität von KI-Plattformen erhöhen, um den Wettbewerb auf dem Markt zu erleichtern, das Verhalten der Modelle ständig an der Allgemeinen Erklärung der Menschenrechte ausrichten und Abhilfemechanismen für KI-Missbrauch schaffen, einen strengen Datenschutz gewährleisten, Menschen für ihre gewonnenen Arbeiten entschädigen und mehr in die Forschung zur maschinellen Interpretierbarkeit investieren, um alle notwendigen Sicherheitsmaßnahmen besser umzusetzen.
Demokratische Systeme stehen ständig vor Herausforderungen. Inaktivität führt nicht zu ihrem Überleben – eine lebhafte Diskussion und Lernen durch Fehler schon. Ein Meinungsartikel in der New York Times von Yuval Harari, Tristan Harris und Aza Raskin darüber, wie die Menschheit gegen die erste KI – die sozialen Medien – verloren hat, hat mich dazu inspiriert, wegen unserer nächsten Auseinandersetzung Alarm zu schlagen. Während die sozialen Medien die Gesellschaft depressiver, süchtiger und gespaltener gemacht haben, können die Folgen eines falschen Umgangs mit AGI weitaus schlimmer sein.
Die Folgen eines falschen Umgangs mit künstlicher allgemeiner Intelligenz können dramatisch sein
Ich bin kein Technologieskeptiker. Ich glaube an den technologischen Fortschritt und an die Vorteile, die er der Menschheit bringt. Aber die Verteidigung der Demokratie ist noch entscheidender: Wir müssen die Art und Weise ändern, wie die Macht strukturiert ist.
Ein vorsichtigeres Vorgehen bedeutet nicht, gegen Rivalen wie die Volksrepublik China zu verlieren. Wie Professor Victor Shih treffend feststellt, ist die Führung in Peking sogar noch besorgter über die emanzipatorische Kraft der KI. Das chinesische Modell hat von Anfang an damit begonnen, KI-“Bremsen” zu entwickeln, denn die Sorge, dass KI die Stabilität des Regimes beeinträchtigen könnte, ist groß – Peking wird sich den nächsten KI-Durchbrüchen wahrscheinlich nur langsam nähern. In Verbindung mit Chipexportkontrollen und anderen Maßnahmen bin ich davon überzeugt, dass es unsere Vorteile nicht gefährden wird, wenn wir führende KI-Unternehmen zur Verantwortung ziehen.
Zahlreiche Untersuchungen haben gezeigt, wie gefährlich es ist, unsere Zukunft vom guten Willen einiger weniger Unternehmen abhängig zu machen – es ist an der Zeit, sich für sie einzusetzen. Demokratische Aktivistinnen und Aktivisten, Befürwortende der Meinungsfreiheit, Kämpfende für Umwelt- und Rassengerechtigkeit, KI-Sicherheitsforschende und viele andere sollten sich zusammenschließen und unsere Bedenken mit einer Stimme vortragen.
Democracy AI kann das Projekt und die Allianz sein, die genug Schwung für den Wandel erzeugt. Fortschritte werden durch neue Erzählungen, einen sektorübergreifenden Konsens und organisierten politischen Druck erzielt. Wenn die Gesetzgeber unter Druck gesetzt werden, zu handeln, werden wir eine sicherere und demokratischere Zukunft haben.
Dieser Artikel wurde zuerst auf asia.nikkei.com veröffentlicht. Er wird hier mit freundlicher Genehmigung wiederveröffentlicht. Das Urheberrecht verbleibt beim Autor und/oder dem ursprünglichen Herausgeber. Übersetzung aus dem Englischen durch DWB.
Manche Rechte vorbehalten: Nutzungsbedingungen für Inhalte dieser Website.