NYT: GPT-Chat als Bedrohung für das westliche politische System

Wochen nach seiner Einführung droht Chat GPT* bereits, viele Formen unserer täglichen Kommunikation auf den Kopf zu stellen, wie zum Beispiel die Art und Weise, wie wir E-Mails, Universitätsarbeiten und unzählige andere Schreibformen schreiben. NYT.

GPT-Chat

Vom Unternehmen entwickelt offen Die KI-Anwendung ist ein auf Kommunikation ausgelegter Roboter – sie kann schriftlich gestellte Fragen automatisch beantworten, in einer oft menschenähnlichen Art und Weise, bis zu dem Punkt, an dem es unmöglich ist, zu unterscheiden, dass sie verwendet wurde. Aber jenseits der Überraschung, dass Maschinen Menschen in diskursiven Formen wie Poesie und Scripting ersetzen können, gibt es eine viel größere Bedrohung: die Ersetzung von Menschen durch künstliche Intelligenz in demokratischen Prozessen – nicht durch Abstimmungen, sondern durch Lobbying.

GPT Chat kann während des Gesetzgebungsverfahrens eingereichte Kommentare automatisch zusammenstellen. Er kann Briefe zur Veröffentlichung an die Chefredakteure der Lokalzeitungen schreiben. Er kann Nachrichtenartikel, Blogbeiträge und Beiträge in sozialen Medien millionenfach am Tag kommentieren. Es kann die Arbeit des russischen Internet-Geheimdienstes bei seinem Versuch nachahmen, die US-Wahlen 2016 zu beeinflussen, aber ohne ein Budget von mehreren Millionen Dollar und Hunderte von dafür eingestellten Arbeitern.

Automatisch generierte Kommentare sind kein neues Problem. Seit einiger Zeit sehen wir uns der Bedrohung durch Bots ausgesetzt – Maschinen, die automatisch Inhalte posten. Es wird angenommen, dass vor fünf Jahren mindestens eine Million automatisch generierte Kommentare bei der FCC im Zusammenhang mit vorgeschlagenen Gesetzen zur Internetneutralität eingereicht wurden. Im Jahr 2019 testete ein Student der Harvard University einen automatisierten Textgenerator, um 1.001 Kommentare in einer öffentlichen Gesundheitsberatung einzureichen. Zu dieser Zeit war das Posten von Kommentaren nur ein Rechenspiel.

Gefahr für Mitglieder des Kongresses

Seitdem sind Plattformen besser darin geworden, „künstliches, nicht authentisches Verhalten“ zu entfernen. Facebook zum Beispiel löscht jedes Jahr mehr als eine Milliarde gefälschte Konten. Aber diese Botschaften sind nur der Anfang. Anstatt die Posteingänge der Gesetzgeber mit Unterstützungsbotschaften zu überfluten oder die Telefonzentrale des Kapitols mit automatischen Anrufen zu überprüfen, könnte ein KI-System – so fortschrittlich wie die GPT-Chat-App und auf Daten zu diesen Prozessen trainiert – Gesetzgeber und Influencer ins Visier nehmen, um die schwächsten Positionen zu identifizieren Punkte im Gesetzgebungsprozess und manipulieren sie rücksichtslos durch direkte Kommunikation.

Wenn wir, die Menschen, uns an solchen Aktivitäten beteiligen, nennt man das Lobbying. Erfolgreiche Vertreter dieses Genres, also führende Lobbyisten, kombinieren präzises Schreiben von Botschaften mit intelligenten Zieltaktiken. Derzeit ist das einzige, was einen mit Chat GPT ausgestatteten Lobbyisten daran hindert, etwas zu tun, das im Diskurs mit Drohnenkrieg verglichen werden könnte, das Fehlen einer genauen Zielvorgabe. KI hat jedoch das Potenzial, auch für diesen Zweck Technologien bereitzustellen.

Ein System, das in der Lage ist, politische Netzwerke zu interpretieren, kann in Kombination mit den Textgenerierungsfunktionen der Anwendung bestimmen, welches Mitglied des Kongresses das größte Gewicht in einer bestimmten Politik hat, wie z. B. Unternehmensbesteuerung oder Militärausgaben. Ein solches System, das sich wie Lobbyisten verhält, könnte die unentschlossenen Vertreter des Landes ins Visier nehmen, die in Ausschüssen sitzen, die über Richtlinien entscheiden, die den Interessen von jemandem dienen, und ihre Bemühungen dann auf die Mitglieder der Regierungspartei richten, wenn über einen Gesetzentwurf abgestimmt wird.

Sobald die Personen und Strategien identifiziert sind, kann ein Diskussionsbot wie Chat GPT Textnachrichten zur Verwendung in E-Mails, Kommentaren und überall dort generieren, wo Text nützlich wäre. Lobbyisten können diese Personen auch direkt angreifen, und hier ist die Kombination wichtig: Kommentare zu Artikeln und sozialen Medien haben ein begrenztes Potenzial, und das Wissen, welche Mitglieder der Legislative angegriffen werden sollen, ist an sich keine ausreichende Bedingung für Manipulationen.

Starker Anreiz zum Angriff

Diese Fähigkeit, online agierende Personen zu verstehen und anzusprechen, wird ein Hacker-KI-Tool schaffen, das Schwachstellen in sozialen, wirtschaftlichen und politischen Systemen mit unglaublicher Geschwindigkeit und Reichweite ausnutzt. Gesetzgebungssysteme können ein besonderes Ziel sein, da der Anreiz, politische Entscheidungssysteme anzugreifen, sehr stark ist. Die Daten zum Trainieren solcher Systeme sind weithin verfügbar, und der Einsatz von KI ist sehr schwer zu erkennen – insbesondere wenn sie strategisch zur Manipulation menschlicher Handlungen eingesetzt wird.

Es ist nur eine Frage der Zeit, bis die Daten vorliegen, die zur Formulierung solcher strategischer Zielsysteme erforderlich sind. Offene Gesellschaften verlassen sich typischerweise auf Transparenz, und die meisten Gesetzgeber sind – zumindest formal – bereit, Botschaften zu empfangen und darauf zu reagieren, die scheinbar von ihren eigenen Leuten kommen.

Es ist durchaus möglich, dass das KI-System erkennen kann, welche Mitglieder des Kongresses einen entscheidenden Einfluss auf die Führung haben, aber ihre öffentliche Sichtbarkeit ist gering genug, dass ihre Aufmerksamkeit nicht oft auf sich gezogen wird. Sie kann dann die öffentliche Interessengruppe identifizieren, die den größten Einfluss auf die öffentlichen Positionen dieses Mitglieds der Legislative hat. Möglicherweise kann sie sogar den Spendenbetrag berechnen, der erforderlich ist, um die Organisation zu beeinflussen, oder Anzeigen schalten, die eine strategische Botschaft an ihre Mitglieder vermitteln. Für jedes Ziel, das eine politische Entscheidung braucht, das richtige Publikum, die richtige Botschaft zur richtigen Zeit. Das macht die Bedrohung, die von Lobbyisten mit KI-Waffen ausgeht, größer als die Bedrohung, die von teuren Straßenlobbyfirmen in Washington ausgeht. Lobbyisten greifen auf jahrzehntelange Erfahrung zurück, um strategische Lösungen zu finden, um das Ergebnis einer politischen Entscheidung erfolgreich zu gestalten. Diese Erfahrung ist begrenzt und daher zutreffend.

Schneller und billiger

Theoretisch kann künstliche Intelligenz jedoch das gleiche Ergebnis viel schneller und billiger erzielen. Der anfängliche Geschwindigkeitsvorteil ist enorm in einem Ökosystem, in dem die öffentliche Meinung und Medienerzählungen schnell konsolidiert werden können, ebenso wie sie als Reaktion auf chaotische Ereignisse auf globaler Ebene einem schnellen Wandel unterliegen.

Darüber hinaus kann die Flexibilität der KI dazu beitragen, Einfluss auf mehrere politische Entscheidungsprozesse und Gerichtsbarkeiten gleichzeitig zu nehmen. Stellen Sie sich eine KI-gestützte Lobby-Firma vor, die versuchen kann, jede Gesetzesvorlage zu ändern, die dem US-Kongress oder sogar den Gesetzgebern jedes Bundesstaates vorgelegt wird. Lobbying-Firmen sind in der Regel nur in einem Staat tätig, da es komplexe Unterschiede in Gesetzen, Verfahren und politischen Strukturen gibt. KI kann die Einflussnahme über herkömmliche politische Grenzen hinweg erleichtern.

So wie Pädagogen die Art und Weise ändern müssen, wie sie Prüfungen und Schüleraufgaben verwalten, angesichts der durch Chat GPT verursachten Änderungen, müssen Regierungen ihre Beziehung zu Lobbyisten ändern.

Zweifellos kann diese Technologie dem demokratischen Umfeld Vorteile bringen, wobei der wichtigste die Zugänglichkeit ist. Ein erfahrener Lobbyist kann nicht von jedem bezahlt werden, aber eine KI-Zugangssoftware kann für jeden verfügbar sein. Wenn wir Glück haben, könnte eine solche strategieerzeugende KI vielleicht die Demokratisierung der Demokratie selbst wiederbeleben und den schwächsten Bürgern einen ähnlichen Einfluss verleihen.

Größere und mächtigere Institutionen verwenden jedoch eher Techniken der künstlichen Intelligenz, um die größtmögliche Wirkung zu erzielen. Am Ende erfordert die beste Einflussstrategie immer noch Menschen innerhalb des Systems, die sich durch die Korridore der Legislative bewegen können, und Geld. Einfluss bedeutet nicht nur, die richtige Botschaft zur richtigen Zeit an die richtige Person zu übermitteln. Und während ein spracherzeugender Roboter bestimmen kann, wer die Nutznießer dieser Influencer-Kampagnen sein sollen, werden Menschen auf absehbare Zeit dafür bezahlen müssen. Es ist zwar unmöglich vorherzusagen, wie eine Zukunft voller Lobbyisten mit KI-Waffen aussehen wird, aber es wird wahrscheinlich den Einfluss und die Macht derjenigen weiter erhöhen, die sie bereits einsetzen.



Source link