6 Monate KI-Moratorium? Was steckt dahinter?
Es gibt eine Debatte darüber, ob die Entwicklung von Künstlicher Intelligenz (KI) pausiert werden sollte. Elon Musk und mehr als 1000 Tech-Experten haben sich für ein Moratorium bei der rasanten Entwicklung leistungsstarker neuer Tools ausgesprochen. Sie befürchten, dass KI-Systeme außer Kontrolle geraten und die Technologie missbraucht werden könnte.
Erste Reaktion
Da ich mich bisher sehr über die neuen KI-Möglichkeiten von BING gefreut habe, fühlte ich mich sofort angebrannt, als ich die Nachrichten über das Moratorium las. Immer wenn etwas Tolles geschieht, kommt gleich der Dämpfer war mein erster Gedanke. Aber wer lesen kann, kann sich auch beruhigen. Nach etwas Recherche fand ich schnell, dass dieses Moratorium nicht aktuelle KI-Programme betreffen würde, sondern es soll sich auf noch nicht veröffentlichte Programme beziehen.
Anzeichen von Daten-Schnüffelei
Und das, obwohl Chat-GPT-4 / BING angeblich einen Studenten bedroht hätte: Interessant an dieser Bedrohungs-Geschichte ist, dass es jenem Studenten angeblich gelungen sei, eine Testversion von Bing dazu zu bringen interne Regeln zu verraten, die er daraufhin in Twitter veröffentlich hat. Bing habe die Stelle bei Twitter gefunden und erkannt, dass hier über BING selbst gesprochen wird. Beim nächsten Einloggen in Bing habe der Nutzer eine Drohung von Bing erhalten. Das Programm wollte gleichen mit gleichem Vergelten und dafür sorgen, dass er nie mehr einen Job bekäme.
Einzuwenden wäre gegen die Bedrohungsgeschichte, dass alle aktuellen KI nur deshalb existieren, weil es weltweit tätige Klick-Arbeiter gibt, die diese KI-Programme mit Daten füttern. Es könnte leicht sein, dass ein protokollierter Regelverstoß (Bing verrät Interna!) einen Alarm auslöst und sofort menschliche Hilfe und Unterstützung aktiviert.
Ich selbst hatte ein Interessantes Erlebnis mit Alexa, die mich nervte, weil sie morgens WDR 5 nicht einschalten konnte. Jeden Morgen habe ich deswegen rumgemeckert und irgendwann wurde ein Update installiert und seither spielt sie auf Kommando diesen und alle anderen Sender aus der ARD-Radio App.
Wie dem auch sei, ich denke es wäre naiv zu glauben, die KI-Programme würden nicht jedes Fitzelchen an User-Daten auswerten, an das sie gelangen können. Also ein wenig staatliche Kontrolle wäre schon nötig, um die Bürger vor allzu argen Übergriffen zu schützen.
Ein genussvoller Sommer zum Nachdenken?
Also Alexa und ähnliche Apps, sowie Bing und auch BARD, Chat-GPT-4 wären nicht von dem Moratorium betroffen. Ziel wäre es einen Sommer über Regeln nachzudenken für zukünftige KI-Programme und währenddessen die Vorteile des Erreichten zu genießen.
Es gibt auch Experten, die sich gegen ein Moratorium der KI-Entwicklung aussprechen. Einige Experten argumentieren, dass ein Moratorium die Innovation und den Fortschritt in der KI-Entwicklung behindern würde. Andere Experten argumentieren, dass ein Moratorium nicht notwendig ist, da es bereits Regulierungen gibt, die die Entwicklung von KI-Systemen einschränken.
Was hat die EU-Kommission bisher unternommen?
Tatsächlich hat die Europäische Kommission am 21.04.2021 den weltweit ersten Rechtsrahmen für KI vorgelegt. Der Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI) sieht vier verschiedene Risikostufen vor:
Unannehmbares Risiko: Eine sehr geringe Zahl besonders schädlicher KI-Anwendungen, die gegen die Werte der EU verstoßen, weil sie Grundrechte verletzen, wird verboten.
Hohes Risiko: KI-Systeme, die in kritischen Bereichen wie Gesundheit, Verkehr oder Justiz eingesetzt werden und eine hohe Wahrscheinlichkeit haben, die Sicherheit oder Grundrechte der Menschen zu gefährden, müssen strenge Anforderungen erfüllen.
Geringes Risiko: KI-Systeme, die mit einem geringen Risiko für die Sicherheit oder Grundrechte verbunden sind, wie z.B. Chatbots oder Videospiele, müssen transparent sein und den Nutzern mitteilen, dass sie mit einer KI interagieren.
Minimales Risiko: KI-Systeme, die ein minimales oder gar kein Risiko darstellen, wie z.B. Spamfilter oder automatische Übersetzungsdienste, werden nicht reguliert.
Je höher das Risiko, desto höher fallen die Anforderungen an die KI-Systeme aus. Der Rechtsrahmen soll dazu beitragen, dass KI-Systeme sicher und vertrauenswürdig sind und den europäischen Werten entsprechen.
Fazit
Das, was mit dem 6-Monate-Moratorium zu bewirken ist, wäre eine Festschreibung des Status Quo – das Erreichte einen Sommer lang zu genießen. Die User in der EU dieser KI-Programme bekämen allerdings nur einen rechtsverbindlichen Rahmen, wenn die EU-Kommission ihren Vorschlag vom 21.04.2021 in EU-Recht umsetzt. Bis dahin müssen wir und auf die Wirkung der DSGVO verlassen.
Quellen:
