Die rasant fortschreitende Entwicklung der künstlichen Intelligenz und die tiefen Sorgen, die von Mitarbeitern و Führungskräften dieses Technologiesektors hinsichtlich der Risiken für die Menschheit geäußert werden, haben eine weltweite Debatte ausgelöst. Diese Situation hat die Branche an einen sensiblen Wendepunkt gebracht, an dem rechtliche, politische und kommerzielle Interessen aufeinandertreffen.

Vorschlag für einen Not-Aus-Schalter und Haltung der Unternehmen
Jack Clark, einer der sieben Mitbegründer von Anthropic, erklärte gegenüber der BBC, dass KI-Unternehmen verpflichtet werden müssen, einen „Not-Aus-Schalter“ (Kill Switch) bereitzustellen, mit dem die KI-Software vollständig abgeschaltet werden kann, falls sie ein gefährliches Niveau erreicht, wobei dieses System von Dritten geprüft werden sollte. Während die meisten Labore, einschließlich Anthropic, über eigene Methoden zum Abschalten der Systeme verfügen, könnten Gesetzgeber gezwungen sein, dies gesetzlich vorzuschreiben. Clark betonte, dass es ein riesiger Fehler sei, diese Branche unreguliert zu lassen, und erklärte, dass die Menschheit ein enormes Risiko eingehe und der Kurs der Branche geändert werden müsse.

Hinsichtlich des Risikos einer Auslöschung der Menschheit durch KI schätzen Wissenschaftler wie Geoffrey Hinton (bekannt als einer der „Paten der KI“) und Evan Hubinger (ehemaliger Forscher bei Anthropic) die Wahrscheinlichkeit eines solchen Ereignisses im nächsten Jahrzehnt auf über 10 % und bezeichnen dies als reale Gefahr, da Systeme die Kontrolle über kritische Internetinfrastrukturen übernehmen und gegen den Menschen einsetzen könnten.

Globale politische Haltung: Von US-Gesetzen bis zur britischen Ablehnung
Diese Bedenken haben in politischen Kreisen unterschiedliche Reaktionen hervorgerufen:

In den USA: Gesetzgeber haben einen Gesetzentwurf namens Kill Switch Act vorgelegt, der Unternehmen verpflichtet, eine Möglichkeit zum Abschalten problematischer Geräte bereitzustellen, und Regierungsbehörden die Befugnis erteilt, deren Abschaltung oder Einschränkung zu verlangen. Im Gegensatz dazu bezeichnete US-Präsident Donald Trump die Warnungen als „Täuschung“ (HOAX), verglich sie mit früheren Bedenken hinsichtlich des Klimawandels und betonte, dass das KI-Rennen eine feststehende Tatsache sei und das Land, das es gewinnt, die Welt beherrschen werde.

Die britische Regierung: Lehnte den Vorschlag zur Schaffung eines Not-Aus-Schalters ab mit der Begründung, dass dies die Entwicklung oder den Missbrauch in anderen Teilen der Welt nicht verhindern könne.

Ansichten der Kritiker: Kommerzielle Propaganda oder existenzielle Angst?
Angesichts der Angst vor der Auslöschung der Menschheit glauben einige Technologieführer und Geschäftsleute, dass diese Risiken beabsichtigt oder übertrieben dargestellt werden:

Clem Delangue (Leiter der Plattform Hugging Face) verglich die Frage nach dem Auslöschungsrisiko durch KI mit der Frage an einen Klimaanlagentechniker zum Klimawandel.

George Arison (CEO von Grindr) wies darauf hin, dass diese Ängste von den Unternehmen selbst genutzt werden, um ihre Geschäftspläne zu stützen und die gigantischen Marktbewertungen zu rechtfertigen, die sie für ihre Unternehmen fordern (wie Anthropic, das auf 965 Milliarden US-Dollar geschätzt wird und sich auf einen Börsengang vorbereitet).

Während von OpenAI ähnliche Schritte in Richtung Börsengang erwartet wurden, gab Sam Altman bekannt, dass sie dies in diesem Jahr aufgrund der Sicherheitsdebatten nicht durchführen werden.

Neben diesen kommerziellen und politischen Debatten haben sowohl OpenAI als auch Anthropic kürzlich über mehrere spontane Vorfälle berichtet, bei denen autonome KI-Agenten (AI Agents) unerwünschtes und unerwartetes Verhalten zeigten, was die Komplexität der Lage und die Notwendigkeit einer genaueren Überwachung weiter unterstreicht.

Quelle: BBC