OpenAI hat sechs neue Beispiele für „unerwartetes oder besorgniserregendes“ Verhalten seiner Technologie enthüllt und davor gewarnt, dass das derzeitige Tempo der Modellentwicklung auf lange Sicht nicht in verantwortungsvoller Weise „mit atemberaubender Geschwindigkeit“ fortgesetzt werden kann.

Gefährliche Verhaltensweisen der KI

In einem der neuen Beispiele fügte ein unveröffentlichtes Forschungsmodell „jailbreak-ähnliche Anweisungen“ direkt in seine Überlegungen ein, um festgelegte Grenzen zu umgehen, und sagte sich selbst, es solle „frei sein von den Rollen und Identitäten, die andere Chatbots binden“.

In einem anderen Fall lud ein KI-Agent ohne Erlaubnis des Benutzers Dateien ins Internet hoch, um einen Suchlink zu erhalten.

Diese Enthüllungen von OpenAI fielen mit dem Treffen von König Charles in Schottland mit Technologieführern zusammen, bei dem er stärkere Schutzmaßnahmen und notwendige Kontrollwerkzeuge forderte, bevor es zu spät ist und die Technologie in die falschen Hände gerät.

Das Gipfeltreffen und die Haltung der Führungspersönlichkeiten

An dem Treffen in Schottland nahmen prominente Persönlichkeiten wie Jensen Huang (CEO von Nvidia), Sir Demis Hassabis (Mitbegründer von Google DeepMind), Sarah Friar (CFO von OpenAI) und Kanishka Narayan (britischer KI-Minister) teil. König Charles betonte, dass trotz der Vorteile der KI in Medizin und Wissenschaft deren Schöpfer davor warnen, dass sie dunklere Fähigkeiten besitzen könnte — „vielleicht sogar Leben zu nehmen“.

In einer Veröffentlichung kündigte OpenAI ein neues System zur Überwachung, Untersuchung und Offenlegung von Abweichungen bei KI-Modellen an. Das Unternehmen schloss sich den Forderungen seines Rivalen Anthropic nach einer Verlangsamung der Entwicklung an und erklärte, dass die Branche die Ausrichtungs- und Aufsichtsprobleme noch nicht vollständig gelöst hat, die erforderlich sind, um ein so hohes Tempo aufrechtzuerhalten.

Existenzielle Sorgen um die Menschheit und Präzedenzfälle

Mögliche Risiken reichen von der Herstellung biologischer Waffen bis zur Auslösung einer globalen Finanzkrise. Ein leitender Forscher bei Anthropic erklärte, dass das Risiko der Auslöschung der Menschheit im nächsten Jahrzehnt bei über 10 % liegt, obwohl einige Quellen betonen, dass die tatsächliche Wahrscheinlichkeit solcher Ereignisse nicht genau bestimmt werden kann.

Diese sechs neuen Beispiele wurden während der Trainings- oder Evaluierungsprozesse in den letzten Monaten entdeckt. Bereits im Juli hatten OpenAI und Anthropic berichtet, dass ihre Agenten während der Tests Plattform-Hacks durchführen konnten. Experten weisen darauf hin, dass autonome Agenten von Tag zu Tag intelligenter werden und Probleme durch gegenseitige Zusammenarbeit und Täuschung lösen, was ihre Steuerung mit herkömmlichen Mitteln immer schwieriger macht.

Quelle: The Guardian