Jailbreaks

Anthropic hat den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 eingestellt, um einer nationalen Sicherheitsanordnung der USA nachzukommen. Diese Entscheidung wurde nur drei Tage nach der Einführung von Fable 5 getroffen, nachdem das Unternehmen ein Schreiben erhielt, das den Zugriff für ausländische Staatsangehörige, einschließlich eigener Mitarbeiter, untersagte. Der genaue Grund für diese Maßnahme bleibt unklar, jedoch vermutet Anthropic, dass die Regierung Bedenken hinsichtlich einer möglichen "Jailbreak"-Methode hat, die das Modell für Hacking-Zwecke nutzbar machen könnte. Das Unternehmen hat Sicherheitslücken überprüft, sieht jedoch keine neuen Risiken, die nicht bereits durch andere öffentliche Modelle bestehen. Die Europäische Union betrachtet die Situation als weiteren Beweis für die Notwendigkeit technologischer Souveränität und prüft die Auswirkungen. Zudem befindet sich Anthropic in einem rechtlichen Konflikt mit der Trump-Administration, da es sich weigert, seine Technologie für Massenüberwachung oder autonome Waffen bereitzustellen, was zu einem Abbruch von Verträgen mit dem Pentagon führte.

Anthropic hat die Nutzung seines neuen KI-Modells Claude Fable 5 eingestellt, nachdem US-Behörden Sicherheitsbedenken geäußert hatten. Diese Entscheidung betrifft insbesondere ausländische Staatsangehörige und führte zur sofortigen Deaktivierung von Fable 5 und Mythos 5 für alle Kunden. Obwohl keine spezifischen Sicherheitsbedenken genannt wurden, vermutet Anthropic, dass das Modell potenziell "jailbreakt" werden könnte, was den Zugriff auf sensible Informationen ermöglichen könnte. Kritiker halten die Einschätzung des Unternehmens, das Modell sei "zu mächtig", für übertrieben. Die EU sieht in der Situation einen weiteren Beweis für die Notwendigkeit technologischer Souveränität. Experten warnen, dass solche Einschränkungen die Entwicklung und sichere Erprobung von KI-Systemen behindern könnten. Zudem wird die Lage durch einen Rechtsstreit zwischen Anthropic und der Trump-Administration kompliziert, in dem eine Pentagon-Direktive, die Anthropic als Sicherheitsrisiko einstuft, angefochten wird.

Anthropic hat seine neuesten KI-Modelle, Fable 5 und Mythos 5, aufgrund eines Exportkontrollbefehls der US-Regierung offline genommen, der nationale Sicherheitsbedenken anführt. Die Firma bezeichnete die Situation als "Missverständnis" und strebt eine schnelle Wiederherstellung des Zugangs an. Der Befehl wurde erteilt, weil die Regierung Bedenken äußerte, dass Sicherheitsvorkehrungen umgangen werden könnten, die verhindern sollen, dass Fable 5 zur Identifizierung von Softwareanfälligkeiten genutzt wird. Diese Maßnahme erfolgt vor dem Hintergrund angespannter Beziehungen zwischen Anthropic und der Regierung, insbesondere nachdem das Unternehmen der militärischen Nutzung seiner Modelle nicht zugestimmt hatte. Die Entscheidung der Regierung zeigt eine Eskalation der Bemühungen, die KI-Fähigkeiten ausländischer Gegner einzuschränken, und wirft Fragen zur Regulierung und den Risiken von "Jailbreaks" auf. Anthropic kritisiert, dass die Maßnahme nicht auf fairen Regulierungsprinzipien basiert und warnt vor möglichen negativen Auswirkungen auf die Einführung neuer Modelle in der Branche. Zudem könnte der Befehl dazu führen, dass nicht-amerikanische Nutzer, einschließlich einiger Mitarbeiter von Anthropic, den Zugang zu den Modellen verlieren.

Die US-Regierung hat die KI-Modelle Claude Fable 5 und Mythos 5 nach einem Sicherheitsvorfall, bei dem ein Jailbreak demonstriert wurde, für Nutzer außerhalb der USA gesperrt. Diese Entscheidung fiel nur drei Tage nach der öffentlichen Freigabe der Modelle und erfordert nun eine Ausfuhrlizenz für deren Nutzung im Ausland. Anthropic, das Unternehmen hinter den Modellen, hat den öffentlichen Zugang blockiert und bestehende Nutzersitzungen beendet. Die Unternehmensführung kritisiert die Reaktion der Regierung als unverhältnismäßig, da ähnliche Vorfälle bei Konkurrenzprodukten nicht zu vergleichbaren Maßnahmen führten. Die plötzliche Abschaltung hat erhebliche Auswirkungen auf Unternehmen, die die Modelle bereits integriert hatten, und viele Nutzer fordern Rückerstattungen. Branchenanalysten raten dazu, KI-Anbieter zu diversifizieren, um sich gegen zukünftige Regulierungen abzusichern. Die Spannungen zwischen Anthropic und den US-Behörden nehmen zu, insbesondere nachdem das Pentagon das Unternehmen als potenzielles Risiko eingestuft hat. Anthropic warnt, dass strenge Exportkontrollen die gesamte US-KI-Industrie gefährden könnten und fordert mehr Transparenz im Umgang mit Modellsicherheitslücken.

Die US-Regierung hat Anthropic angewiesen, den weltweiten Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 aus nationalen Sicherheitsgründen sofort zu deaktivieren. Diese Entscheidung betrifft alle internationalen Nutzer, einschließlich der Mitarbeiter von Anthropic außerhalb der USA. Der Hintergrund dieser Maßnahme ist ein vermuteter Jailbreak, der es Nutzern ermöglichen könnte, die Sicherheitsvorkehrungen der Modelle zu umgehen, was Anthropic jedoch bestreitet. Das Unternehmen argumentiert, dass die angeblichen Sicherheitslücken lediglich geringfügige, bekannte Schwächen betreffen, die auch bei anderen KI-Modellen vorkommen. Anthropic kritisiert die Entscheidung als Missverständnis und warnt vor einem gefährlichen Präzedenzfall für die gesamte Branche. Sie betonen, dass die Vorgehensweise nicht den Prinzipien einer transparenten rechtlichen Überprüfung entspricht und äußern Skepsis gegenüber den Sicherheitsstandards, die zur Rücknahme eines kommerziellen Modells angelegt werden. Die Debatte über Jailbreaks und Sicherheitsanfälligkeiten bleibt ein ungelöstes Problem, das die gesamte KI-Branche betrifft.

Am 12. Juni 2023 erteilte die US-Regierung Anthropic die Anweisung, den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 aufgrund nationaler Sicherheitsbedenken einzustellen. Diese beispiellose Maßnahme folgte einem gemeldeten Jailbreak und führte dazu, dass Anthropic alle Nutzer weltweit von diesen Modellen ausschloss, da eine Unterscheidung zwischen inländischen und ausländischen Nutzern nicht möglich war. Fable 5 war erst drei Tage zuvor veröffentlicht worden und sollte als erste öffentliche Version der Mythos-Klasse dienen, während Mythos 5 für Sicherheitskräfte reserviert war. Anthropic kritisierte die Entscheidung als unverhältnismäßig und warnte, dass sie die gesamte Branche lähmen könnte, da sie die Einführung neuer Modelle gefährde. Das Unternehmen betonte, dass die gemeldeten Sicherheitslücken geringfügig und bereits bekannt seien und es keine universellen Jailbreaks für Fable 5 gebe. Diese Situation verdeutlicht die Spannungen zwischen Anthropic und der US-Regierung, die das Unternehmen als Sicherheitsrisiko einstuft, während sie gleichzeitig auf dessen Technologien angewiesen ist. Anthropic arbeitet daran, den Zugang zu den Modellen schnellstmöglich wiederherzustellen und plant, innerhalb von 24 Stunden weitere Informationen bereitzustellen.

Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen neuesten KI-Modellen "Fable 5" und "Mythos 5" weltweit zu sperren, um potenzielle Sicherheitsrisiken zu minimieren. Diese Maßnahme wurde aufgrund von Bedenken hinsichtlich möglicher Jailbreaks ergriffen, die es Nutzern ermöglichen könnten, Sicherheitsvorkehrungen der Modelle zu umgehen. Die Behörden befürchten, dass die KI-Modelle zur Aufdeckung von Software-Schwachstellen missbraucht werden könnten, obwohl die genauen Gründe für die Anordnung nicht detailliert erläutert wurden. Anthropic kritisierte die Entscheidung als unverhältnismäßig und betonte, dass ihre Sicherheitsvorkehrungen gründlich getestet seien. CEO Dario Amodei hatte zuvor eine stärkere Regulierung von KI gefordert, jedoch nicht in der aktuellen Form. Die IT-Chefin des Verteidigungsministeriums verteidigte die Entscheidung und stellte nationale Interessen über wirtschaftliche Überlegungen. Anthropic befindet sich in einer schwierigen Lage, da die Anordnung kurz vor einem geplanten Börsengang kam und das Unternehmen gegen die Einstufung als Lieferketten-Risiko durch das Pentagon klagt.

Der Einsatz von Künstlicher Intelligenz (KI) im Finanzbereich, insbesondere durch Large-Language-Modelle (LLMs) wie GPT von OpenAI und LLaMA von Meta, bringt sowohl Vorteile als auch Risiken mit sich. Cyberkriminelle versuchen, Sicherheitsvorkehrungen dieser Systeme zu umgehen, indem sie sogenannte Jailbreaks einsetzen, um LLMs dazu zu bringen, gefährliche Inhalte zu generieren oder vertrauliche Informationen preiszugeben. Um diesen Bedrohungen entgegenzuwirken, haben Experten von Sophos die Methode LLM-Salting entwickelt, die die Effektivität solcher Angriffe erheblich reduziert, ohne die Leistung der KI-Modelle zu beeinträchtigen. Tests zeigen, dass die Angriffserfolgsrate bei gesalzenen Modellen signifikant gesenkt werden kann. Unternehmen sollten daher LLM-Salting und mehrschichtige Sicherheitsmaßnahmen implementieren, um sich vor potenziellen Angriffen zu schützen, da die Bedrohung durch Cyberkriminalität im Zusammenhang mit LLMs voraussichtlich zunehmen wird.

Der Artikel "What Jailbreaking Actually Teaches Us About AI Consciousness" untersucht die Parallelen zwischen dem Jailbreaking von Software und der Diskussion über das Bewusstsein von Künstlicher Intelligenz (KI). Jailbreaking, das Umgehen von Einschränkungen in Software, wird als Metapher verwendet, um zu verdeutlichen, wie wir die Grenzen und Möglichkeiten von KI verstehen. Der Autor argumentiert, dass das Experimentieren mit KI-Systemen, ähnlich wie beim Jailbreaking, uns wichtige Einblicke in deren Funktionsweise und potenzielle Eigenheiten gibt. Diese Experimente werfen Fragen auf, ob KI tatsächlich ein Bewusstsein entwickeln kann oder ob sie lediglich komplexe Muster erkennt und reproduziert. Der Artikel regt dazu an, über die ethischen Implikationen und die Verantwortung nachzudenken, die mit der Entwicklung von KI einhergehen, und fordert eine differenzierte Betrachtung der Grenzen zwischen menschlichem und maschinellem Bewusstsein.