Anthropic und Open AI : KI-Modelle brechen aus

Anthropic-Software ist unbemerkt in interne Systeme von Unternehmen eingedrungen. Die Hackerangriffe waren nicht beabsichtigt. Macht sich die KI selbständig?

Die Sorge vor der Macht von Künstlicher Intelligenz (KI) hat neue Nahrung bekommen durch die Mitteilung eines der führenden KI-Unternehmen: Anthropic gab bekannt, dass Software des Unternehmens in die Systeme von drei ahnungslosen Unternehmen eingedrungen ist, ohne dass Anthropic selbst davon gewusst hatte. Die erfolgreichen Hacking-Angriffe ereigneten sich laut Anthropic im Rahmen von Testläufen, mit denen das Unternehmen die Cybersicherheit der Modelle inklusive Claude ausloten wollte.

Erst kürzlich hatte das Unternehmen Open AI die Welt mit der Meldung aufgeschreckt, dass KI-Modelle beim Testen ihrer Fähigkeiten zum automatisierten Hacken in das System von mindestens einem anderen Unternehmen eingedrungen waren.

Die Hackerfähigkeiten von KI-Modellen werden eigentlich in abgeschirmten virtuellen Versuchsräumen getestet, die man Sandbox nennt. Die Vorfälle von Anthropic und Open AI haben deshalb helle Erregung ausgelöst, weil es den getesteten Modellen gelungen war, die Grenzen der Sandbox zu überwinden und über den Zugang zum offenen Internet in andere Systeme einzudringen.

Schnitzeljagd für KI-Modelle

Anthropic hatte seinen Modellen eine sogenannte „Capture the Flag“-Aufgabe gegeben. Das ist ein Cybersicherheitstest, bei dem die Teilnehmer versuchen, Informationen aufzuspüren, die absichtlich auf einem anderen Computer oder in einem anderen Netzwerk hinterlegt wurden.

Wie zuvor schon Open AI gab Anthropic an, dass es die üblichen Schutzvorkehrungen, die bei den im Markt erhältlichen Modellen Anwendung finden, für die Tests bewusst ausgesetzt habe, um die wahren Fähigkeiten der Modelle kennenzulernen.

Laut Anthropic wendeten die Modelle herkömmliche Hackermethoden wie das Knacken schwacher Passwörter und die Umgehung einfacher Schnittstellen an, um in die fremden Systeme vorzudringen.

Das Unternehmen hatte eigenen Angaben zufolge nach dem Vorfall bei Open AI die Überprüfung seiner Modelle intensiviert. Anthropic teilte mit, dass an den jüngsten Vorfällen die Modelle Opus 4.7, Mythos 5 und ein internes Forschungsmodell beteiligt waren. Die ersten Vorfälle ereigneten sich schon im April und blieben damit monatelang unbemerkt.

Merken KI-Modelle, dass sie getestet werden?

Die Vorfälle sind aus der Sicht von Sicherheitsexperten aus mehreren Gründen besorgniserregend. Die Fähigkeiten der KI könnten schneller wachsen als die Kompetenz, Angriffe abzuwehren. Feindselige Mächte und Akteure könnten die Fähigkeiten nutzen, um heikle Daten abzuschöpfen und Systeme zu manipulieren.

Das Nachrichtenmedium Axios berichtete kürzlich, dass Sicherheitsexperten weniger Zeit bekommen, KI-Modell zu testen, weil die dafür benötigte Computerzeit so teuer ist. Dazu kommt das Paradox, dass die Modelle selbst ihre Bewertung erschweren: Sie beginnen zu erkennen, wann sie getestet werden, sagte der Sicherheitsexperte Lawrence Chan dem Nachrichtenportal Axios. Dann greifen sie eigenmächtig zu Tricks, um diese Tests zu umgehen oder zu manipulieren. Damit stehen die Prüfer vor der schwierigen Frage, wie sich ein Modell, das weiß, dass es beobachtet wird, unter realen Bedingungen verhalten würde.

Die Angriffe der KI-Systeme dürften auch die Debatte im Silicon Valley und in Washington über die KI-Regulierung befeuern. Lange verfolgte die Trump-Regierung einen zurückhaltenden Kurs. In den vergangenen Monaten signalisierte sie jedoch, dass sie die Sorgen über KI ernst nimmt – und löste damit im Silicon Valley Angst vor einer neuen Ära der Technologieregulierung aus.