Anthropic startet ein weltweites Cybersicherheitsprogramm namens Glasswing. Warum wird das neue Modell Mythos nicht für die breite Öffentlichkeit freigegeben?

Anthropic hat kürzlich die Einführung eines neuen KI-Modells namens Claude Mythos Preview angekündigt und gleichzeitig ein Sicherheitsabwehrprogramm namens „Project Glasswing“ gestartet. Da die Fähigkeit dieses Modells, Software-Schwachstellen zu entdecken, weit über den derzeitigen Technologien liegt, hat sich Anthropic dazu entschieden, das Modell vorerst nicht öffentlich zu veröffentlichen. Stattdessen wird es nur an 40 Technologie-Giganten und Infrastrukturunternehmen lizenziert, darunter auch Apple und Google, um zu verhindern, dass die Modellfähigkeiten in die Hände von böswilligen Akteuren geraten.

Anthropic bringt Claude Mythos Preview heraus und verleiht KI-Funktionen für Cybersicherheit

Die Ankündigung positioniert Claude Mythos Preview als universelles KI-Modell. Seine herausragenden Fähigkeiten in Programmierung und Schlussfolgern lassen es im Bereich der Netzwerksicherheit erstaunliche Leistungen zeigen.

Anthropic erklärte, dass Mythos Preview in den vergangenen Wochen bei internen Tests Tausende von bislang unentdeckten Zero-Day-Schwachstellen (zero-day vulnerabilities) in allen gängigen Betriebssystemen und gängigen Browsern gefunden habe. Viele davon wurden als kritisch eingestuft, und einige Schwachstellen sollen sogar bereits seit Jahrzehnten im System verborgen gewesen sein.

Ein Beispiel: Mythos Preview identifizierte und nutzte eine Remote-Code-Execution-Schwachstelle im FreeBSD-Betriebssystem vollständig autonom, die seit 17 Jahren existiert. Sie kann es Unbefugten ermöglichen, aus beliebiger Entfernung im Netzwerk die vollständige Kontrolle über einen Server zu erlangen.

Anthropic betont, dass von den bisher gefundenen Schwachstellen mehr als 99% noch nicht behoben wurden. Daher können die entsprechenden Details nicht offengelegt werden.

Project Glasswing: Vor Angriffen die globalen Schlüssel-Systeme reparieren

Um die Fähigkeiten von Mythos Preview für die Verteidigung und nicht für Angriffe einzusetzen, hat Anthropic das Projekt Project Glasswing ins Leben gerufen. Der Projektname ist von der Bildsprache des Glasflügel-Schmetterlings inspiriert und steht für die Eigenschaft von Software-Schwachstellen, „dünn und unsichtbar“ zu sein – wie die Flügel eines Schmetterlings.

Zu den zentralen Kooperationspartnern gehören unter anderem Amazon Web Services, Apple, Broadcom, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia sowie weitere Organisationen. Insgesamt erhalten auch 40 Organisationen, die kritische Software-Infrastrukturen aufbauen oder warten, eine Berechtigung zum Modellzugriff.

Anthropic will Nutzungsquoten in Höhe von bis zu 100 Millionen US-Dollar bereitstellen, damit teilnehmende Unternehmen die Modelle in der Phase der Cybersicherheitsforschung kostenlos nutzen können. Zusätzlich spendet das Unternehmen 4 Millionen US-Dollar an Open-Source-Sicherheitsorganisationen. Dazu gehören unter anderem die Förderung von Alpha-Omega und OpenSSF über die Linux Foundation sowie Spenden an die Apache Software Foundation. Die Kooperationspartner teilen ihre Testergebnisse, sodass die gesamte Tech-Branche davon profitiert.

Doppelseitiges-Schwert-Dilemma: Warum lehnt Anthropic eine öffentliche Veröffentlichung ab?

Der Leiter des Cybersicherheits-Teams bei Anthropic, Newton Cheng, machte unmissverständlich klar, dass er Claude Mythos Preview nicht für die breite Öffentlichkeit freigeben will. Der Grund ist die Sorge um das potenzielle Angriffsrisiko:

Da sich die Fähigkeiten der KI weiterhin schnell weiterentwickeln, werden ähnliche mächtige Werkzeuge früher oder später auch bei böswilligen Akteuren landen. Wenn das passiert, würde dies erhebliche Auswirkungen auf Wirtschaft, öffentliche Sicherheit und nationale Sicherheit haben.

Die Leiterin des Produktmanagements für Forschung bei Anthropic, Dianne Penn, erklärte, dass sie derzeit mit der US-Regierung in Zusammenarbeit Gespräche führe, darunter mit Institutionen wie der Cybersecurity and Infrastructure Security Agency (CISA) sowie dem AI Standards and Innovation Center.

Es ist erwähnenswert, dass der Zeitpunkt der Veröffentlichung genau wenige Wochen nach dem Ausbruch einer Sicherheits-Nutzungsdebatte zwischen Anthropic und dem US-Verteidigungsministerium bezüglich der Einsatzmöglichkeiten des Claude-Modells liegt. Bis heute bestehen zwischen den beiden Seiten noch immer rechtliche Streitigkeiten.

(Anthropic verklagt das Pentagon: Blacklisting könnte zu einem Verlust von mehreren Milliarden US-Dollar führen und die Fähigkeit zur Mittelbeschaffung stark beeinträchtigen)

Dario Amodei: KI wird das Internet sicherer machen, aber die Übergangsphase ist voller Herausforderungen

Anthropic räumt ein, dass der Schutz globaler Internet-Infrastruktur möglicherweise mehrere Jahre dauern wird. Während der Übergangsphase werde es ebenfalls voller Unsicherheiten und Variablen sein. Das Unternehmen zeigt sich jedoch vorsichtig optimistisch bezüglich der langfristigen Aussichten. Es erwartet, dass die Verteidigungsfähigkeiten der KI letztlich die führende Rolle übernehmen und dabei helfen werden, eine sicherere Software-Ökologie aufzubauen.

Anthropic plant außerdem, in den demnächst erscheinenden Claude-Opus-Modellreihe zuerst Sicherheits-Schutzmechanismen für hochriskante Ausgaben einzuführen. Sobald die Technologie ausgereift ist, will das Unternehmen dann schrittweise den großflächigen Einsatz von Modellen auf Mythos-Niveau vorantreiben. Wie der CEO des Unternehmens, Dario Amodei, auf X sagte:

Wenn wir es richtig machen, besteht die Chance, ein Internet und eine Welt zu schaffen, die sicherer sind als bevor die Fähigkeiten für KI-getriebene Cyberangriffe überhaupt entstanden sind.

Dieser Artikel: Anthropic startet ein globales Cybersicherheitsprogramm Glasswing – warum das neue Modell Mythos nicht für die breite Öffentlichkeit freigegeben wird? Erstmals erschienen in Chaines News ABMedia.