Der Mythos um Mythos

 Eine Geschichte ist dann zu Ende gedacht, wenn sie ihre schlimmstmögliche Wendung genommen hat - Friedrich Dürrenmatt, Die Physiker

In den USA wird gerade (angeblich/wahrscheinlich) ein neues KI Modell zurückgehalten, weil es zu gefährlich für die Öffentlichkeit sein soll. Es handelt sich um das Mythos Modell von Antropic (dem Anbieter hinter den Claude LLMs). Anthropic wurde von ehemaligen Mitarbeitern von OpenAI gegründet, mit dem Ziel der Entwicklung von KI-Systemen, um ihre Sicherheitseigenschaften an der technologischen Grenze zu untersuchen. Die Claude Modelle haben sich relativ schnell zu den besten Modellen im Bereich Coding und logischem Verständnis entwickelt und Antrophic ist sehr gut dabei, Firmenkunden zu bedienen. Claude Code ist beispielsweise (imho) der beste Coding-Agent auf dem Markt.

Was ist Mythos?
Bei Mythos handelt es sich um ein unveröffentlichtes Frontier-Modell mit extrem starken Cybersecurity-Fähigkeiten, wie beispielsweise der Identifikation von kritischen Sicherheitslücken in Softwaresystemen. Sicherheitslücken sind hierbei Einfallstore für Hacker in Server oder andere Anwendungen. Hierbei kann es sich um triviale Software wie beispielsweise das System auf welchem ich diesen Blog deploye handeln, oder aber auch um wirklich kritische Infrastruktur, wie beispielsweise Banking, Unternehmensserver (Rüstung/Verteidigung, oder sämtliche andere Firmen), Kraftwerke und alles andere was man sich vorstellen kann. Da Mythos laut eigenen Angaben von Antrophic zu gut darin war, Sicherheitslücken zu identifizieren, hat man das Modell bewusst nicht veröffentlicht, sondern nur einer kleinen Anzahl von ausgewählten (US-)Firmen zur Verfügung gestellt.

Wie Mächtig ist Mythos wirklich?
Nun, hier scheiden sich die Geister am Ende, da wir nur auf Insiderberichte und Erfahrungen von Firmen, welche einen Vorabzugang haben vertrauen können. Laut Antrophic war Mythos bereits im Preview in der Lage mehrere tausend Sicherheitslücken zu finden, inklusive in allen gängigen Betriebssystemen (Windows, Linux, Mac) und Webbrowsern. Beispiele für den Linux Kernel wurden direkt mitgeliefert und Mozilla hat bereits 271 Sicherheitslücken dank Mythos geschlossen. Entsprechend scheint es zumindest keine leere Luftnummer zu sein, sondern eine ernsthafte Bedrohung.

Die wahre Bedrohung hinter Mythos (und vergleichbaren Modellen)
Antropic hat sich bewusst dafür entschieden, Mythos nicht zu veröffentlichen. Was aber passiert, wenn das nächste Mythos nicht bei Antropic (eine Firma welche KI Ethik durchaus ernst nimmt) entwickelt wird, sondern in China, im Iran oder aber auch bei westlichen Geheimdiensten - die Möglichkeiten und Angriffsvektoren mit solchen Modellen sind unbegrenzt. Oder mit anderen Worten - we are fucked.

Des Weiteren werden nicht mal mehr wirklich kluge Menschen zum Hacken am Ende benötigt, sondern im schlimmsten Fall kann jeder Volldepp mal eben einen Flughafen angreifen (noch einfacher als sich auf der Landebahn festzukleben 😉), andere Regierungen angreifen, unsere Infrastruktur lahmlegen, öffentliche Persönlichkeiten von einem auf den anderen Tag zerstören und vieles Weiteres. Die Korrelation zwischen intelligenten und gleichzeitig auch vernünftigen Menschen entfällt und wir schaffen eine Waffe, die eigentlich in die Hände keines Menschen, keiner Institution und auch keiner Maschine gehören sollte. Entsprechend muss jede Firma, die Dienstleistungen im Internet anbietet, eigentlich über ein vergleichbares Produkt verfügen, um sich abzusichern, womit der Wettlauf zwischen Hackern und Defendern auf ein völlig neues Level gehoben wird.

Alle Firmen sind gleich, aber manche haben Zugriff auf Mythos
Wenn wir das jetzt weiterdenken, bedeutet das eigentlich, dass nur noch Bigtech Firmen, oder Firmen, die sich gut mit Anbietern wie Antrophic (oder anderen Anbietern) langfristig Services im Internet anbieten können. Damit wird der Marktzugang für Herausforderer und Start-ups noch weiter verschärft, während die großen Bigtech Firmen ihre natürlichen Monopole weiter verteidigen. Die Einstiegshürden in die Welt der Software werden massiv hochgesetzt. Früher brauchte ein Start-Up ein paar kluge Köpfe, (Cloud-)Infrastruktur und ein Produkt. In Zukunft braucht es zusätzlich Zugang zu Modellen, die deine Software schneller auf Schwachstellen prüfen, als Angreifer sie ausnutzen können. Und wenn dieser Zugang teuer, exklusiv oder politisch kontrolliert ist, dann wird aus demokratisierter Softwareentwicklung ziemlich schnell wieder ein Club mit Türsteher.

Ist Kontrolle ein Mythos?
Entsprechenden Berichten zufolge hatte eine kleine Gruppe bereits im Voraus Zugriff über eine Drittanbieter-Umgebung. Ein kleiner Fehler, der uns aber bereits aufzeigt, wie fragil die Vorstellung ist, dass wir das Ganze wirklich dauerhaft kontrollieren können. Denn seien wir realistisch, ähnlich wie in die Physiker werden die Firmen die Modelle nicht Ewig zurückhalten können und früher oder später werden öffentliche, vergleichbare Modelle ihren Weg in die Öffentlichkeit finden - und ist der Geist erst einmal aus der Flasche - nun...

Mitspielen Europa!
Vielleicht kommen wir damit zu dem Punkt, der mir an der ganzen Diskussion fast am meisten Bauchschmerzen bereitet: Europa. Oder genauer gesagt: unsere fucking europäische Naivität gegenüber Technologien, die längst nicht mehr nur nette Spielereien sind, sondern geopolitische Machtinstrumente. Wir haben die Welle der Cloud Entwicklung verloren, wir verlieren schon wieder. Es ist komplett naiv zu glauben, man könne bei einer Technologie wie dieser einfach an der Seitenlinie stehen, ein paar Ethik-Kommissionen einberufen, noch drei Förderprogramme für vertrauenswürdige KI aufsetzen und sich ansonsten darauf verlassen, dass amerikanische Unternehmen, chinesische Forschungslabore oder wer auch immer das Ganze schon verantwortungsvoll regeln werden. Spoiler: Werden sie nicht! Nicht, weil alle böse sind, sondern weil Macht nun einmal selten dadurch begrenzt wird, dass diejenigen, die sie besitzen, irgendwann freiwillig sagen: Ach komm, reicht jetzt auch.

Gerade Mythos zeigt doch ziemlich deutlich, worum es künftig gehen wird. Wer solche Modelle besitzt, hat nicht nur ein besseres Tool für Cybersecurity, sondern besitzt einen strukturellen Vorteil im digitalen Raum. Wer solche Modelle nicht besitzt, bleibt abhängig. Abhängig vom Good Will anderer Staaten, anderer Firmen, anderer Interessen. Und auf Good Will kann man sich in der Weltpolitik ungefähr so gut verlassen wie auf den Datenschutz-Button bei einer dubiosen Cookie-Wall. Natürlich kann man hoffen, dass irgendwer das Richtige tut, man kann aber auch hoffen, dass der nächste Diktator freiwillig auf Macht verzichtet, weil er morgens Kant gelesen hat (einer Hoffnung, der Europa ja anscheinend wirklich anhängt, blicken wir nur mal auf die europäische Iranpolitik). Beides ist theoretisch möglich, aber strategisch einfach nur dämlich...

Der eigentliche Mythos
Vielleicht ist genau das der eigentliche Mythos um Mythos: Nicht das Modell selbst. Nicht die Frage, ob es wirklich so mächtig ist, wie Insiderberichte und erste Beispiele nahelegen. Sondern die Vorstellung, dass wir diese Entwicklung dauerhaft kontrollieren können, ohne selbst technologisch mitzuspielen. Dass man gefährliches Wissen einfach einsperren kann. Ich empfehle einen Blick in das Ende von die Physiker! Dürrenmatt hätte vermutlich leise gelacht. Oder sehr laut.

Mythos zeigt uns im Kleinen, was bei künstlicher Intelligenz im Großen auf uns zukommt: Sobald Systeme Fähigkeiten erreichen, die nicht mehr nur produktiver, sondern strategisch überlegen machen, verändert sich die gesamte Machtarchitektur. Digitale Sicherheit, wirtschaftliche Wettbewerbsfähigkeit, staatliche Souveränität und gesellschaftliche Stabilität hängen dann nicht mehr nur davon ab, wer die besten Produkte baut, sondern wer Zugang zu den mächtigsten Modellen hat.

Mythos ist nicht deshalb gefährlich, weil es Sicherheitslücken findet. Mythos ist gefährlich, weil es zeigt, dass digitale Sicherheit künftig selbst von KI-Zugang, Rechenleistung, Kapital und geopolitischer Nähe abhängen wird - und we`re just fucked in Europe...

Nun, im nächsten Artikel werden wir uns mit der Frage, wie man KI Systeme klassifizieren kann beschäftigen und was sich eigentlich hinter dieser Singularität versteckt.