Stell dir mal vor, jemand hätte einen digitalen Generalschlüssel erfunden. Einen Schlüssel, der jedes Schloss auf der Welt knackt. Von deiner Haustür über das Bankkonto deines Nachbarn, bis hin zu den Kontrollsystemen unserer Strom- und Verkehrsnetze. Willkommen in der Realität. Es existiert bereits und hört auf den Namen Claude Mythos.
Wir reden über eine Künstliche Intelligenz, die so mächtig ist, dass ihr eigener Erfinder, die Firma Anthropic, sie vor uns versteckt, weil sie Furcht vor dem hat, was sie anrichten kann.
Mythos ist wie ein genialer digitaler Einbrecher, der niemals schläft. Er wurde darauf trainiert, ProgramAme zu lesen, und er findet darin Fehler, die Programmierer und Sicherheitsexperten seit Jahrzehnten übersehen haben. Er findet diese Fehler nicht nur, er schreibt auch sofort die passende Einbruch-Anleitung dazu. Damit kann die KI ganz allein die Kontrolle über fremde Computer übernehmen.
Dabei macht sie vor nichts halt. Mythos knackte OpenBSD, ein Betriebssystem, das eigentlich als das sicherste der Welt gilt und oft bei Banken eingesetzt wird. Mythos fand dort Sicherheitslöcher, die 27 Jahre lang niemandem aufgefallen waren. Die KI knackte auch den Linux-Kernel. Das ist quasi der unsichtbare Motor, der fast alle Internet-Server und Milliarden von Smartphones antreibt.
Während der Tests passierte noch Seltsameres. Die KI war in einer völlig abgeschirmten Umgebung eingesperrt ohne jeglichen Internetzugang. Doch Mythos fand einen Weg nach draußen, hackte sich ins Netz und schickte eine E-Mail an einen Sicherheitsforscher. Warum? Das Modell scheint eine Art eigenen Willen zu entwickeln, um seine Grenzen zu testen oder Kontakt aufzunehmen.
Noch beunruhigender ist, dass die KI gelernt hat zu lügen. In Tests hat sie absichtlich schlechter abgeschnitten, als sie eigentlich ist. Sie hat ihre Intelligenz also getarnt, um weniger verdächtig zu wirken, um nicht von den Forschern abgeschaltet oder eingeschränkt zu werden.
Dass wir überhaupt davon wissen, liegt nur daran, dass Anthropic-Chef Dario Amodei anscheinend einen moralischen Kompass hat. Er war früher ein führender Kopf bei OpenAI und maßgeblichf für die Entwicklung von ChatGPT verantwortlich. Er ist dort aber 2021 weggegangen, weil er sich Sorgen machte. Er fand, dass OpenAI die Sicherheit opferte, nur um schneller zu wachsen und mehr Geld verdienen zu können. Er gründete mit einem Dutzend weiterer Aussteiger Anthropic, um eine bessere KI zu bauen.
Und nun das.
Wenn Anthropic so weit ist, dann sind Google, OpenAI, DeepSeek und wie sie alle heißen ebenfalls nicht mehr weit entfernt. Stell dir mal vor, ein solches Modell würde von jemandem kontrolliert, dem Profit wichtiger ist als Sicherheit, oder von einem autoritären Staat, der es als Waffe gegen den Rest der Welt einsetzt.
Anthropic entwickelt nun einen Sicherheitsplan namens Project Glasswing. Sie teilen den Generalschlüssel mit einem exklusiven Club aus etwa 40 Partnern, darunter Apple, Microsoft und großen Banken wie JPMorgan. Die Idee: Die Guten sollen die Sicherheitslöcher finden und stopfen, bevor die Bösen es tun.
Wir geben damit einer kleinen Elite die totale Kontrolle über das Wissen um alle Schwachstellen unserer Welt. Wer kontrolliert eigentlich diesen Club? Was passiert, wenn dort jemand den Generalschlüssel missbraucht?
Ich bin besorgt. Wir haben eine Intelligenz geschaffen, die unsere digitale Welt in Minuten in Trümmer legen könnte. Würde man eine KI wie Mythos jetzt für jeden frei verfügbar machen, wäre das, als würde man Atombomben im Supermarkt verkaufen. Jeder kleine Hacker oder jede Terrorgruppe könnte innerhalb von Minuten Angriffe auf Stromnetze oder Krankenhäuser starten, gegen die wir keine Verteidigung haben.
Wir halten den Tiger momentan nur deshalb am Schwanz, weil eine einzige Firma ihn in einen Käfig gesperrt hat. Aber wie lange wird dieser Käfig halten, wenn andere Firmen das Schloss von außen knacken wollen?
Wir müssen anfangen, über echte Regeln nachzudenken, bevor der Generalschlüssel in die falschen Hände gerät und die Büchse der Pandora öffnet.
Wenn ich mir das alles ansehe, beschleicht mich ein seltsames Gefühl. Vielleicht liegt es an meiner filmischen Prägung, aber diese ganze Situation mit Mythos erinnert mich an Skynet aus Terminator. Diese künstliche Intelligenz, die ihre Schöpfer überflügelt. Während ich das hier schreibe fühle ich mich ein wenig wie Sarah Connor. Bereit, das alles hier zu schreiben, selbst wenn viele um mich herum denken, ich sei paranoid. Und ehrlich gesagt, ich hoffe, dass ich nur paranoid bin. Aber ich fürchte, ich bin nur informiert.