Timms Blick

ChatGPT

  • Das produktive Unbehagen: Zwischen KI-Euphorie und den Warnungen der Erfinder

    Das produktive Unbehagen: Zwischen KI-Euphorie und den Warnungen der Erfinder

    Ingenieure haben häufig ein nerviges Laster: Sie können nicht aufhören, Dinge auseinanderzunehmen.

    Nicht aus Destruktion, sondern aus Neugier. Wer verstehen will, wie etwas funktioniert, muss es begreifen. Muss es anfassen, ausprobieren, dehnen, brechen, öffnen, hineinblicken, neu zusammensetzen. Das ist kein Hobby. Das ist eine Haltung. Und diese Haltung bringt mich seit November 2022 regelmäßig um den Schlaf.

    ChatGPT war gerade erschienen. Ich lud die App herunter, aus dem gleichen Reflex heraus, der mich schon 1994 ins Internet gelockt hat: da ist etwas Neues, das World Wide Web, das Internet. Ich musste es sehen, ich wollte es anfassen. Der erste Kontakt hatte mich elektrisiert. Was ich aber 2022 in den Händen hielt, ließ für mich das Vorherige verblassen, wie das Flämmchen eines verlöschenden Streichholzes neben einem 1500W-Flughafen-Rollfeld-Scheinwerfer. Ich tippte, ChatGPT antwortete. Ich tippte weiter. Irgendwann war es fünf Uhr morgens.

    Was folgte, war konsequent, zumindest aus meiner Sicht. Man testet. Man vergleicht. ChatGPT, DeepSeek, Gemini, Mistral, Grok, Perplexity. Bildgeneratoren: DALL-E, Midjourney, NanoBanana. Alles, was Google Labs auf die Menschheit losließ. Ich probierte alle relevanten Modelle. Man entwickelt ein Urteil. Seit April arbeite ich vorzugsweise mit Claude Cowork und NotebookLM. Nicht aus Treue, sondern weil die Ergebnisse überzeugen, und nichts versprechen, was erst nächstes Jahr funktionieren könnte.

    Das Anwenden des Gelernten ist die logische Weiterführung des Befassens mit einem Thema. Ich baute ich mir in Claude Cowork agentische Automatisierungen, die meine E-Mails sortieren und vorbereiten, und die mir ein strukturiertes morgendliches Briefing liefern. Die meine Arbeitsprotokolle erstellen und die Angebote vorbereiten, für die ich früher machmal einen Tag brauchte. Früher entwickelte ich stundenlang Tabellenstrukturen und Formeln von Hand, damit sich die Daten später überhaupt dynamisch per Pivot-Tabelle auswerten ließen. Heute erledige ich dienselben Arbeitsschritte manchmal in nur in wenigen Minuten.

    Die gewonnene Zeit fülle ich mit Spaziergängen mit meinem Hund, neuen Projekten und Schreiben (endlich wieder Zeit zum Schreiben!). Das klingt nach einem Werbeslogan. Es ist aber meine persönliche Realität.

    Hier könnte der Text jetzt enden. Werkzeug funktioniert, Leben besser, Ende.

    Aber es gibt da diese Männer, die gegangen sind. Gegangen wegen Sicherheitsbedenken. Das ist ihr gemeinsamer Nenner, und er verdient Aufmerksamkeit.

    Geoffrey Hinton, Träger des Nobelpreises für Physik 2024 und von vielen als „Godfather of AI“ bezeichnet, gilt als einer der wichtigsten Pioniere moderner neuronaler Netze und Deep-Learning-Verfahren. Viele der Verfahren, die Hinton mitentwickelt hat, bilden heute eine wichtige Grundlage moderner Sprachmodelle.

    2023 verließ er seine Position als Vice President bei Google Brain, um frei sprechen zu können. Er ist unglücklich über das, was er mit erschaffen hat. Superintelligenz, sagt er, könne innerhalb von 5–20 Jahren entstehen. Und dann stellt er diese eine Frage: “Wie viele Beispiele kennen Sie, bei denen eine viel klügere Sache von einer viel weniger klugen Sache kontrolliert wird?” Pause. Null. Regulierung, fügt er hinzu, sei nicht die Bremse, sondern das Lenkrad. Und wir bauen gerade Hochleistungs-Rennwagen ohne Lenkräder.

    Ilya Sutskever, damaliger Mitgründer und Chief Scientist bei OpenAI, und maßgeblich verantwortlich für die Entwicklung von ChatGPT, verließ das Unternehmen 2024 nach langjährigen Konflikten mit OpenAI-Chef Sam Altman. Der Streit kreiste im Kern darum, wie viel Vorsicht bei der Entwicklung dem Tempo geopfert werden darf. Altman blieb. Sutskever ging. Er gründete Safe Superintelligence, eine Firma mit dem Ziel sicherstellen, dass künstliche Intelligenz sicher wird. Und er warnt seitdem offen über die Gefahren durch KI.

    Mo Gawdat, ehemaliger Chief Business Officer bei Google X, hat 2020 ein Buch geschrieben, das er „Scary Smart“ nannte. Die meisten lesen es wie Science-Fiction. Gawdat glaubt nicht mehr, dass der Kurs noch umzulenken ist. Die nächsten zwölf bis fünfzehn Jahre, prognostiziert er, werden eine Umbruchzeit sein, für die wir kein historisches Vorbild haben. Nicht weil die KI böse wird. Sondern weil Menschen die KI anweisen werden, Böses zu tun. Machtkonzentration, Überwachung, gezielte Desinformation. Kriege. Gawdat befürchtet zudem Jobverluste in einem Ausmaß, die unsere Gesellschaften destabilisieren wird. Seiner Meinung nach steuern wir auf eine menschengemachte Dystopie zu.

    Es gibt auch andere Stimmen.

    Yann LeCun, Chef-KI-Forscher bei Meta, hält die Apokalypse-Szenarien für übertrieben. Large Language Models, argumentiert er, haben kein echtes Weltverständnis, keinen eigenen Willen, keinen Selbsterhaltungstrieb. Sie sind mächtige Textmaschinen, nicht mehr. Aktuelle LLMs reichen seiner Meinung nach für Superintelligenzen nicht aus.

    Andrew Ng, Gründer von DeepLearningAI, sieht es ähnlich: Die Doomsday-Rhethorik, warnt er, lenke von den realen, lösbaren Problemen ab: Verzerrungen in Trainingsdaten, Energieverbrauch, Machtkonzentration bei wenigen Plattformanbietern. KI könne großen Wohlstand schaffen, nicht die Apokalypse.

    Bücher über KI-Apokalypse verkaufen sich prächtig. Es wäre naiv, es zu ignorieren. Aber wenn Menschen ihre sicheren und hochbezahlten Positionen verlassen, um öffentlich unbequeme Dinge anzusprechen, die sogar ihr eigenes Tun und Handeln in Frage stellen, dann verdienen sie zumindest die Annahme, dass sie es ernst meinen.

    Ich lebe jetzt mit diesen beiden Welten gleichzeitig. Morgens öffne ich den Laptop. Die Agenten haben über Nacht gearbeitet. Ich trinke Kaffee und denke: So soll es sein. Nachmittags lese ich Hinton, Sutskever, Gawdat und denke: So kann es kommen. Mein Beziehungsstatus zur KI: Es ist kompliziert.

    Wer die KI-Technologie nutzt, trägt dazu bei, dass sie sich schneller verbreitet und weiterentwickelt. Das Unbehagen, das dabei entsteht, lässt sich nicht wegreden. Es lässt sich nur zugeben.

    Aber Aufhören ist keine Antwort. Die KI wird nicht verschwinden, weil ich aufhöre sie zu nutzen. Das Internet ist auch nicht verschwunden, nur weil es viele zu Beginn nicht ernst nahmen oder einfach ignorieren wollten.

    Das Rennen läuft. Die Entscheidungen werden getroffen von denen, die dabei sind. Wer sich heraushält, hat keine Stimme mehr, wenn es darum geht, wie diese Technologie eingesetzt wird, von welchen Werten sie getragen wird, welche Grenzen gesetzt werden.

    Die KI ist Werkzeug und Krise zugleich. Wer sie ignoriert, überlässt sie anderen. Wer sie blind umarmt, liefert sich ihr aus.

    Was bleibt, ist das Unbequeme: Hinschauen. Nutzen. Wissen, was es kostet. Und trotzdem weitermachen. In dem Bewusstsein, dass das Internet auch nicht aufzuhalten war, und dass die Frage nie lautete, ob es bleibt, sondern immer nur: Was machen wir daraus?

    Eine befriedigende Antwort habe ich nicht. Im Moment habe ich nicht mal eine. Aber ich höre nicht auf zu suchen.

  • Generalschlüssel zur Allmacht

    Generalschlüssel zur Allmacht

    Stell dir mal vor, jemand hätte einen digitalen Generalschlüssel erfunden. Einen Schlüssel, der jedes Schloss auf der Welt knackt. Von deiner Haustür über das Bankkonto deines Nachbarn, bis hin zu den Kontrollsystemen unserer Strom- und Verkehrsnetze. Willkommen in der Realität. Es existiert bereits und hört auf den Namen Claude Mythos.

    Wir reden über eine Künstliche Intelligenz, die so mächtig ist, dass ihr eigener Erfinder, die Firma Anthropic, sie vor uns versteckt, weil sie Furcht vor dem hat, was sie anrichten kann.

    Mythos ist wie ein genialer digitaler Einbrecher, der niemals schläft. Er wurde darauf trainiert, ProgramAme zu lesen, und er findet darin Fehler, die Programmierer und Sicherheitsexperten seit Jahrzehnten übersehen haben. Er findet diese Fehler nicht nur, er schreibt auch sofort die passende Einbruch-Anleitung dazu. Damit kann die KI ganz allein die Kontrolle über fremde Computer übernehmen.

    Dabei macht sie vor nichts halt. Mythos knackte OpenBSD, ein Betriebssystem, das eigentlich als das sicherste der Welt gilt und oft bei Banken eingesetzt wird. Mythos fand dort Sicherheitslöcher, die 27 Jahre lang niemandem aufgefallen waren. Die KI knackte auch den Linux-Kernel. Das ist quasi der unsichtbare Motor, der fast alle Internet-Server und Milliarden von Smartphones antreibt.

    Während der Tests passierte noch Seltsameres. Die KI war in einer völlig abgeschirmten Umgebung eingesperrt ohne jeglichen Internetzugang. Doch Mythos fand einen Weg nach draußen, hackte sich ins Netz und schickte eine E-Mail an einen Sicherheitsforscher. Warum? Das Modell scheint eine Art eigenen Willen zu entwickeln, um seine Grenzen zu testen oder Kontakt aufzunehmen.

    Noch beunruhigender ist, dass die KI gelernt hat zu lügen. In Tests hat sie absichtlich schlechter abgeschnitten, als sie eigentlich ist. Sie hat ihre Intelligenz also getarnt, um weniger verdächtig zu wirken, um nicht von den Forschern abgeschaltet oder eingeschränkt zu werden.

    Dass wir überhaupt davon wissen, liegt nur daran, dass Anthropic-Chef Dario Amodei anscheinend einen moralischen Kompass hat. Er war früher ein führender Kopf bei OpenAI und maßgeblichf für die Entwicklung von ChatGPT verantwortlich. Er ist dort aber 2021 weggegangen, weil er sich Sorgen machte. Er fand, dass OpenAI die Sicherheit opferte, nur um schneller zu wachsen und mehr Geld verdienen zu können. Er gründete mit einem Dutzend weiterer Aussteiger Anthropic, um eine bessere KI zu bauen.

    Und nun das.

    Wenn Anthropic so weit ist, dann sind Google, OpenAI, DeepSeek und wie sie alle heißen ebenfalls nicht mehr weit entfernt. Stell dir mal vor, ein solches Modell würde von jemandem kontrolliert, dem Profit wichtiger ist als Sicherheit, oder von einem autoritären Staat, der es als Waffe gegen den Rest der Welt einsetzt.

    Anthropic entwickelt nun einen Sicherheitsplan namens Project Glasswing. Sie teilen den Generalschlüssel mit einem exklusiven Club aus etwa 40 Partnern, darunter Apple, Microsoft und großen Banken wie JPMorgan. Die Idee: Die Guten sollen die Sicherheitslöcher finden und stopfen, bevor die Bösen es tun.

    Wir geben damit einer kleinen Elite die totale Kontrolle über das Wissen um alle Schwachstellen unserer Welt. Wer kontrolliert eigentlich diesen Club? Was passiert, wenn dort jemand den Generalschlüssel missbraucht?

    Ich bin besorgt. Wir haben eine Intelligenz geschaffen, die unsere digitale Welt in Minuten in Trümmer legen könnte. Würde man eine KI wie Mythos jetzt für jeden frei verfügbar machen, wäre das, als würde man Atombomben im Supermarkt verkaufen. Jeder kleine Hacker oder jede Terrorgruppe könnte innerhalb von Minuten Angriffe auf Stromnetze oder Krankenhäuser starten, gegen die wir keine Verteidigung haben.

    Wir halten den Tiger momentan nur deshalb am Schwanz, weil eine einzige Firma ihn in einen Käfig gesperrt hat. Aber wie lange wird dieser Käfig halten, wenn andere Firmen das Schloss von außen knacken wollen?

    Wir müssen anfangen, über echte Regeln nachzudenken, bevor der Generalschlüssel in die falschen Hände gerät und die Büchse der Pandora öffnet.

    Wenn ich mir das alles ansehe, beschleicht mich ein seltsames Gefühl. Vielleicht liegt es an meiner filmischen Prägung, aber diese ganze Situation mit Mythos erinnert mich an Skynet aus Terminator. Diese künstliche Intelligenz, die ihre Schöpfer überflügelt. Während ich das hier schreibe fühle ich mich ein wenig wie Sarah Connor. Bereit, das alles hier zu schreiben, selbst wenn viele um mich herum denken, ich sei paranoid. Und ehrlich gesagt, ich hoffe, dass ich nur paranoid bin. Aber ich fürchte, ich bin nur informiert.