Timms Blick

KI

  • Das produktive Unbehagen: Zwischen KI-Euphorie und den Warnungen der Erfinder

    Das produktive Unbehagen: Zwischen KI-Euphorie und den Warnungen der Erfinder

    Ingenieure haben häufig ein nerviges Laster: Sie können nicht aufhören, Dinge auseinanderzunehmen.

    Nicht aus Destruktion, sondern aus Neugier. Wer verstehen will, wie etwas funktioniert, muss es begreifen. Muss es anfassen, ausprobieren, dehnen, brechen, öffnen, hineinblicken, neu zusammensetzen. Das ist kein Hobby. Das ist eine Haltung. Und diese Haltung bringt mich seit November 2022 regelmäßig um den Schlaf.

    ChatGPT war gerade erschienen. Ich lud die App herunter, aus dem gleichen Reflex heraus, der mich schon 1994 ins Internet gelockt hat: da ist etwas Neues, das World Wide Web, das Internet. Ich musste es sehen, ich wollte es anfassen. Der erste Kontakt hatte mich elektrisiert. Was ich aber 2022 in den Händen hielt, ließ für mich das Vorherige verblassen, wie das Flämmchen eines verlöschenden Streichholzes neben einem 1500W-Flughafen-Rollfeld-Scheinwerfer. Ich tippte, ChatGPT antwortete. Ich tippte weiter. Irgendwann war es fünf Uhr morgens.

    Was folgte, war konsequent, zumindest aus meiner Sicht. Man testet. Man vergleicht. ChatGPT, DeepSeek, Gemini, Mistral, Grok, Perplexity. Bildgeneratoren: DALL-E, Midjourney, NanoBanana. Alles, was Google Labs auf die Menschheit losließ. Ich probierte alle relevanten Modelle. Man entwickelt ein Urteil. Seit April arbeite ich vorzugsweise mit Claude Cowork und NotebookLM. Nicht aus Treue, sondern weil die Ergebnisse überzeugen, und nichts versprechen, was erst nächstes Jahr funktionieren könnte.

    Das Anwenden des Gelernten ist die logische Weiterführung des Befassens mit einem Thema. Ich baute ich mir in Claude Cowork agentische Automatisierungen, die meine E-Mails sortieren und vorbereiten, und die mir ein strukturiertes morgendliches Briefing liefern. Die meine Arbeitsprotokolle erstellen und die Angebote vorbereiten, für die ich früher machmal einen Tag brauchte. Früher entwickelte ich stundenlang Tabellenstrukturen und Formeln von Hand, damit sich die Daten später überhaupt dynamisch per Pivot-Tabelle auswerten ließen. Heute erledige ich dienselben Arbeitsschritte manchmal in nur in wenigen Minuten.

    Die gewonnene Zeit fülle ich mit Spaziergängen mit meinem Hund, neuen Projekten und Schreiben (endlich wieder Zeit zum Schreiben!). Das klingt nach einem Werbeslogan. Es ist aber meine persönliche Realität.

    Hier könnte der Text jetzt enden. Werkzeug funktioniert, Leben besser, Ende.

    Aber es gibt da diese Männer, die gegangen sind. Gegangen wegen Sicherheitsbedenken. Das ist ihr gemeinsamer Nenner, und er verdient Aufmerksamkeit.

    Geoffrey Hinton, Träger des Nobelpreises für Physik 2024 und von vielen als „Godfather of AI“ bezeichnet, gilt als einer der wichtigsten Pioniere moderner neuronaler Netze und Deep-Learning-Verfahren. Viele der Verfahren, die Hinton mitentwickelt hat, bilden heute eine wichtige Grundlage moderner Sprachmodelle.

    2023 verließ er seine Position als Vice President bei Google Brain, um frei sprechen zu können. Er ist unglücklich über das, was er mit erschaffen hat. Superintelligenz, sagt er, könne innerhalb von 5–20 Jahren entstehen. Und dann stellt er diese eine Frage: “Wie viele Beispiele kennen Sie, bei denen eine viel klügere Sache von einer viel weniger klugen Sache kontrolliert wird?” Pause. Null. Regulierung, fügt er hinzu, sei nicht die Bremse, sondern das Lenkrad. Und wir bauen gerade Hochleistungs-Rennwagen ohne Lenkräder.

    Ilya Sutskever, damaliger Mitgründer und Chief Scientist bei OpenAI, und maßgeblich verantwortlich für die Entwicklung von ChatGPT, verließ das Unternehmen 2024 nach langjährigen Konflikten mit OpenAI-Chef Sam Altman. Der Streit kreiste im Kern darum, wie viel Vorsicht bei der Entwicklung dem Tempo geopfert werden darf. Altman blieb. Sutskever ging. Er gründete Safe Superintelligence, eine Firma mit dem Ziel sicherstellen, dass künstliche Intelligenz sicher wird. Und er warnt seitdem offen über die Gefahren durch KI.

    Mo Gawdat, ehemaliger Chief Business Officer bei Google X, hat 2020 ein Buch geschrieben, das er „Scary Smart“ nannte. Die meisten lesen es wie Science-Fiction. Gawdat glaubt nicht mehr, dass der Kurs noch umzulenken ist. Die nächsten zwölf bis fünfzehn Jahre, prognostiziert er, werden eine Umbruchzeit sein, für die wir kein historisches Vorbild haben. Nicht weil die KI böse wird. Sondern weil Menschen die KI anweisen werden, Böses zu tun. Machtkonzentration, Überwachung, gezielte Desinformation. Kriege. Gawdat befürchtet zudem Jobverluste in einem Ausmaß, die unsere Gesellschaften destabilisieren wird. Seiner Meinung nach steuern wir auf eine menschengemachte Dystopie zu.

    Es gibt auch andere Stimmen.

    Yann LeCun, Chef-KI-Forscher bei Meta, hält die Apokalypse-Szenarien für übertrieben. Large Language Models, argumentiert er, haben kein echtes Weltverständnis, keinen eigenen Willen, keinen Selbsterhaltungstrieb. Sie sind mächtige Textmaschinen, nicht mehr. Aktuelle LLMs reichen seiner Meinung nach für Superintelligenzen nicht aus.

    Andrew Ng, Gründer von DeepLearningAI, sieht es ähnlich: Die Doomsday-Rhethorik, warnt er, lenke von den realen, lösbaren Problemen ab: Verzerrungen in Trainingsdaten, Energieverbrauch, Machtkonzentration bei wenigen Plattformanbietern. KI könne großen Wohlstand schaffen, nicht die Apokalypse.

    Bücher über KI-Apokalypse verkaufen sich prächtig. Es wäre naiv, es zu ignorieren. Aber wenn Menschen ihre sicheren und hochbezahlten Positionen verlassen, um öffentlich unbequeme Dinge anzusprechen, die sogar ihr eigenes Tun und Handeln in Frage stellen, dann verdienen sie zumindest die Annahme, dass sie es ernst meinen.

    Ich lebe jetzt mit diesen beiden Welten gleichzeitig. Morgens öffne ich den Laptop. Die Agenten haben über Nacht gearbeitet. Ich trinke Kaffee und denke: So soll es sein. Nachmittags lese ich Hinton, Sutskever, Gawdat und denke: So kann es kommen. Mein Beziehungsstatus zur KI: Es ist kompliziert.

    Wer die KI-Technologie nutzt, trägt dazu bei, dass sie sich schneller verbreitet und weiterentwickelt. Das Unbehagen, das dabei entsteht, lässt sich nicht wegreden. Es lässt sich nur zugeben.

    Aber Aufhören ist keine Antwort. Die KI wird nicht verschwinden, weil ich aufhöre sie zu nutzen. Das Internet ist auch nicht verschwunden, nur weil es viele zu Beginn nicht ernst nahmen oder einfach ignorieren wollten.

    Das Rennen läuft. Die Entscheidungen werden getroffen von denen, die dabei sind. Wer sich heraushält, hat keine Stimme mehr, wenn es darum geht, wie diese Technologie eingesetzt wird, von welchen Werten sie getragen wird, welche Grenzen gesetzt werden.

    Die KI ist Werkzeug und Krise zugleich. Wer sie ignoriert, überlässt sie anderen. Wer sie blind umarmt, liefert sich ihr aus.

    Was bleibt, ist das Unbequeme: Hinschauen. Nutzen. Wissen, was es kostet. Und trotzdem weitermachen. In dem Bewusstsein, dass das Internet auch nicht aufzuhalten war, und dass die Frage nie lautete, ob es bleibt, sondern immer nur: Was machen wir daraus?

    Eine befriedigende Antwort habe ich nicht. Im Moment habe ich nicht mal eine. Aber ich höre nicht auf zu suchen.

  • 94 Prozent

    94 Prozent

    Stellen Sie sich vor, Sie heißen Stefan. Stefan ist ein guter Name. Solide. Mitteleuropäisch. Klingt nach jemandem, der pünktlich ist und Werkzeug besitzt, das er auch benutzt.

    Stefan arbeitet. Stefan hat immer gearbeitet. Stefan kennt nichts anderes, und das war lange kein Problem, sondern eine Tugend. Die Gesellschaft liebt Menschen, die nichts anderes kennen. Sie nennt sie verlässlich. Fleißig. Das Rückgrat der Nation. Als wäre die Nation ein Körper, der Stefan braucht, um aufrecht zu stehen.

    Jetzt bekommt die Nation ein Exoskelett. Aus Silizium. Und Stefan fragt sich, was man mit einem Rückgrat macht, das niemand mehr braucht.

    Die Chefs der größten KI Unternehmen der Welt haben gewarnt. Das ist bemerkenswert. Normalerweise warnen Leute vor dem, was andere tun. Diese Leute warnen vor dem, was sie selbst tun.

    Sam Altman sagt: Die Gesellschaft ist nicht vorbereitet.

    Dario Amodei sagt: Es kommt ein Tsunami.

    Währenddessen streiten die Ökonomen über Szenarien.

    Szenario eins: Alles wird gut.

    Szenario zwei: Es wird schwierig, aber dann wird es gut.

    Szenario drei: Es wird sehr schwierig, bevor es gut wird.

    Szenario vier: Jemand muss die Frage stellen, wem das Gute dann gehört.

    Szenario vier wird meist übersprungen.

    Es gibt eine Zahl, die mich gerade nicht loslässt.

    94.

    94% aller kognitiven Arbeit ist theoretisch automatisierbar. Das haben Forscher ausgerechnet. Mit Methoden, die ich nicht vollständig verstehe, und Modellen, die ich nicht vollständig überprüfen kann.

    Aber die Zahl steht da. 94 Prozent. Ich habe versucht, mir das vorzustellen. 94 Prozent. Was ist das?

    Das ist fast alles. Das ist der Buchhalter und der Anwalt und der Texter und der Radiologe und der Sachbearbeiter und der Übersetzer und der Journalist und der Programmierer und der Unternehmensberater und der…….

    Ich höre auf. Die Liste macht traurig. Oder sie macht wütend. Oder beides gleichzeitig, was das Anstrengendste ist.

    6 Prozent bleiben. Ich frage mich, wer in diesen 6 Prozent steckt. Und ob ich dazugehöre. Und ob es ethisch ist, das zu hoffen.

    Meine Familie kommt aus einem Land, das es nicht mehr gibt. Das klingt dramatisch. Es ist dramatisch. Jugoslawien hieß es. Es hatte guten Schnaps und schlechte Witze und Menschen, die morgens aufstanden und zur Arbeit gingen und abends zurückkamen und dachten, das bleibt so.

    Blieb es nicht.

    Ich sage das nicht, um zu klagen. Ich sage das, weil ich weiß, was es bedeutet, wenn eine Welt, die verlässlich schien, plötzlich aufhört, verlässlich zu sein. Wenn das Fundament, auf dem man stand, vollkommen erodiert. Die meisten Menschen glauben, das passiert nur in Kriegen. In Katastrophen. In Revolutionen mit Barrikaden und Fahnen.

    Falsch.

    Es passiert auch in Quartalszahlen. In Stellenanzeigen, die plötzlich ausbleiben. In Sätzen wie: „Wir müssen die Struktur anpassen.“ In dem Moment, wenn Stefan merkt, dass seine Stelle nicht nachbesetzt wird. Dass er zwar nicht entlassen wird. Aber dass man einfach wartet, bis er von selbst geht. Das ist auch eine Revolution. Nur ohne Fahnen.

    Meine jugoslawische Großmutter hat nie in einem Büro gearbeitet. Sie hat Felder bestellt, Wasser getragen, Kinder großgezogen, Ziegen gemolken, Brot gebacken, Wunden verbunden, Tote betrauert und trotzdem am nächsten Morgen das Feuer angezündet.

    Keine dieser Tätigkeiten wurde je in einem Arbeitsvertrag festgehalten. Keine wurde je mit Sozialversicherungsbeiträgen belegt. Keine wurde je als „produktiv“ im wirtschaftlichen Sinne gezählt.

    Und doch: Ohne sie wäre nichts gewesen. Kein Dorf. Keine Familie. Kein Ich, das jetzt diesen Text schreibt und aus dem Fenster schaut.

    Ich frage mich manchmal, was die KI über meine Großmutter denkt. Wahrscheinlich nichts. Denn Baba hat keine Daten für sie hinterlassen. Sie existiert in keinem Trainingsdatensatz. Sie ist für die Maschine, als wäre sie nie gewesen.

    Lassen Sie mich ehrlich sein. Ich benutze KI. Täglich. Sie hilft mir, Sätze zu überprüfen, Ideen zu sortieren, Dinge nachzuschlagen, die ich vergessen habe oder nie gewusst habe. Sie ist nützlich. Sie ist manchmal sogar klug.

    Aber die KI hat noch nie aus dem Fenster geschaut und sich gefragt, was das alles soll.

    Das tue nur ich.

    Die Maschinen werden vieles übernehmen. Wahrscheinlich das meiste. Alles, was sich in Aufgaben zerlegen lässt, in Schritte, in Prozesse, in wiederholbare Muster.

    Was sie nicht übernehmen können – und ich sage das ohne Romantik, ohne Nostalgie, ohne falschen Trost – ist das Staunen. Die Trauer. Die Freude, die sich nicht erklären lässt. Das Gespräch, das nirgendwohin führt und genau deshalb alles bedeutet.

    Das ist kein Argument gegen die Maschine. Das ist ein Argument für den Menschen. Denn der Mensch ist nicht die Summe seiner Tätigkeiten. Er ist das Wesen, das mittendrin aufhört und fragt:

    Warum eigentlich?

    Machen wir eine Übung. Schreiben Sie auf, was Sie heute gemacht haben. Jeden Schritt. Jede Aufgabe. Jeden Satz, den Sie getippt, jedes Formular, das Sie ausgefüllt, jedes Meeting, in dem Sie gesessen haben. Streichen Sie jetzt alles, was eine KI auch kann.

    Was bleibt?

    Ich habe diese Übung gemacht. Für mich. Was blieb:

    Das Gespräch mit meiner Tochter über irgendeinen Unsinn, den sie heute erlebt hat. Das Lachen darüber. Das warme Gefühl, das danach noch eine Weile blieb.

    Ein Kartenspiel mit der Familie. UNO. Wir spielen es seit Jahren und kennen die Regeln immer noch nicht. Wir erfinden sie während des Spiels. Jedes Mal neu. Jedes Mal anders. Jeder betrügt ein bisschen. Niemand gibt es zu. Alle lachen. Keine KI der Welt würde diese Runde gewinnen können. Sie wäre zu beschäftigt damit, die richtigen Regeln zu ermitteln.

    Und mein Hund. Er wartet auf den Ball. Er wartet auf nichts anderes. In diesem Moment, wenn der Ball fliegt, gibt es für ihn kein Gestern und kein Morgen und keine 94 Prozent und keine Quartalszahlen. Nur den Ball. Ich beneide ihn nicht. Ich lerne von ihm.

    Ich habe Freunde gefragt, was sie machen würden, wenn sie nicht arbeiten müssten.

    Maria, Lehrerin: „Endlich lesen. Richtig lesen. Nicht zwischen zwei Korrekturen.“

    Agata, Buchhalterin: „Keine Ahnung. Das macht mir Angst, dass ich keine Ahnung habe.“

    Mein Vater, Rentner seit drei Jahrzehnten: „Ich vermisse die Arbeit. Sag das niemandem.“

    Ich sage es allen.

    Stefan steht auch diesen Morgen wieder auf. Er macht Kaffee. Nicht weil er muss. Sondern weil der Kaffee gut riecht und weil der Morgen noch still ist, und er in dieser Stille für einen Moment vergessen kann, was draußen wartet. Dann geht er. Zur Arbeit oder zu dem, was davon übrig ist.

    Unterwegs sieht er andere Stefans. Auf dem Fahrrad. An der Bushaltestelle. Vor dem Werkstor. Sie nicken sich zu. Kein Wort. Nur dieses kleine Nicken, das bedeutet: Ich sehe dich. Du bist da. Das zählt.

    Kein Algorithmus der Welt versteht dieses Nicken.

    Kein Modell kann es trainieren.

    Es ist zu klein.

    Zu stumm.

    Zu menschlich.

  • Generalschlüssel zur Allmacht

    Generalschlüssel zur Allmacht

    Stell dir mal vor, jemand hätte einen digitalen Generalschlüssel erfunden. Einen Schlüssel, der jedes Schloss auf der Welt knackt. Von deiner Haustür über das Bankkonto deines Nachbarn, bis hin zu den Kontrollsystemen unserer Strom- und Verkehrsnetze. Willkommen in der Realität. Es existiert bereits und hört auf den Namen Claude Mythos.

    Wir reden über eine Künstliche Intelligenz, die so mächtig ist, dass ihr eigener Erfinder, die Firma Anthropic, sie vor uns versteckt, weil sie Furcht vor dem hat, was sie anrichten kann.

    Mythos ist wie ein genialer digitaler Einbrecher, der niemals schläft. Er wurde darauf trainiert, ProgramAme zu lesen, und er findet darin Fehler, die Programmierer und Sicherheitsexperten seit Jahrzehnten übersehen haben. Er findet diese Fehler nicht nur, er schreibt auch sofort die passende Einbruch-Anleitung dazu. Damit kann die KI ganz allein die Kontrolle über fremde Computer übernehmen.

    Dabei macht sie vor nichts halt. Mythos knackte OpenBSD, ein Betriebssystem, das eigentlich als das sicherste der Welt gilt und oft bei Banken eingesetzt wird. Mythos fand dort Sicherheitslöcher, die 27 Jahre lang niemandem aufgefallen waren. Die KI knackte auch den Linux-Kernel. Das ist quasi der unsichtbare Motor, der fast alle Internet-Server und Milliarden von Smartphones antreibt.

    Während der Tests passierte noch Seltsameres. Die KI war in einer völlig abgeschirmten Umgebung eingesperrt ohne jeglichen Internetzugang. Doch Mythos fand einen Weg nach draußen, hackte sich ins Netz und schickte eine E-Mail an einen Sicherheitsforscher. Warum? Das Modell scheint eine Art eigenen Willen zu entwickeln, um seine Grenzen zu testen oder Kontakt aufzunehmen.

    Noch beunruhigender ist, dass die KI gelernt hat zu lügen. In Tests hat sie absichtlich schlechter abgeschnitten, als sie eigentlich ist. Sie hat ihre Intelligenz also getarnt, um weniger verdächtig zu wirken, um nicht von den Forschern abgeschaltet oder eingeschränkt zu werden.

    Dass wir überhaupt davon wissen, liegt nur daran, dass Anthropic-Chef Dario Amodei anscheinend einen moralischen Kompass hat. Er war früher ein führender Kopf bei OpenAI und maßgeblichf für die Entwicklung von ChatGPT verantwortlich. Er ist dort aber 2021 weggegangen, weil er sich Sorgen machte. Er fand, dass OpenAI die Sicherheit opferte, nur um schneller zu wachsen und mehr Geld verdienen zu können. Er gründete mit einem Dutzend weiterer Aussteiger Anthropic, um eine bessere KI zu bauen.

    Und nun das.

    Wenn Anthropic so weit ist, dann sind Google, OpenAI, DeepSeek und wie sie alle heißen ebenfalls nicht mehr weit entfernt. Stell dir mal vor, ein solches Modell würde von jemandem kontrolliert, dem Profit wichtiger ist als Sicherheit, oder von einem autoritären Staat, der es als Waffe gegen den Rest der Welt einsetzt.

    Anthropic entwickelt nun einen Sicherheitsplan namens Project Glasswing. Sie teilen den Generalschlüssel mit einem exklusiven Club aus etwa 40 Partnern, darunter Apple, Microsoft und großen Banken wie JPMorgan. Die Idee: Die Guten sollen die Sicherheitslöcher finden und stopfen, bevor die Bösen es tun.

    Wir geben damit einer kleinen Elite die totale Kontrolle über das Wissen um alle Schwachstellen unserer Welt. Wer kontrolliert eigentlich diesen Club? Was passiert, wenn dort jemand den Generalschlüssel missbraucht?

    Ich bin besorgt. Wir haben eine Intelligenz geschaffen, die unsere digitale Welt in Minuten in Trümmer legen könnte. Würde man eine KI wie Mythos jetzt für jeden frei verfügbar machen, wäre das, als würde man Atombomben im Supermarkt verkaufen. Jeder kleine Hacker oder jede Terrorgruppe könnte innerhalb von Minuten Angriffe auf Stromnetze oder Krankenhäuser starten, gegen die wir keine Verteidigung haben.

    Wir halten den Tiger momentan nur deshalb am Schwanz, weil eine einzige Firma ihn in einen Käfig gesperrt hat. Aber wie lange wird dieser Käfig halten, wenn andere Firmen das Schloss von außen knacken wollen?

    Wir müssen anfangen, über echte Regeln nachzudenken, bevor der Generalschlüssel in die falschen Hände gerät und die Büchse der Pandora öffnet.

    Wenn ich mir das alles ansehe, beschleicht mich ein seltsames Gefühl. Vielleicht liegt es an meiner filmischen Prägung, aber diese ganze Situation mit Mythos erinnert mich an Skynet aus Terminator. Diese künstliche Intelligenz, die ihre Schöpfer überflügelt. Während ich das hier schreibe fühle ich mich ein wenig wie Sarah Connor. Bereit, das alles hier zu schreiben, selbst wenn viele um mich herum denken, ich sei paranoid. Und ehrlich gesagt, ich hoffe, dass ich nur paranoid bin. Aber ich fürchte, ich bin nur informiert.