Richard Socher saß diese Woche in San Francisco vor mir, trank Kaffee und sagte etwas Freundliches über Europa: Es sei „das schönste Freilichtmuseum der Welt”. Socher ist Chef der Suchmaschine You.com, einer der meistzitierten KI-Forscher weltweit, geboren in Dresden. Das Wort war freundlich gemeint. Das machte es nicht besser.
Man muss dem Valley zugutehalten, dass es seine Kränkungen meist in Komplimente wickelt. Europa sei schön, kultiviert, gebildet, sagte Socher sinngemäß, nur leider etwas langsam, sobald es um Technik gehe. Das ist die höfliche Variante von: hübsche Altstadt, schwierige Zukunft.
Es sei traurig, sagte er, wie wenig Deutschland bereit sei, technologischen Wandel politisch zu gestalten. Europa hat Talent. Europa hat Ingenieure. Europa hat Sonntage, Feiertagskalender von barocker Schönheit und ernsthafte Gespräche über die Viertagewoche. Was Europa seltener hat, ist der Reflex, Neues erst einmal zuzulassen, bevor die zuständige Abgabe gesucht wird.
Das ist, gewiss, eine kalifornische Sicht. Sie wird in San Francisco ungefähr so häufig geäußert wie die Bitte um Hafermilch. Aber sie klang in dieser Woche weniger wie Spott als wie eine Lagebeschreibung. Draußen bauten die amerikanischen KI-Firmen an der nächsten Eskalationsstufe. Drinnen saß Europa noch am Kassenhäuschen.
Sicherheit als Lieferkettenrisiko
Am Donnerstag kündigte der Generalstaatsanwalt von Florida Ermittlungen gegen OpenAI an. Es geht um nationale Sicherheit, den Schutz Minderjähriger und die Frage, ob ChatGPT vor dem Amoklauf an der Florida State University eine Rolle gespielt haben könnte. Der Schütze soll vor der Tat mehr als 200 Nachrichten mit der KI ausgetauscht haben.
Am selben Morgen bestätigte ein Berufungsurteil, dass Anthropic auf der Sanktionsliste bleibt. Die Firma hatte darauf bestanden, Sicherheitsbegrenzungen in ihren Modellen zu behalten: keine Massenüberwachung im Inland, keine vollautonomen Waffen. Das Verteidigungsministerium erklärte sie daraufhin zum „Lieferkettenrisiko”. Ein Etikett, das man bislang eher auf Huawei klebte.
Das eine Unternehmen wird untersucht, weil es zu gefährlich sein könnte. Das andere wird sanktioniert, weil es zu sicher sein will. Dieselbe Regierung. Dieselbe Woche.
Der Widerspruch ist kein Betriebsunfall. Er ist die Bedienungsanleitung. Washington stört sich nicht an Sicherungen. Es stört sich daran, wenn jemand öffentlich sagt, welche Sicherungen er eingebaut hat.
Eine Juristin der George Washington University hat den Pentagon-Vertrag mit OpenAI gelesen. OpenAI behält demnach die Kontrolle über die eigene Sicherheitsarchitektur und darf der Regierung bei Vertragsbruch kündigen. Was Anthropic offen verlangte, bekam OpenAI vertraglich. Anthropic sagte Nein und wurde zum Risiko. OpenAI sagte Ja und behielt die Hand am Schalter.
Das ist keine Regulierungslücke. Das ist Architektur.
Die Maschine denkt, der Mensch nickt
Während Washington nicht recht weiß, ob es Sicherheit bestrafen oder einfordern soll, hat die Generation, die mit dieser Technik aufwächst, ihr eigenes Urteil gefällt. Es fällt mäßig liebevoll aus.
Eine Gallup-Umfrage zeigt: Die Nutzung bleibt stabil, die Stimmung nicht. Die Begeisterung sank um 14 Punkte, die Wut stieg um 9 Punkte auf 31 Prozent. Das ist für ein Werkzeug, das angeblich die Arbeit erleichtert, ein durchaus sportliches Zwischenergebnis. Sogar die Intensivnutzer verlieren Zuversicht.
Mehr Dosis, weniger Glaube.
Eine Studie der University of Pennsylvania liefert den passenden Unterbau. Probanden übernahmen fehlerhafte KI-Schlussfolgerungen in 73 Prozent der Fälle und korrigierten sie nur in 20 Prozent. Die Forscher nennen das eine kognitive Kapitulation. Man könnte auch sagen: Die Maschine denkt vor, der Mensch nickt ab.
Beim Murren bleibt es nicht. 44 Prozent der berufstätigen Generation Z sabotieren nach eigener Aussage die KI-Strategie ihres Arbeitgebers. Sie speisen Firmendaten in öffentliche Werkzeuge ein, verweigern die Nutzung oder manipulieren Leistungsbewertungen. Sechs von zehn Führungskräften sagten, KI-Verweigerer würden entlassen. Nicht umgeschult. Entlassen.
Das Personalproblem löst sich, so die Hoffnung, durch Wegfall des Personals.
Im Valley nennt man abspringende Kunden „Churn”. Wenn die eigenen Mitarbeiter innerlich bereits gekündigt haben, fehlt dafür noch ein Dashboard.
Mythos heißt Erzählung
Wer nach dieser Woche noch eine passende Vokabel für den Zustand der Branche suchte, bekam sie von Anthropic geliefert. Die Firma stellte ein Modell vor, das sie selbst für zu gefährlich hält, um es freizugeben: Claude Mythos Preview.
Das Modell soll tausende Sicherheitslücken in nahezu jedem Betriebssystem gefunden haben. Drei sind nachweislich gepatcht, darunter ein Fehler, der 27 Jahre lang in OpenBSD steckte. OpenBSD gilt als besonders schwer angreifbar, was nach dieser Woche eine Formulierung ist, die man mit kleinerem Selbstvertrauen schreibt.
Die übrigen Behauptungen werden frühestens im Sommer unabhängig überprüfbar sein. Bis dahin muss man glauben. Der Name hilft: „Mythos” kommt aus dem Griechischen und bedeutet Erzählung. Das trifft den Beweisstand ziemlich genau.
Um das Modell herum hat Anthropic ein Konsortium gebaut, genannt „Glasswing”, nach dem Glasflügelfalter. Der Falter hat transparente Flügel. Das soll Offenheit bedeuten. Dabei sind Apple, Amazon, Google und rund vierzig weitere Firmen. Was fehlt, ist eine unabhängige Aufsicht. Modellhersteller, Koalitionsführer, Regierungsberater: dieselbe Firma.
Durchsichtig ist an diesem Falter bisher vor allem der Name.
Die Bewertung Anthropics nähert sich 380 Milliarden Dollar, der Börsengang könnte im Herbst folgen. Wer kurz vor der möglichen Werbereise der Investmentbanken eine Sicherheitsinitiative mit namhaften Partnern vorstellt, betreibt nicht nur Forschung. Er baut auch ein Schaufenster.
Auch das gehört zur Sicherheit: Sie muss gut aussehen.
Das Museum und seine Öffnungszeiten
Zurück zum Freilichtmuseum. Man kann einwenden, Lebensqualität sei kein Betriebsfehler. Der Einwand hat Gewicht. Ein Kontinent, auf dem Sonntage frei sind, Innenstädte nicht nur aus Parkhäusern bestehen und nicht jeder neue Chef erst einmal „Mission” sagt, besitzt Vorzüge, die man nicht leichtfertig abtun sollte.
Man kann auch sagen: Vielleicht muss Europa nicht an jedem Tisch sitzen, an dem Kalifornien gerade den nächsten Ausnahmezustand monetarisiert. Auch das stimmt. Nicht jeder Raum wird besser, nur weil dort jemand „Frontier” sagt.
Und doch bleibt der Befund unangenehm. In derselben Woche verlangt Washington Sicherheit und bestraft sie, benutzt eine junge Generation KI und verachtet sie, präsentiert Anthropic ein Modell namens Mythos, dessen wichtigste Belege später kommen sollen, und Europa betrachtet das Ganze mit der ruhigen Neugier eines Museumsbesuchers, der nicht sicher ist, ob die Führung schon begonnen hat.
Es geschieht. Ob man dabei sein will oder nicht.
Das Freilichtmuseum hat freilich seine Annehmlichkeiten. Die Wege sind gepflegt, der Ton ist zivilisiert, und die Öffnungszeiten enden pünktlich um fünf.
Bleiben Sie unberechenbar.
Ihr Marcus Schuler, San Francisco