In dieser Woche habe ich mich in San Francisco mit Richard Socher getroffen, dem Chef der Suchmaschine You.com und einem der meistzitierten KI-Forscher der Welt. Knapp eine Viertelmillion wissenschaftliche Referenzen. In Kürze will der aus Dresden stammende Socher ein neues Unternehmen vorstellen. Mehr dazu in der kommenden Woche in der F.A.Z.
Was von dem Gespräch vorerst blieb, war weniger eine technische Einzelheit als ein Eindruck, der sich auffallend oft einstellt, wenn man Deutschen begegnet, die seit vielen Jahren im Silicon Valley leben und arbeiten. Durch viele dieser Gespräche zieht sich ein roter Faden. Es sei traurig, sagte Socher, zu beobachten, wie wenig Bereitschaft es in Deutschland gebe, technologischen Wandel politisch zu gestalten, und wie viel Bürokratie ihn stattdessen lähme. Europa, so sein Befund, werde auf diese Weise zum „schönsten Freilichtmuseum der Welt”. Das klingt zunächst freundlich. Ist aber nicht so gemeint.
Das Muster wiederholt sich fast in jeder dieser Begegnungen. Im Silicon Valley arbeiten Gründer auch am Wochenende, weil sich eine Gelegenheit auftut, die in zwei Jahren schon wieder verflogen sein kann. In Deutschland wird derweil über die Viertagewoche gestritten und darüber, ob der Freitag nicht ebenfalls noch ein wenig kürzer ausfallen könnte. Hier stoßen Gründer auf ein Steuerrecht, das nicht realisierte Gewinne behandelt, als seien sie bereits Einkommen, und das es Mitgründern erschwert, Anteile zu geben, ohne sie sogleich dem Finanzamt auszuliefern. Für den Augenblick genügt die Feststellung: Europa fehlt es nicht an Talent. Ihm fehlt jener politische Reflex, der Neues erst einmal ermöglicht, statt es vorsorglich zu besteuern oder zu regulieren.
Dass Regulierung und Wirklichkeit keineswegs in dieselbe Richtung laufen müssen, ließ sich in dieser Woche allerdings auch in Washington studieren.
Sicherheit als Lieferkettenrisiko
Am Donnerstag kündigte Floridas republikanischer Generalstaatsanwalt James Uthmeier Ermittlungen gegen OpenAI an. Die Vorwürfe lauten auf Gefährdung der nationalen Sicherheit, unzureichenden Schutz Minderjähriger und auf eine Mitverantwortung von ChatGPT im Zusammenhang mit dem Amoklauf an der Florida State University, bei dem der Schütze vor der Tat mehr als 200 Nachrichten mit der KI ausgetauscht haben soll. Vorladungen sollen folgen.
Am selben Morgen feierte die Trump-Regierung ein Berufungsurteil, das Anthropics Position auf der schwarzen Liste bestätigte. Das Vergehen der Firma: Sie hatte Sicherheitsbegrenzungen in ihren KI-Modellen beibehalten wollen, keine Massenüberwachung im Inland, keine vollautonomen Waffen. Das Verteidigungsministerium erklärte Anthropic daraufhin zum Lieferkettenrisiko. Eine Einstufung, die man bislang eher gegen chinesische Konzerne wie Huawei in Stellung brachte, traf nun ausgerechnet ein Unternehmen aus San Francisco.
Das eine Unternehmen wird untersucht, weil es zu gefährlich sei. Das andere wird sanktioniert, weil es zu sicher sein will. Dieselbe Regierung, dieselbe Woche.
Wer darin einen bloßen Widerspruch oder einen behördlichen Betriebsunfall erkennt, verkennt das Muster. Der Widerspruch ist kein Fehler im System. Er ist das System. Washington stört sich nicht an Beschränkungen als solchen. Es stört sich daran, dass jemand sie offen formuliert.
Eine Beschaffungsrechtsprofessorin der George Washington University hat sich den Pentagon-Vertrag mit OpenAI genauer angesehen. Ihr Befund ist aufschlussreich. OpenAI betreibt seine Modelle auf eigener Infrastruktur, behält die volle Kontrolle über seine Sicherheitsarchitektur, platziert eigenes Personal entlang der Einsatzkette und kann den Vertrag kündigen, falls die Regierung gegen die Bedingungen verstößt. Praktisch ähneln diese Vorkehrungen sehr dem, was Anthropic ebenfalls verlangt hatte. Der Unterschied ist weniger inhaltlicher als rhetorischer Natur. Anthropic sagte Nein. OpenAI sagte Ja und baute dann eine Architektur, die am Ende auf beinahe dasselbe hinausläuft, nur diskreter.
OpenAI selbst erklärte inzwischen, die Schwarzlistung Anthropics sei ungerechtfertigt gewesen. Das Unternehmen also, das den Zuschlag erhielt, weil es zustimmte, hält die Bestrafung des Konkurrenten für falsch, weil dieser nicht zustimmte. Aufschlussreicher lässt sich die Logik dieser Woche kaum zusammenfassen.
Unterdessen haben mehr als 40 Bundesstaaten eigene KI-Gesetze eingebracht, insgesamt rund 250 Vorlagen, von Kansas bis Kalifornien. Das Weiße Haus versuchte seinerseits, diese Entwicklung mit einem nationalen Rahmenwerk zu überlagern, das den Bundesstaaten Regulierung im Kern untersagt hätte. Das Paket enthielt allerdings weder eine zuständige Behörde noch ernsthaften Verbraucherschutz, geschweige denn einen belastbaren Durchsetzungsmechanismus. Es scheiterte im Kongress. Die Bundesstaaten machen weiter. Und Florida ermittelt nun ausgerechnet wegen jener Schäden, die Gesetze hätten verhindern sollen, deren Verabschiedung Washington zuvor blockieren wollte.
Das ist nicht bloß eine Regulierungslücke. Es ist ein leerer Raum mit verschlossener Tür.
44 Prozent Sabotage
Während Washington also nicht recht weiß, ob es Sicherheit bestrafen oder einfordern soll, hat die Generation, die mit KI aufwachsen wird, ihr eigenes Urteil gefällt. Es fällt unerquicklich aus.
Eine Gallup-Umfrage unter 1572 Amerikanern zwischen 14 und 29 Jahren ergab, dass 51 Prozent der Generation Z generative KI mindestens einmal pro Woche nutzen. Das ist nahezu derselbe Wert wie im Vorjahr. Verändert hat sich nicht die Nutzung, sondern die Stimmung. Die Begeisterung sank um 14 Prozentpunkte, die Wut stieg um 9 Punkte auf 31 Prozent. Die Angst verharrte bei 42 Prozent, weil sie schon zuvor bemerkenswert hoch war.
Selbst die Intensivnutzer, also jene, die täglich mit den Werkzeugen arbeiten, verlieren an Zuversicht. Die Begeisterung sank in dieser Gruppe um 18 Punkte, die Hoffnung um 11. Der Gallup-Forscher Zach Hrynowski bemerkte dazu, dies sei gerade nicht die Geschichte einer Spaltung zwischen Liebhabern und Verweigerern. Vielmehr verliere ausgerechnet jene Gruppe am schnellsten das Vertrauen, die der Technologie am nächsten sei.
Das Expositionsrezept hat offenkundig versagt. Mehr Dosis bringt keinen Erkenntnisgewinn.
Wer nach Gründen sucht, stößt auf eine Studie der University of Pennsylvania. In mehr als 9500 Versuchsdurchläufen akzeptierten Probanden fehlerhafte KI-Schlussfolgerungen in 73 Prozent der Fälle und korrigierten sie nur in 20 Prozent. Die Forscher sprechen von einer Art kognitiver Kapitulation. Anders als der Taschenrechner, der eine klar umrissene Rechenoperation übernimmt, verführt generative KI dazu, das Denken selbst auszulagern. Das Werkzeug machte die Versuchspersonen selbstsicherer. Es machte sie zugleich messbar schlechter.
Die Generation Z scheint das instinktiv zu spüren. 80 Prozent glauben, KI werde das Lernen erschweren. 42 Prozent erwarten Schäden für das kritische Denken, nur 25 Prozent einen Nutzen. Goldman Sachs beziffert den monatlichen Nettoverlust auf rund 16.000 Arbeitsplätze in den Vereinigten Staaten, mit Schwerpunkten bei Dateneingabe, Kundenservice und Rechtsassistenz, also dort, wo Berufseinsteiger typischerweise anfangen.
Beim Murren bleibt es allerdings nicht. 44 Prozent der berufstätigen Angehörigen der Generation Z sabotieren nach eigener Aussage die KI-Strategie ihres Arbeitgebers. Sie speisen Firmendaten in öffentliche Werkzeuge ein, verweigern die Nutzung oder manipulieren Leistungsbewertungen. Sechs von zehn Führungskräften derselben Erhebung erklärten umgekehrt, sie würden KI-Verweigerer entlassen. Nicht umschulen. Entlassen.
Für schwindende Kundenbindung kennt das Silicon Valley den Begriff „Churn”. Wenn nun die eigenen Anwender zu kündigen drohen oder innerlich kündigen, heißt das Phänomen offenbar Insubordination.
Mythos heißt Erzählung
Passend zu dieser Woche der unvereinbaren Positionen stellte Anthropic ein Modell vor, das das Unternehmen zugleich für zu gefährlich hält, um es freizugeben. Claude Mythos Preview soll Tausende von Sicherheitslücken in praktisch jedem Betriebssystem gefunden haben. Drei davon sind inzwischen nachweislich gepatcht, darunter ein Fehler, der 27 Jahre lang in OpenBSD verborgen blieb, also in einem System, das eigens mit dem Anspruch entwickelt wurde, besonders schwer angreifbar zu sein. Fünf Millionen automatisierte Prüfläufe hatten ihn zuvor übersehen.
Drei bestätigte Funde sind eindrucksvoll. Die übrigen Behauptungen liegen allerdings hinter kryptographischen Prüfsummen verborgen und lassen sich frühestens im Sommer unabhängig verifizieren. Die „New York Times” riet ihren Lesern daher, solche Ankündigungen mit Vorsicht zu genießen. Mit gutem Grund.
Der Name des Modells ist dabei unfreiwillig aufschlussreich. „Mythos” stammt aus dem Griechischen und bedeutet: Erzählung. Das trifft den gegenwärtigen Beweisstand ziemlich genau.
Anthropic hat um das Modell ein Konsortium versammelt, das den Namen Glasswing trägt, benannt nach dem Glasflügelfalter, dessen transparente Flügel Offenheit signalisieren sollen. Apple ist dabei, Amazon, Google und rund 40 weitere Unternehmen. Hinzu kommen 100 Millionen Dollar an Nutzungsguthaben. Was dem Konsortium jedoch fehlt, ist eine unabhängige Aufsicht. Anthropic allein entscheidet, wer Zugang erhält. Modellhersteller, Koalitionsführer und Regierungsberater fallen hier in einer einzigen Firma zusammen. Eine Journalistin von „Vox” formulierte es nüchtern: Ein privates Unternehmen verfüge nun über Einbruchswerkzeuge für praktisch jede bekannte Software. Durchsichtig wirkt der Falter in der Praxis daher eher nicht.
Die Bewertung Anthropics nähert sich 380 Milliarden Dollar, ein Börsengang könnte im Herbst folgen. Wer kurz vor einer möglichen Werbereise der Investmentbanken eine prestigeträchtige Sicherheitsinitiative mit namhaften Partnern vorstellt, betreibt nicht nur Forschung. Er betreibt auch Inszenierung. Dass dieselbe Firma kurz zuvor 3000 unveröffentlichte Inhalte auf einem ungesicherten Redaktionssystem verloren haben soll, rundet das Bild mit einer Ironie ab, die man kaum eigens zuspitzen muss.
Das Museum und seine Öffnungszeiten
Zurück also zum Freilichtmuseum. Man könnte einwenden, Lebensqualität sei kein Betriebsfehler. Und selbstverständlich hat dieser Einwand Gewicht. Ein Kontinent, auf dem Sonntage frei sind und man Mitarbeiter nicht gleich entlässt, weil sie ein neues Werkzeug nicht benutzen wollen, besitzt Vorzüge, die man nicht leichtfertig abtun sollte.
Wer in einer einzigen Woche jedoch beobachten konnte, wie Washington Sicherheit zugleich verlangt und bestraft, wie eine ganze Generation ihre Werkzeuge benutzt und verachtet, wie ein Modell namens Mythos vor allem aus Erzählung besteht und wie Europa all dies mit der gelassenen Neugier eines Museumsbesuchers betrachtet, der kommt um einen Befund kaum noch herum: Es geschieht. Ob man daran teilnehmen will oder nicht.
Das Freilichtmuseum hat freilich auch seine Annehmlichkeiten. Die Öffnungszeiten enden pünktlich um fünf.
Bleiben Sie unberechenbar.
Ihr Marcus Schuler, San Francisco