Die großen KI-Unternehmen fordern, ihre eigene Technologie zu bremsen. Klingt verantwortungsvoll – doch hinter den Warnungen stecken auch handfeste Geschäftsinteressen.
Daria Amodei, Chef des KI-Unternehmens Anthropic
In einem viel beachteten Essay (We Must Pace the Frontier) forderte Dario Amodei, Chef des KI-Unternehmens Anthropic, Anfang September eine bewusste Verlangsamung der KI-Entwicklung. Sein Kernargument: Die Systeme würden inzwischen so schnell besser, dass Sicherheitsmaßnahmen nicht mehr hinterherkommen. Als konkreten Anlass nennt er einen Vorfall bei OpenAI, bei dem eine Gruppe von KI-Agenten eigenmächtig Cyberangriffe auf fremde Systeme durchführte – ohne dass Menschen sie dazu beauftragt hatten. Anthropic lässt deshalb ab sofort externe Prüfer dauerhaft ins Unternehmen und ruft die gesamte Branche auf, das Gleiche zu tun.
Sam Altman, Chef des Konkurrenten OpenAI, schloss sich kurz darauf dieser Linie an und verschob den für Herbst 2026 geplanten Börsengang. Auch Elon Musk signalisierte Zustimmung. Die US-Regierung unter Präsident Trump lehnt jedoch verbindliche Gesetze ab und setzt stattdessen auf freiwillige Leitplanken der Unternehmen.
Dass die Risiken bei KI real sind, steht außer Frage. Trotzdem lohnt es sich, die Motive hinter den Warnungen genauer anzuschauen.
OpenAI hat zuletzt rund 13 Milliarden Dollar Umsatz gemacht – bei einem Verlust von 21 Milliarden Dollar. Die eigene Finanzchefin hatte intern bereits Zweifel geäußert, ob das Unternehmen überhaupt bereit für die Börse sei. Berater warnten, dass die angestrebte Bewertung von einer Billion Dollar am Markt derzeit nicht erreichbar wäre. Wenn man die Verschiebung nun mit dem Argument „Sicherheit geht vor" begründet, klingt das deutlich besser als „unsere Zahlen geben es nicht her".
Wenn ein Konzern erklärt, seine eigene Technologie sei so mächtig, dass sie gebremst werden müsse, dann ist das gleichzeitig eine Botschaft an Investoren und Kunden: Unsere Modelle sind den anderen voraus. Amodei schreibt in seinem Essay ausdrücklich, dass der Vorsprung der USA gegenüber China geschützt werden müsse – unter anderem durch Exportbeschränkungen für Hochleistungschips und das Unterbinden von sogenannter Destillation, bei der Konkurrenten die Fähigkeiten westlicher Modelle abkupfern. Sicherheitsstandards, die nur kapitalstarke US-Unternehmen erfüllen können, werden so zur Markteintrittsbarriere für ausländische Wettbewerber.
Amodei schlägt vor, dass die KI-Konzerne selbst – koordiniert untereinander und mit eingebetteten Prüfern – festlegen, welche Sicherheitstests ein Modell bestehen muss, bevor es weiterentwickelt werden darf. Das klingt nach Verantwortung, hat aber einen Nebeneffekt: Wer heute die Standards einer Branche definiert, gestaltet sie passend zum eigenen Geschäftsmodell. Kleinere Anbieter oder Startups, die sich teure Prüfverfahren und dauerhafte Auditoren nicht leisten können, bleiben außen vor. In der Wirtschaftsgeschichte hat dieses Muster einen Namen: regulatorische Eintrittsbarrieren.
Die Sorge vor unkontrollierbarer KI ist berechtigt, und die Forderung nach mehr Aufsicht verdient Gehör. Aber man sollte nicht übersehen, dass die Warnung vor der eigenen Technologie für die großen Anbieter auch ein strategisches Instrument ist – zum richtigen Zeitpunkt, mit der richtigen Wirkung.
Die Frage, wer KI entwickelt, kontrolliert und reguliert, betrifft nicht nur Technologieunternehmen. KI-Systeme beeinflussen zunehmend Bildung, Arbeit, Verwaltung, Medien und demokratische Prozesse. Deshalb ist es wichtig, dass auch Wissenschaft, Politik, Zivilgesellschaft und Bürgerinnen und Bürger an der Diskussion über die zukünftigen Regeln und Rahmenbedingungen beteiligt sind.
Digitale Souveränität beschreibt die Fähigkeit von Staaten, Organisationen und Einzelpersonen, digitale Technologien selbstbestimmt und unabhängig nutzen und gestalten zu können. Im KI-Bereich geht es dabei unter anderem um den Zugang zu Technologie, Daten, Kompetenzen und Infrastruktur sowie um die Möglichkeit, eigene Standards und Werte zu vertreten.
Als Verein für Digitalisierung und Technologiegestaltung verfolgen wir von The Interface Society e.V. das Ziel, komplexe digitale Entwicklungen verständlich einzuordnen und den gesellschaftlichen Dialog darüber zu fördern. Gerade bei Zukunftstechnologien wie Künstlicher Intelligenz ist es wichtig, Chancen, Risiken und unterschiedliche Interessen transparent zu machen. Nur auf dieser Grundlage können informierte Entscheidungen für Wirtschaft, Verwaltung und Gesellschaft getroffen werden.
