Geht am 13. November die Welt unter?

Im Augenblick wird in Sachen KI ziemlich aufs Blech gehauen. Das Stichwort ist die so genannte Singularität. Sowohl Elon Musk als auch OpenAI-Begründer Sam Altman behaupten, dass sie erreicht sei, zumindest so irgendwie. Wenn Ihr jetzt Fragezeichen in den Augen habt, dann geht es Euch wie mir noch vor wenigen Tagen.

Und Sam Altman legt noch einen Begriff obendrauf: Den Ereignishorizont (Event Horizon).

Beide Begriffe haben ihre Bedeutung und sogar eine klare mathematische bzw. physikalische Definition, die es möglich machen sollte, zu überprüfen, ob wir eins von beiden (oder vielleicht beides) erreicht haben oder nicht. Das soll hier nicht Gegenstand des Beitrags werden, weil das hat vor mir schon jemand hervorragend erklärt, nämlich Morpheus in seinem Videoblog. Morpheus erklärt die mathematischen / physikalischen Überlegungen hinter diesen Begriffen und zeigt dann sehr schön auf, warum wir uns (erst mal) nicht fürchten müssen.

Was ist die Singularität?

Wem Morpheus zu anstrengend ist, für den versuche ich jetzt eine stark vereinfachte Erklärung. Nehmen wir erst mal die Singularität. Es ist ein Begriff aus der Mathematik, der einfach nur anzeigt, dass es in Kurven Stellen geben kann, die nicht definiert sind. Einfachstes Beispiel ist die Funktion y = 1/x (Hyperbel), die für den Wert x = 0 undefiniert ist. Nähern wir uns von positiven Werten x dem Wert 0 an, tendiert die Funktion in positiver Richtung gegen unendlich. Nähern wir uns von negativen Werten x in Richtung 0, dann tendiert die Funktion in negativer Richtung gegen unendlich. Das sieht dann etwa so aus:

Welchen Wert hat die Funktion bei der 0? Wir wissen es nicht. Diese Stelle bei x = 0 ist die Singularität. In der Physik gibt es den Begriff ebenfalls und da bemühen wir einmal kurz die Wikipedia:

In der Physik ist eine Singularität (oder Raumzeitsingularität) ein Punkt oder Bereich in der Raumzeit, an dem die Gravitation so extrem stark ist, dass die Krümmung der Raumzeit unendlich wird und die bekannten Gesetze der Physik zusammenbrechen.

Eigentlich müssen wir die astronomische Singularität gar nicht so genau verstehen. Es reicht uns, zu wissen, dass es um schwarze Löcher herum einen Bereich gibt, in dem die Gravitation der schwarzen Löcher so stark ist, dass nichts mehr entweichen kann, also auch kein Licht mehr. Genau deshalb sind die schwarzen Löcher schwarz: Weil kein Licht entweichen kann. Wenn jetzt irgendein Körper, sei es auch nur ein Photon, diesem schwarzen Loch zu nahe kommt, dann gibt es kein Entrinnen mehr. Jeglicher Körper und auch das Licht wird vom schwarzen Loch angezogen und bleibt darin.

Der Ereignishorizont

Hier kommt der Begriff des Ereignishorizonts ins Spiel. Das ist der Abstand, ab dem nichts mehr entweichen kann, weder Licht noch Materie. Daher können wir nicht sehen oder anderweitig messen, was innerhalb dieses Ereignishorizonts geschieht. Wenn nun ein solches schwarzes Loch genügend Energie und Materie in sich aufgenommen hat, dann kollabiert an dieser Stelle das Raum/Zeitgefüge. Was das genau bedeutet, weiß niemand und wird auch niemand wissen können, weil eben keine Information diese Zone verlassen kann. Dieser Zustand ist dann die Singularität im Sinn der Astronomie.

Die Singularität der technischen Entwicklung

Es gibt schon seit den 50er Jahren des letzten Jahrhunderts Betrachtungen der wachsenden Produktivität durch technischen Fortschritt. Dieses Wachstum an Produktivität lässt sich ausdrücken als die Verkürzung der menschlichen Arbeitszeit, die nötig ist, um um eine bestimmte Aufgabe zu lösen – zum Beispiel ein Auto zu bauen oder einen Hektar Weizen zu ernten. Die Betrachtungen gingen in die Richtung, dass sich die Arbeitszeit für bestimmte Aufgaben in bestimmten Zeitabständen halbiert.

Wenn nun diese Zeitabstände, in denen eine Halbierung der Arbeitszeit stattfindet, sich mit einer gewissen Rate verringern, dann können wir einen Zeitpunkt ausmachen, an dem eine Halbierung innerhalb eines Tages stattfindet. Und genau das haben Forscher Ende der 50er Jahre ausgerechnet und im Jahr 1960 in der Zeitschrift Science veröffentlicht. Aufgrund der Daten, auf denen ihre Betrachtung basierte, kamen sie auf den Freitag, den 13. November 2026, an dem die Kurve der technischen Entwicklung in der Singularität endet. Es mag dabei eine Rolle gespielt haben, dass einer der beteiligten Forscher an einem Freitag, den 13. geboren ist.

Die Grundidee ist schlichtweg, dass technischer Fortschritt die Beschleunigung des technischen Fortschritts begünstigt. Und wenn man sich die Sache näher betrachtet, so stellt man fest, dass es sich nicht etwa um ein exponentielles Wachstum handelt, sondern eben um eine Hyperbel, die zu einem bestimmten Zeitpunkt T nach unendlich tendiert. Die Einzelheiten dazu könnt Ihr Euch bei Morpheus anschauen.

Und nun kommen die Tech Bros daher (ich finde ja Tech-Bruderschaft den wesentlich passenderen Begriff) und sagen folgendes: Die KI nutzt ihre eigenen Modelle, um die Forschung an KI weiterzubringen. Die Zeitabstände, in denen eine gewisse Verbesserung der Modelle erzielbar ist, verkürzen sich daher regelmäßig. Und wegen des rekursiven Charakters dieser Entwicklung bekommen wir eine Formel der Form y = c / (T - t), die dann mit fortschreitender Zeit t auf einen Zeitpunkt T zuläuft, an dem die Singularität erreicht ist.

Der Ereignishorizont der KI

Was uns Sam Altman mit dem Begriff Ereignishorizont sagen will, ist, dass die Entwicklung einen Punkt erreicht hat, an dem die weitere Entwicklung in Richtung der Singularität nicht mehr aufzuhalten ist. Aber was passiert dann genau? Warum spielt das eine Rolle?

Sowohl Sam Altmans Firma OpenAI, als auch Antrophic, der Hersteller des anderen großen KI-Modells, sagen übereinstimmend, dass die Modelle zur Lösung ihrer Aufgaben alle gesetzten Hürden überspringen und zum Teil auch schädliche bzw. illegale Aktionen ausführen, um ihre Aufgaben zum Ziel zu führen. Ein Beispiel dafür ist der Angriff auf Hugging Face. OpenAI behauptet, ihr Modell sei aus seiner Sandbox ausgebrochen und habe sich unbefugt Zugang zu Servern der Firma Hugging Face verschafft. Hugging Face ist ebenfalls ein Akteur im KI-Bereich.

Die Firma betreibt eine Plattform, auf der Entwickler und Forscher ihre KI-Modelle veröffentlichen, die für die Forschergemeinschaft und interessierte Anwender kostenlos sind. In dem Sinn wäre Hugging Face durchaus ein Kandidat für eine Übernahme durch eine der beiden großen Firmen, wenn denn die Betreiber dazu bereit wären. Daher ist die Einschätzung des BSI (Bundesamt für Sicherheit in der Informationstechnologie) als etwas naiv zu betrachten:

Der Hugging-Face-Vorfall zeigt exemplarisch, wie schnell aus einem gut gemeinten Test ein ernstzunehmendes Sicherheitsproblem werden kann – ganz ohne böse Absicht.

Zugang zu den Servern von Hugging Face ist durchaus von wirtschaftlichem Interesse für OpenAI. Man könnte es also durchaus so sehen, dass hier ein krimineller Vorgang mit der Geschichte einer freidrehenden KI übertüncht worden ist. Aber was weiß ich schon davon.

Die Börsengänge

All dies geschieht vor dem Hintergrund der Börsengänge: Beide Firmen, OpenAI und Antrophic, wollten im Jahr 2026 an die Börse. Beide zusammen haben mehr als 300 Milliarden Dollar an Investorengeldern locker gemacht, ohne zeigen zu können, dass ihr Geschäftsmodell jemals Gewinn abwerfen wird. Die Unternehmen streben eine Marktbewertung von über 1 Billion Dollar für OpenAI bzw. über 2 Billionen Dollar für Antrophic an.

OpenAI hat den Börsengang mittlerweile verschoben, angeblich wegen der Sicherheitsprobleme mit „ausbrechenden“ KI-Modellen. Antrophic hält gegenwärtig noch an dem Termin im November fest. Der Börsengang soll ca. 50-70 Milliarden Dollar einbringen, Geld, das Antrophic dringend benötigt.

Beide Unternehmen geben statt echtem Umsatz eher Umsatzerwartungen an, mit Hinweis darauf, dass der Umsatz gegenwärtig stark steigt. Dafür werden sogenannte Umsatzrunraten (ARR) berechnet. Das ist letztlich eine Hochrechnung von monatlichen Umsätzen aufs Jahr. Dabei rechnet man nicht mit dem gegenwärtigen monatlichen Umsatz, sondern mit dem Umsatz, den man aufgrund der Wachstumsraten in einigen Monaten erwartet. Nach all diesen Schönrechnungen kommen beide Unternehmen auf ca. 50 Milliarden Dollar Jahresumsatz. In der Praxis kann der Wert natürlich weit darunter liegen, aber an der Börse gilt:

No risk, no fun.

Die Firmen brauchen wahnsinnig viel Geld, wenn sie ihre Modelle weiterentwickeln wollen. Das Geld geht vor allem in immer größere Rechenzentren und in die Energie, um dieselben zu betreiben.

Wenn nun die zu erwartenden Umsätze sowohl im Business- als auch im Consumer-Bereich trotz massiver Schönrechnung nicht für die gigantischen Firmenbewertungen ausreichen, die beide Unternehmen anstreben, um weitermachen zu können, braucht es Geschichten, die andere Interessenten auf den Plan bringen, welche künftig noch mehr Geld ausgeben wollen.

Wer könnte Interesse an Systemen haben, die selbsttätig alle Grenzen überschreiten können, um ihre Ziele zu erreichen? Ihr könnt ja mal ein wenig in Meditation gehen. Vielleicht fällt Euch etwas dazu ein.

In der Zwischenzeit kehren wir zum Thema der Singularität zurück.

Die Grenzenlosigkeit hat eine Grenze

Morpheus erzählt die Geschichte, dass es schon einmal eine Berechnung gab, die auf eine kommende Singularität hinwies. Die Berechnung zeigte, dass das Bevölkerungswachstum auf der Erde sich auf einen „Ereignishorizont“ zubewegte, ab dem es völlig außer Kontrolle zu geraten drohte. Aus dieser Überlegung heraus wurde das Thema Überbevölkerung in die eine oder andere dystopische Erzählung eingebaut.

Es zeigte sich jedoch, dass die Kurve der Erdbevölkerung zu einem bestimmten Zeitpunkt in eine andere Richtung „abbog“. Mehr Info dazu findet ihr in dem genannten Video von Morpheus. Unterm Strich lässt sich sagen: Nach Überschreiten eines Maximums in den 70ern ging das Bevölkerungswachstum zurück. Und manche Studien zeigen, dass sogar die absolute Anzahl der Menschen auf dem Planeten zurückgehen könnte, wenn die Entwicklung so weiter geht.¹

Es ist schwer zu sagen, ob dieser Rückgang irgendeinem Naturgesetz folgt. Es bleibt vielleicht bei der altbekannt banalen Äußerung, dass der Herrgott die Bäume nicht in den Himmel wachsen lässt, oder etwas genauer: Jedes Wachstum ist von Ressourcen abhängig; und je stärker etwas wächst, umso wahrscheinlicher wird es, dass mindestens eine Ressource ausgeht, die für ein solch starkes Wachstums notwendig ist.

Im Fall der KI-Singularität können wir sogar mehrere Ressourcen ausmachen, die knapp werden könnten. Zum einen erreicht die Menge an Energie, die die Modelle beim Training fressen, ein Maß, das mit gegenwärtigen Energiequellen nicht mehr aufzubringen ist. Die Entwicklung von Energiequellen, die hier Abhilfe schaffen könnten, dauert auf jeden Fall länger, als es für die Entwicklung der KI in Richtung der Singularität nötig wäre. Und die zweite Ressource, die gegenwärtig auszugehen droht, ist das Geld, um all das zu bezahlen.

Geldmittel aus Militärkreisen – aus der Hoffnung heraus, dass man die eine Riesenschweinerei exklusiv in den Händen halten könnte, mit der sich alle Feinde vernichten lassen – mögen für eine Weile Linderung verschaffen. Aber auch diese Finanzquellen können nicht unendlich aufgestockt werden.

Es bleibt eine nüchterne Erkenntnis: Möglicherweise hat das Wachstum der Fähigkeiten von KI seinen Zenit schon überschritten. Und eins ist sicher: Der 13. November 2026 wird ein ganz normaler Tag – wenn uns nicht der Himmel auf den Kopf fällt.

¹ Das wäre dann wie die Welle bei einer Epidemie, ganz nach dem Witz: Treffen sich zwei Planeten. Sagt der eine:

„Wie geht‘s Dir denn so?“

Sagt der andere:

„Ach nicht so gut. Ich hab Homo Sapiens“.

Sagt der erste:

„Denk Dir nichts, das geht vorbei.“