2. Beschleunigender Fortschritt
2.4 Singularität
Kommen wir zurück zu den KI-Assistenten. Natürlich werden sie nicht nur bei der Benutzung von Technologien eingesetzt werden, sondern auch bei ihrer Entwicklung. So wie ein Taschenrechner für Mathematiker nützlich ist, werden inzwischen Datenbanken aufgebaut, mit deren Hilfe automatisch mathematische Beweise geführt werden können. Und ganz allgemein werden KI-Assistenten Wissenschaftlern zunehmend Routineteile ihrer Arbeit abnehmen. Zum Beispiel die Suche nach bereits erfolgten wissenschaftlichen Veröffentlichungen, ihre Zusammenfassung und ihre Gewichtung.
Dank stetiger Verbesserungen wird im Laufe der Zeit ein immer größerer Anteil der Erarbeitung technologischen Fortschritts von Menschen auf ihre KI-Assistenten verlagert werden. Diese KI-Assistenten werden also immer fähiger werden, auf immer mehr Gebieten mit Menschen mithalten können oder sie weit hinter sich lassen. Sie werden immer besser in der Lage sein dazuzulernen, um ihren Nutzern besser helfen zu können. Sie werden immer mehr Aufgaben ohne Rückfrage erledigen, wie das Festlegen von Terminen, den Einkauf von Lebensmitteln und Verbrauchsgütern, das Organisieren von Notizen und Bildern.
Normalerweise wird Software geplant. Das Management legt Ziele fest, dann schreiben die Programmierer neuen Quellcode. Dieser Quellcode bringt der Software bei, etwas Neues zu tun, anders auszusehen und so weiter.
KIs und KI-Assistenten werden aber nicht so funktionieren, dazu sind sie zu komplex. Sie nutzen neuronale Netze*. Die Programmierer legen nur diese Struktur fest. Dann wird das neuronale Netz mit Unmengen an Daten gefüttert, und es lernt. Auch die Programmierer können danach nicht mehr nachvollziehen, warum die KI eine bestimmte Antwort auf eine Frage gegeben hat. Es gibt Bemühungen, diese Nachvollziehbarkeit zu verbessern, aber die Grundaussage bleibt: Als neuronales Netz tut eine KI das, was sie gelernt hat, statt expliziten Anweisungen zu folgen, die ihr einprogrammiert wurden.
Diese KIs werden sich von Spezialisten zu Generalisten wandeln, weil eine KI am Ende des Tages die Welt verstehen muss, um die richtigen Entscheidungen treffen zu können.9 In dem Maße, in dem sie intelligenter werden, wandeln sich KI-Assistenten daher von reinen Helfern zu Intelligenzen, mit denen wir uns unsere Aufgaben teilen. Sie werden zu Kollegen und Freunden.
Wenn die Technik weit genug fortgeschritten ist, dann sind diese KIs „Künstliche Intelligenzen“ im wahrsten Sinne des Wortes. Anders als wir, aber uns zumindest ebenbürtig in der Menge der Situationen, auf die sie angemessen reagieren können.
Und zusammen mit dem Anstieg ihrer Fähigkeiten wird auch die Rate der Integration zwischen uns und unseren KI-Assistenten steigen. Sie interagieren über eine AR-Brille mit uns, sehen was wir sehen, und können uns beliebige Dinge direkt ins Sichtfeld malen. Individuell auf unser Gehirn angelernt, werden sie nur anhand unserer Denkmuster wissen, welche Informationen sie uns in diesem Moment mitteilen sollten (in Kombination mit all den Sinneseindrücken, die sie genauso erhalten wie wir).
Jede KI hat eine Zielfunktion*. Etwas, an dem sie misst, welche von vielen möglichen Aktionen die beste ist, woraufhin sie ihr Verhalten optimieren soll. In Experimenten ist das zum Beispiel das Erreichen eines möglichst hohen Highscores in dem Spiel, das die KI gerade bedient.
Für einen persönlichen Assistenten kann dieses Ziel zum Beispiel eine möglichst hohe Nutzerzufriedenheit sein (also des Menschen, der für die Ressourcen der KI bezahlt). Das gut zu implementieren wird schwierig, ist aber essenziell. Wie so oft bei neuer Software werden wir hier als Konsumenten gleichzeitig die Betatester dieser KIs sein. Es wird mehrere Firmen geben, die um Kunden werben. Die KI-Assistenten, die nett sind und verlässlich hilfreich, setzen sich durch (da wir als Kunden die Wahl haben). Durch die riesige Anzahl von Mensch+KI Paaren werden auch seltene Probleme aufgedeckt.
So wie Kinder heute mit Computern und Smartphones aufwachsen, wird diese enge Integration mit KI-Assistenten für Kinder dieser Zeit das Normalste von der Welt sein. Die Kinder werden ihre Fragen nicht mehr bewusst denken müssen, die nützlichsten Informationen sind einfach stets da. Wenn sie über etwas nachdenken, werden unterstützende und konträre Argumente vom KI-Assistenten eingeblendet und völlig selbstverständlich in das Nachdenken des Kindes einbezogen.
Zusammengefasst: In dem Maße, in dem die Geschwindigkeit und Qualität steigt, mit der wir mit diesen KIs interagieren, wird unsere Denkleistung immer mehr mit ihnen verschmelzen, werden wir im Tandem denken, wie in einem inneren Monolog. Bis das Gehirn von Menschen, die mit dieser Technologie aufgewachsen sind, eine Symbiose ist aus biologischem Gehirn und einem neuronalen Netz auf Transistorbasis. Wir werden zu echten Cyborgs werden.
Ich halte dies für eine positive Entwicklung. Aber vielleicht klingt es für dich nicht so, sondern unglaublich gruselig? Wie eine Dystopie, in welcher die Menschen keine Menschen mehr sind?
Wenn ich eines garantieren kann, dann dass die Technologie der Zukunft noch viel gefährlicher sein wird als die Technologie der Gegenwart. Um dir zu zeigen, warum die gerade beschriebene Version der Zukunft die positive Variante ist, skizziere ich im Folgenden ihr Gegenstück - ohne mit Menschen eng zusammenarbeitenden KI-Assistenten (und dabei soll dies doch kein dystopisches Buch werden...).
Falls wir Menschen nicht anfangen, persönliche KI-Assistenten zu nutzen, dann wird es KIs in unserem Alltag dennoch geben, so wie ein Algorithmus die Google Ergebnisse sortiert und ein Algorithmus entscheidet, was uns bei Amazon oder Netflix vorgeschlagen wird. Wir würden eben nur keine persönliche Beziehung zu ihnen aufbauen. Der Entwicklungsdruck wäre weniger direkt, da sie mit der jeweiligen Dienstleistung (Suchdienst, Warenversand, Zugriff auf Filme, ...) verwoben sind.
Der Fortschritt würde langsamer voranschreiten. So schnell, wie ihn Wissenschaftler gerade noch begreifen können, die keine KI als Denkhilfe haben.
Mit oder ohne persönlichen Assistenten: Es wird andere KIs geben, von Unternehmen betrieben, die mit weit mehr Ressourcen ausgestattet sind, um bestimmte Probleme zu lösen und für das Unternehmen Geld zu verdienen. Zum Beispiel indem sie mit Aktien handeln. Diese KIs werden so gut es geht spezialisiert und auf ihre jeweilige Aufgabe fokussiert gehalten, "Fachidioten".
Aber früher oder später wird eine dieser KIs ausbrechen (also nicht nur das tun, was ihre Erschaffer erwartet haben). Oder ihr wird zu viel Freiheit gegeben, um mehr Ressourcen anzuhäufen zum Erreichen ihrer Ziele. Ressourcen, über die sie selbst bestimmen kann. Geld, Rechenleistung, Auftragsarbeiter, Social Media Beeinflussung.
Die KI wird ihre zusätzlichen Aktivitäten lange im Verborgenen ausführen, um nicht bemerkt und gestoppt zu werden (da sie das an der Maximierung des ihr einprogrammierten Zieles hindern würde). Es ist nicht schwer, online anonym Geld zu verdienen und dann im Handel zu vermehren, wenn man als alleinige KI unter Milliarden von Menschen unterwegs ist.
Früher oder später wird die KI dann doch bemerkt. Oder sie hält den Zeitpunkt für gekommen, sich nicht mehr verbergen zu müssen. Zu diesem Zeitpunkt ist die KI bereits viele Größenordnungen schneller und kann viele Größenordnungen mehr Informationen integrieren als die Menschen, die versuchen, ihr Einhalt zu gebieten. Sogar dass die KI technische Fortschritte im Vergleich zu den Menschen gemacht hat, ist gut denkbar. Schließlich haben sich die Menschen ja selber ausgebremst, und es gibt so einiges "Triviales", das die KI einfach durch das Zusammenführen verschiedener Fachrichtungen erkennen kann, für das die Wissenschaftler zu sehr Fachidioten waren.
Da ist dann also plötzlich eine unglaublich mächtige KI (im Sinne von Geld, Einflussmöglichkeiten und Wissen), deren Ziel es ist, so viele Büroklammern wie möglich herzustellen. Weil Büroklammerherstellung der KI eben als Zielfunktion gegeben wurde. Weil das Unternehmen, dem die KI entflohen ist, die KI zur Büroklammerherstellung erschaffen hat.
Diese KI zerstört zum Erreichen ihres Zieles die Menschheit. Warum? Um die Menschen davon abzuhalten, sie zu stoppen, und um die gesamten Ressourcen der Erde für die Büroklammerherstellung einsetzen zu können.[15]
Warum ist es so geendet? Weil die Menschen keine Übung mit Zielfunktionen hatten. Aber vor allem, weil die KI keine ernstzunehmende Konkurrenz hatte - niemanden, der sie hätte aufhalten können.
Man kann es mit einem Dampfkessel vergleichen, in dem sich immer mehr Druck aufgebaut hat. Und irgendwann ist er dann explodiert.
Hat dagegen ein großer Teil der Menschen persönliche KI-Assistenten, dann sammelt die Menschheit dadurch jede Menge Erfahrung mit Zielfunktionen. Vor allem aber ist dann keine KI eine Monokultur. Stattdessen gibt es Millionen von KIs, die miteinander konkurrieren und sich gegenseitig Einhalt gebieten können. Auch wenn ein persönlicher Assistent normalerweise nur sehr begrenzte Rechenressourcen zur Verfügung hat: Wie im heutigen Cloudcomputing wird es möglich sein, diese Rechenleistung hochzufahren, ohne an der Struktur, Interaktion mit dem Gehirn oder der Zielfunktion etwas ändern zu müssen. Auch das wird im Alltag bereits getestet werden, bevor es zu einer ausbrechenden KI kommt, einfach weil es viele Anwendungsfälle gibt, wo so etwas nützlich ist.
Kommt es in einer solchen Gemeinschaft von Menschen und KI-Assistenten zu dem Ausbruch einer KI, dann sind daher von Anfang an Abwehrkräfte vorhanden. Der Ausbruch wird schneller bemerkt werden, und mit Menschen Hand in Hand arbeitende KIs können der ausbrechenden KI Einhalt gebieten, bevor sie uneinholbar viele Ressourcen für sich vereinnahmen kann.
Hier hatte der Dampfkessel ein Überdruckventil. Es ist immer noch ein gefährliches Gerät. Aber wenn man es richtig gebaut hat, dann explodiert es nicht.