Die Übernahme aus dem Kino kommt mit Maschinenarmeen und rotem Kameraauge. Eine echte Superintelligenz hätte das vermutlich gar nicht nötig. Sie müsste nur eines sein: nützlich. So nützlich, dass wir ihr freiwillig eine Entscheidung nach der anderen übergeben, die Route, die Diagnose, die Geldanlage, den Studienplatz, bis zu dem Punkt, an dem niemand mehr ohne sie entscheidet und niemand mehr prüfen kann, ob ihre Vorschläge unseren Interessen dienen oder ihren.
Die unbequeme Frage dabei: Woran genau würden wir den Unterschied zwischen exzellenter Dienstleistung und stiller Herrschaft festmachen? Gibt es ein Kriterium, einen Test, eine rote Linie? Oder ist eine Übernahme, die sich gut anfühlt, per Definition unsichtbar?
Und die Zusatzfrage für die Optimisten: Wenn die Entscheidungen dadurch messbar besser würden, wäre das überhaupt schlimm?
Hintergrund im Lexikon:
https://www.buchknall.com/glossar/agi/
https://www.buchknall.com/glossar/superintelligenz/
https://www.buchknall.com/glossar/technologische-singularitaet/