Superintelligenz bezeichnet eine hypothetische künstliche Intelligenz, die die menschliche kognitive Leistungsfähigkeit in praktisch allen Aufgaben weit übertreffen würde: wissenschaftliches Denken, Kreativität, strategische Planung oder soziale Kompetenzen. Das Konzept wurde durch den Philosophen Nick Bostrom in seinem Buch Superintelligence (2014) bekannt gemacht und unterscheidet sich von der künstlichen allgemeinen Intelligenz (AGI) durch seinen weitaus überlegenen Charakter, der nicht bloß dem Menschen ebenbürtig ist.
Ihre Relevanz ist vor allem prospektiv und mit der Debatte über existenzielle Risiken verknüpft. Fachleute, die sich damit befassen, warnen vor Herausforderungen wie:
- Das Kontrollproblem: sicherzustellen, dass ein System, das leistungsfähiger ist als wir, sichere Ziele verfolgt, die mit menschlichen Werten in Einklang stehen.
- Die Intelligenzexplosion: die Vorstellung, dass eine KI, die zur Selbstverbesserung fähig ist, ihren eigenen Fortschritt unkontrollierbar beschleunigt.
Es ist hervorzuheben, dass Superintelligenz zum jetzigen Zeitpunkt ein theoretisches Szenario ist. Aktuelle Systeme, einschließlich großer Sprachmodelle, sind weit von dieser allgemeinen und autonomen Fähigkeit entfernt, weshalb der Begriff eher in den Bereich der Zukunftsforschung und Ethik als in den der bestehenden Technologie gehört.