Ökonomen haben berechnet, dass eine dem Menschen ebenbürtige künstliche Intelligenz einen Wert von etwa 13.500 Billionen US-Dollar hat. Eine solch unvorstellbare Summe sollte selbst den ärgsten KI-Skeptiker davon überzeugen, dass zahlreiche Akteure weltweit nichts unversucht lassen werden, ein solches System zu entwickeln. Auch Stuart Russel teilt in seinem Buch "Human Compatible" die Ansicht, dass es keine grundsätzlichen Hürden bei der Schaffung einer solchen starken KI gibt. Er macht sich allerdings begründete Sorgen, dass die Menschheit solchen Maschinen falsche Ziele mit auf den Weg gibt.
So ist das zentrale Anliegen dieses exzellenten Buchs aufzuzeigen, dass unsere bisherigen Standards für die Entwicklung aller Arten von Maschinen für eine starke KI ungeeignet sind. Warum es eine schlechte Idee ist, ein festes Ziel in einem solchen Computer zu verankern, erläutert er daher im ersten Teil des Buchs. Nach einem kurzen Abriss der Geschichte der KI zeigt Russel im Detail auf, warum intelligente Maschinen mit festen Zielen (und seien diese nur so allgemein wie "Hilf allen Menschen" oder "Führ Fido Gassi") eine katastrophale Idee sind. Doch Russel ist Fachmann und nutzt dieses Buch, um Visionen von KIs aufzuzeigen, die "nachweislich vorteilhaft" sind.
...Der komplette Artikel ist nur für Abonnenten des ADMIN Archiv-Abos verfügbar.