12.01.2021 - Max-Planck-Institut für Bildungsforschung

Superintelligente Maschinen wären nicht kontrollierbar

Würde die KI Krebs heilen, den Weltfrieden herbeiführen und die Klimakatastrophe verhindern? Oder würde sie die Menschheit vernichten und die Erde übernehmen?

Maschinen, die Autos steuern, Symphonien komponieren oder Menschen im Schach besiegen, faszinieren uns. Während in der Künstlichen Intelligenz (KI) ständig neue Fortschritte gemacht werden, gibt es von Seiten der Wissenschaft und der Philosophie auch Warnungen vor den Gefahren einer unkontrollierbaren, superintelligente KI. Ein internationales Forscherteam unter Beteiligung des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung zeigt anhand theoretischer Berechnungen, dass es nicht möglich ist, eine superintelligente KI zu kontrollieren.

Angenommen jemand würde eine Künstliche Intelligenz (KI) programmieren, deren Intelligenz dem Menschen überlegen wäre und die selbstständig alles lernen könnte. Angeschlossen an das Internet hätte die KI Zugriff auf alle Daten der Menschheit, sie könnte alle bestehenden Programme ersetzen und alle ans Internet angeschlossenen Maschinen kontrollieren. Ist das eine Utopie oder ein Horrorszenario? Würde die KI Krebs heilen, den Weltfrieden herbeiführen und die Klimakatastrophe verhindern? Oder würde sie die Menschheit vernichten und die Erde übernehmen?

In den Computerwissenschaften und der Philosophie stellt sich die Frage, ob wir eine superintelligente KI überhaupt kontrollieren könnten, sodass sie der Menschheit nicht schadet. Ein internationales Team von Computerwissenschaftlern zeigt anhand theoretischer Berechnungen, dass es grundsätzlich unmöglich ist, eine superintelligente KI zu kontrollieren.

„Eine superintelligente Maschine, die die Welt kontrolliert, klingt nach Science-Fiction. Doch schon heute gibt es Maschinen, die bestimmte wichtige Aufgaben selbständig erledigen, ohne dass diejneigen, die sie programmiert haben, komplett verstehen, wie sie das gelernt haben. Daher stellt sich für uns die Frage, ob das für die Menschheit irgendwann unkontrollierbar und gefährlich werden könnte“, sagt Manuel Cebrian, Leiter der Forschungsgruppe „Digitale Mobilisierung“ am Forschungsbereich Mensch und Maschine am Max-Planck-Institut für Bildungsforschung und Co-Autor der Studie.

Forschende weltweit haben zwei Ideen entwickelt, wie eine superintelligente KI kontrolliert werden könnte. Zum einen könnte man die Ressourcen der superintelligenten KI gezielt einschränken, indem man sie beispielsweise vom Internet und allen anderen technischen Geräten abschottet, so dass sie keinen Kontakt zur Außenwelt hat – doch wären dadurch auch die Fähigkeiten der superintelligente KI deutlich geringer. Die großen Menschheitsprobleme würde sie so nicht lösen. Die andere Option wäre, die KI von vornherein zu motivieren, nur Ziele zu verfolgen, die im Interesse der Menschheit liegen, zum Beispiel indem man ihr ethische Regeln einprogrammiert. Doch zeigen die Forschenden, dass diese und andere historische oder aktuelle Ideen zur Kontrolle superintelligenter KI ihre Grenzen haben.

Das Forschungsteam konzipierte in seiner Studie einen theoretischen Algorithmus, der sicherstellt, dass eine superintelligenten KI unter keinen Umständen der Menschheit schadet. Dieser Algorithmus simuliert zunächst das Verhalten der KI und stoppt sie, wenn er es als schädlich erachtet. Jedoch zeigt eine genaue Analyse, dass nach aktuellem Stand der Computerwissenschaften ein solcher Algorithmus nicht programmiert werden kann.

„Bricht man das Problem auf einfache Grundregeln aus der theoretischen Informatik herunter, zeigt sich, dass ein Algorithmus, der einer KI befehlen würde, die Welt nicht zu zerstören, versehentlich seine eigenen Prozesse zum Stillstand bringen könnte. Man wüsste dann nicht, ob der Algorithmus die Bedrohung noch analysiert oder ob er aufgehört hat, die schädliche KI einzudämmen. Das macht diesen Algorithmus praktisch unbrauchbar“, sagt Iyad Rahwan, Direktor des Forschungsbereichs Mensch und Maschine.

Auf Basis dieser Berechnungen ist es somit nicht möglich, einen Algorithmus zu programmieren, der erkennt, ob eine KI der Welt Schaden zufügen würde oder nicht. Dazu kommt, dass wir möglicherweise nicht einmal erkennen könnten, ob eine Maschine superintelligent ist. Denn, ob eine Maschine eine dem Menschen überlegene Intelligenz besitzt, lässt sich nach aktuellen Erkenntnissen ebenfalls nicht berechnen.

Die Studie „Superintelligence cannot be contained: Lessons from Computability Theory“ wurde im Journal of Artificial Intelligence Research veröffentlicht. Zu den weiteren Autoren der Studie gehören Andres Abeliuk von der University of Southern California, Manuel Alfonseca von der Autonomen Universität Madrid, Antonio Fernández Anta vom IMDEA Networks Institute und Lorenzo Coviello.

Fakten, Hintergründe, Dossiers
  • künstliche Intelligenz
  • Informatik
Mehr über Max-Planck-Institut für Bildungsforschung
Mehr über Max-Planck-Gesellschaft
  • News

    Neue Klasse von stabilen Nickel-Komplexen entwickelt

    60 Jahre nach Entdeckung des Nickeleffektes am MPI für Kohlenforschung hat das Team um Josep Cornellà am Mülheimer Institut nun einfach herzustellende und stabile Nickel-Stilben Komplexe entwickelt. Die Komponenten sorgen bei Anwendern für hohe Aufmerksamkeit und die Lizensierung läuft äuße ... mehr

    'Kicken' der Atome induziert transparenten Zustand

    Alle photoelektronischen Geräte funktionieren auf der Grundlage, dass die Materialien in ihnen Licht absorbieren, übertragen und reflektieren. Das Verständnis der Photoeigenschaften eines bestimmten Materials auf atomarer Ebene hilft nicht nur bei der Auswahl geeigneter Materialien für eine ... mehr

    Werden sie mit dem Strom schwimmen?

    Drucken mit einem Tintenstrahldrucker ist Teil unseres täglichen Lebens. Die selbe Technologie findet aber auch komplexere Anwendungen in der Elektronik und bei der Trennung von Proteinen. Diese Anwendungen, die noch vor wenigen Jahrzehnten als futuristisch galten, beruhen auf der Qualität ... mehr

  • Videos

    Katalysatoren - Multitalent Katalysator

    Kaum ein Prozess in der chemischen Industrie läuft ohne Katalysatoren. Sie beschleunigen chemische Reaktionen und helfen so, Energie zu sparen und unerwünschte Nebenprodukte zu vermeiden. Viele Reaktionen werden durch Katalysatoren aber auch praktisch erst möglich. mehr

    STED - Lichtblicke in die Nanowelt

    Details die enger als 200 Nanometer beieinander liegen, können mit optischen Mikroskopen nicht mehr unterschieden werden – das entspricht in etwa dem Zweihunderdstel einer Haaresbreite. Grund dafür ist die Wellennatur des Lichts, dessen halbe Wellenlänge in etwa diesen 200 Nanometern entspr ... mehr

    Tuning für Brennstoffzelle

    Die Brennstoffzelle kann klimaschonenden Strom erzeugen, vor allem wenn sie mit Wasserstoff aus regenerativen Quellen wie etwa aus Biomasse betrieben wird. Damit sie aber auch mit Brennstoff aus Holzabfällen oder Stroh optimal arbeitet, benötigt sie eine ausgeklügelte Steuerung. mehr

  • White Paper

    Die Keimzelle der Biobatterie

    Um überschüssigen Strom von Windkraft- und Solaranlagen aufzuheben sind leistungsfähige Batterien und Kondensatoren aus nachhaltigen Materialien gefragt. mehr

  • Forschungsinstitute

    Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V.

    Max-Planck-Institute betreiben Grundlagenforschung in den Natur-, Bio-, Geistes- und Sozialwissenschaften im Dienste der Allgemeinheit. Die Max-Planck-Gesellschaft greift insbesondere neue, besonders innovative Forschungsrichtungen auf, die an den Universitäten in Deutschland noch keinen od ... mehr