KI als Bedrohung – wann ist der Punkt ohne Wiederkehr überschritten?

Der Informatiker und Schriftsteller Karl Olsberg promovierte in den achtziger Jahren zu künstlicher Intelligenz. Seitdem hat sich vieles verändert. Das Thema beschäftigt ihn nach wie vor und auf seinem Blog ki-risiken.de warnt er vor den Gefahren, die die Entwicklung mit sich bringt. Wie viel Zeit bleibt uns noch, bis eine KI außer Kontrolle gerät und eine Bedrohung für die gesamte Menschheit darstellen könnte? In seinem letzten Artikel Wieso ist KI eine existenzielle Bedrohung? vom 21. Mai 2024 hat er einige erschreckende Informationen und Einschätzungen ausgewiesener Experten zusammengetragen. Demnach bleiben uns nur wenige Jahre Zeit.

Hier ein kleiner Auszug aus dem Text, weiter unten die gesamten Ausführungen in einem Video:

Man kann das Unkontrollierbarkeits-Problem in fünf Teilprobleme aufgliedern, die jedes für sich allein bereits sehr problematisch sind:

1. Eine hinreichend intelligente KI strebt automatisch nach Macht
2. Wir können eine KI, die intelligenter ist als wir, kaum kontrollieren
3. Eine hochentwickelte KI, die ihr Ziel konsequent verfolgt, wird höchstwahrscheinlich unsere Zukunft zerstören
4. Wir verstehen nicht, wie moderne KI Entscheidungen trifft
5. Wir wissen nicht, ab wann KI unkontrollierbar wird

Wieso ist KI eine existenzielle Bedrohung? / Karl Olsberg

Könnte eine KI die Regierung eines Landes übernehmen? Das sagt ChatGPT dazu:

Die Übernahme der Regierung eines Landes durch Künstliche Intelligenz (KI) ist ein hypothetisches Szenario und birgt viele ethische, rechtliche und technische Herausforderungen. Obwohl KI-Systeme in der Lage sind, komplexe Aufgaben zu erledigen und Entscheidungen zu treffen, gibt es einige wichtige Punkte zu beachten:

1. Entscheidungsgewalt und Verantwortung: KI-Systeme können Entscheidungen auf der Grundlage von Algorithmen und Daten treffen, aber sie verfügen nicht über menschliches Urteilsvermögen, Moral oder Empathie. Die Übertragung der Regierungsgewalt an KI-Systeme würde die Frage der Verantwortlichkeit und Rechenschaftspflicht aufwerfen, da KI keine ethischen Entscheidungen treffen kann und nicht für ihre Handlungen haftbar gemacht werden kann.
2. Komplexität politischer Prozesse: Die Regierung eines Landes umfasst eine Vielzahl von politischen Prozessen, Verhandlungen, Diplomatie und demokratischen Institutionen, die schwer zu automatisieren sind. KI-Systeme könnten möglicherweise bei der Analyse von Daten und der Bereitstellung von Informationen helfen, aber sie können nicht die menschliche Interaktion, das politische Engagement und die demokratischen Prinzipien ersetzen, die der Regierung zugrunde liegen.
3. Vertrauen und Akzeptanz: Die Übernahme der Regierung durch KI-Systeme würde wahrscheinlich auf erheblichen Widerstand und Skepsis seitens der Bevölkerung stoßen. Die Bürgerinnen und Bürger eines Landes vertrauen ihren Regierungen, um ihre Interessen zu vertreten und ihre Bedürfnisse zu erfüllen. Eine vollständige Automatisierung der Regierungsführung würde das Vertrauen in das politische System untergraben und zu politischer Instabilität führen.

Insgesamt ist die Vorstellung von KI, die die Regierung eines Landes übernimmt, ein weit entferntes und spekulatives Szenario. Es gibt zahlreiche ethische, rechtliche und technische Hürden zu überwinden, bevor KI-Systeme in der Lage wären, die Komplexität der Regierungsführung zu bewältigen und das Vertrauen der Bevölkerung zu gewinnen.

So weit die Ausführungen einer KI zur Bedrohung durch KI. Urteilen Sie selbst!