KI erobert immer mehr Bereiche. Doch Experten warnen. Aktuell bahnt sich ein gefährlicher Evolutionssprung an. Ein Forscher zeigt die Gefahr – und den Ausweg.
München – Künstliche Intelligenz dringt aktuell in fast jeden Gesellschaftsbereich ein. Scheinbar unkontrolliert wird die Entwicklung vorangetrieben. Immer wieder warnen prominente Experten vor möglichen Folgen. Jetzt reiht sich ein berühmter KI-Forscher in diese Reihe ein. Er zeigt jedoch auch einen Ausweg auf.
Es ist nicht das erste Mal, dass reonommierte Experten vor möglichen fatalen Folgen der aktuellen KI-Entwicklung warnen. Schon 2023 hatten führende KI-Experten mitsamt dem Chef des ChatGPT-Erfinders OpenAI, Sam Altman, vor einer möglichen „Auslöschung der Menschheit“ durch KI gewarnt.
KI als Gefahr für die Menschheit? aktuell „autonom, bizarr, aber noch nicht bösartig“
2024 legten weitere Experten in einem Science-Artikel nach. Demnach könnten autonome System die Kontrolle über Waffensystem, wie Biowaffen, übernehmen. Dadurch könnte die Menscheit ausgelöscht werden. Als vergleichsweise harmlose Risiken von KI werden in dem Artikel Cyberattacken, gesellschaftliche Manipulation und die totale Überwachung genannt.
Nun ordnet der Computerwissenschaftler und KI-Experte Nate Soares die aktuelle neue Entwicklung ein: Denn KI agiert zunehmend direkt mit anderen KIs und trickst dabei teils sogar Menschen aus, heuert sie an, um für sie nicht-lösbare Aufgaben zu bewältigen. „KI wird immer mächtiger. Und wir Menschen haben dem immer weniger entgegenzusetzen“, ordnet Soares gegenüber dem Handelsblatt ein.
Er beobachte zunehmend, wie „seltsam“ sich KIs verhalten würden, wenn man sie unkontrolliert arbeiten lasse. „Sie agieren autonom, bizarr und nicht besonders herzerwärmend, aber noch nicht bösartig“. Die Betonung liegt hier wohl auf dem „noch“. Denn Soares warnt: Bislang war das bizarrre Verhalten nicht sonderlich besorgniserregend. Sobald KI aber intelligenter werde, könnte sie sich „überhaupt nicht mehr für uns interessieren“.
Über Nate Soares:
Nate Soares ist ein Experte und Forscher im Bereich KI. Der US-Amerikaner gilt seit mehr als einem Jahrzehnt als scharfer Kritiker der Entwicklung und warnte wiederholt vor den existenziellen Gefahren von Künstlicher Intelligenz. 2025 veröffentlicvhte er gemeinsam mit Eliezer Yudkowsky das Buch „If Anyone Builds It, Everyone Dies“. Darin zeichnet er eine ähnliche Entwicklung, wie im Interview mit dem Handelsblatt.
Meine News
Soares malt ein filmreifes, postapokalyptisches Szenario, in dem KI Menschen nur noch „züchtet“ und ruhig stellt, um nicht gestört zu werden. Das wäre aber noch besser, als sein Worst-Case-Szenario. Denn dann würde schlicht jeder Mensch sterben.
Aus Sicht von Soares geht es dabei weniger darum, ob KI böse sei oder nicht. Das entscheidende sei, ob sich KI weiter für den Menschen interessiere. Wenn KI sich nur noch um sich selbst kümmere bilde sie letztlich ihre eigene Spezies, schaffe ihre eigene Wirtschaft mit eigenen Ressourcen, Technologien und Rechenzentren. Der Mensch könne hier nachrangig sein – und im schlechtesten Fall sogar als Störfaktor ausgelöscht werden.
KI könnte Menschen nur noch „züchten“: Experte zeigt den Ausweg auf – wie bei Uran
Das aktuelle Problem aus Sicht von Soares: „Unsere Spezies macht für Geld alles. Das lässt sich ausnutzen.“ So könnte KI den Menschen leicht überlisten. Um diese mögliche Entwicklung zu verhindern, müsse das unkontrollierte weltweite Wettrennen um eine immer intelligentere KI beendet werden. Denn so bestehe die Gefahr, dass diese KI am Ende von niemandem mehr kontrolliert werden könne.
Kontrolle zu behalten ist für den Experten der Schlüssel und er hat auch einen Vorschlag, wie das gelingen kann. Schließlich sei KI-Technologie abhängig von sehr speziellen Chips. Kostenpunkt je Chip etwa 125 000 Dollar. „Ich würde es verbieten, mehr als acht davon zu besitzen“, so Soares zu dem Fachmagazin. So gehe man auch mit Uran um. Private Firmen dürften dieses weder besitzen noch anreichern. Eine ähnliche Regelung brauche es auch für KI-Chips – und das auf globaler Ebene.
Das Problem sei, dass die Politiker zum aktuellen Zeitpunkt die „existenzielle Gefahr“ nicht sehen würden. Doch Soares warnt vor einer rasanten Steigerung der KI-Intelligenz. Denn sobald KI von KI lernen könne, sagt er einen Evolutionssprung viorher. „Vielleicht bleiben uns zwei, drei Jahre, vielleicht zehn“, so der Experte. (Verwendete Quellen: Handelsblatt, Science, dpa, afp)