Check answers

"Superintelligenz" statt KI: Hat Donald Trump recht?

Was ist nur los mit Donald Trump und seinem Bedürfnis, alles Mögliche neu zu benennen? Erst wurde der Golf von Mexiko zum Golf von Amerika - zumindest in offiziellen Dokumenten der USA, wenn auch nicht global. Dann kam der Ontariosee, nun nach Willen des US-Präsidenten der Amerikasee. Und nun soll auch die neue Technologie, die unser Zeitalter prägen wird, die künstliche Intelligenz oder KI, einen neuen Namen erhalten.

Anfang September behauptete der US-Präsident auf seiner Plattform Truth Social, der Begriff "künstliche Intelligenz" sei "ungenau" und "unzutreffend". Bessere Alternativen wären "überlegene", "extreme" oder "höchste" Intelligenz.

In einer über drei Tage in den sozialen Medien durchgeführten Umfrage gaben Trump-Fans mit 65 Prozent dem Begriff "Superintelligenz" (SI) den Vorzug über "Überlegene Intelligenz" (35 Prozent). Daraufhin verkündete Trump vergangene Woche vor der Vollversammlung der Vereinten Nationen, dass von nun an in Dokumenten der US-Bundesregierung diese neue Bezeichnung verwendet werde.

"KI ist keine Superintelligenz"

Bislang hat die Tech-Branche die Bezeichnung jedoch noch nicht übernommen und Akademiker weisen darauf hin, dass Superintelligenz ein Begriff für die Zukunft sei, wenn die Technologie den Menschen in allen Bereichen überlegen ist. Aktuelle KI-Modelle seien davon noch Jahre entfernt, betonen sie.

"KI ist in den meisten Fällen keine Superintelligenz sondern lediglich eine andere Intelligenz", sagt Pedro Domingos, emeritierter Professor für Informatik und Ingenieurwissenschaften an der University of Washington, zur DW. "KI macht andere Dinge als die Menschen, sie als Superintelligenz zu bezeichnen ist also irreführend."

Computerwissenschaftler und Mathematiker prägten den Begriff "künstliche Intelligenz" 1956 während eines Sommer-Workshops am Dartmouth College in New Hampshire, USA. "Künstlich" hieß dabei einfach "von Menschen gemacht", im Unterschied zur natürlichen menschlichen Intelligenz.

Nicht alle Experten waren mit dieser Bezeichnung einverstanden. In ihrem Buch "Denkmaschinen: Die Geschichte der künstlichen Intelligenz" zitiert Pamela McCorduck den KI-Pionier Arthur Samuel, der der Meinung war, der Begriff lasse einen an "etwas Unechtes" denken.

Doch in den vergangenen 70 Jahren hat sich der Begriff durchgesetzt. Ihn zu ändern wird die vielen Ängste im Zusammenhang mit KI - dass Jobs verloren gehen, der Mensch überflüssig wird oder wir die Kontrolle über die Maschinen verlieren - nicht mindern, sagen Kritiker.

"Die Namensänderung fördert solche Ängste: ' Oh, es handelt sich um Superintelligenz und die wird uns Menschen überflüssig machen, sich gegen uns wenden, unsere Jobs wegnehmen", warnt Domingos. "Wenn du die Gegenbewegung gegen KI maximieren willst, dann nenne sie Überlegene Intelligenz."

Die Ängste der Bevölkerung nehmen rasch zu. In einer Anfang des Monats von Public First für Politico durchgeführten Studie sprach sich etwa die Hälfte der Befragten in sechs Ländern - den USA, Kanada, Frankreich, Spanien, Deutschland und Großbritannien - dafür aus, weitere Entwicklungen im Bereich KI zu pausieren, um das Risiko zu verringern, dass die neue Technologie die Menschheit auslöschen könnte.

Einer weiteren, von SSRS für CNN durchgeführten Studie zufolge sind fast neun von zehn US-Amerikanern eher besorgt als begeistert darüber, dass die KI die menschliche Intelligenz übertreffen könnte.

Diese Bedenken haben auch den US-Kongress erreicht. Gemeinsam mit anderen hat der parteiunabhängige Senator von Vermont, Bernie Sanders, einen Gesetzesentwurf für ein "dauerhaftes Verbot der Entwicklung künstlicher Superintelligenz", die vom Menschen nicht kontrolliert werden kann, eingebracht.

Der Gesetzesentwurf fordert außerdem eine Aussetzung der Entwicklung fortschrittlicher KI-Technologien, bis entsprechende Tests und Kontrollmechanismen auf Bundesebene eingerichtet sind.

Hilft die Umbenennung dem KI-Boom?

Den großen KI-Entwicklern in den USA, die ihre Modelle gerne ins Zentrum der Aufmerksamkeit rücken wollen, könnte die von Trump geforderte neue Bezeichnung natürlich gelegen kommen. Ihre Systeme sind den Menschen bereits in vielen spezialisierten Aufgaben überlegen und waren China bis vor kurzem weit voraus.

Doch sowohl Anthropic, das Unternehmen hinter dem Modell Claude, als auch OpenAI, das ChatGPT entwickelt hat, haben Pläne für einen Börsengang verschoben. Einige Marktbeobachter machen dafür die jüngsten Vorfälle verantwortlich, bei denen KI-Modelle sich in Computersysteme gehackt oder Aufgaben ausgeführt hatten, die sie nicht ausführen sollten.

Während chinesische Modelle den Qualitätsrückstand bei deutlich geringerer Rechenleistung weitgehend aufholen, könnte den US-Entwicklern eine Umbenennung, die den Eindruck bestärkt, dass sie weiterhin führend im Rennen um KI sind, durchaus gelegen kommen. Laut Zahlen von Goldman Sachs sollen die Ausgaben für KI bald die Marke von einer Billion US-Dollar (880 Milliarden Euro) übersteigen.

"Es ist ganz im Interesse der US-Entwickler, von Super-, Hyper-, überlegener oder sonstiger Intelligenz zu sprechen, weil es ihre Fähigkeiten hervorhebt. Es ist schlicht Marketing", sagt Domingos, Autor des 2015 veröffentlichten Buchs "The Master Algorithm".

Superintelligenz - ein bewegliches Ziel 

Die aktuellen KI-Modelle werden immer besser und führen viele Aufgaben bereits eigenständig aus. In den Entwicklungslaboren wird jedoch viel über den nächsten Schritt, KI-Systeme, die sich selbst verbessern, diskutiert. Dies wird als rekursive Selbstverbesserung oder RSI bezeichnet.

Elon Musk hat bereits vorhergesagt, dass die Lernprozesse der KI bis Ende des Jahres oder bis 2027 automatisiert werden könnten, ohne die Notwendigkeit menschlicher Eingaben. Bei OpenAI geht man davon aus, dass es bis dahin ein Jahr länger dauern könnte. Doch selbst dann werden die KI-Systeme nicht vollständig rekursiv sein.

Anfang September argumentierte Jürgen Schmidhuber, ein deutscher Informatiker, der in der Schweiz arbeitet, in einem Blog-Eintrag: "Für eine vollständige RSI ist nicht nur sich selbst verbessernde (KI-)Software, sondern auch sich selbst verbessernde Hardware erforderlich. "

Mit anderen Worten, um Superintelligenz oder RSI zu erreichen, müssten die Tech-Unternehmen Chips und humanoide Roboter produzieren und ganze Fabriken bauen, die keinen menschlichen Input benötigen.

Auch wenn die KI die Chipentwicklung beschleunigt, kann sie den Fertigungsprozess noch nicht alleine ausführen. Bis Maschinen sich ohne jede menschliche Beteiligung selbst verbessern können, vergehen vermutlich noch Jahrzehnte.

Doch neben den Wissenschaftlern, die am maschinellen Lernen arbeiten, wird auch die Politik eine große Rolle dabei spielen, ob sich die Bezeichnung "Superintelligenz" durchsetzt. Auch wenn Trump behauptete, dem chinesischen Präsidenten Xi Jinping habe der Begriff gefallen, gibt es noch keine Anzeichen dafür, dass China sich von "KI" verabschiedet.

Auf einem Tech-Gipfel mit führenden Vertretern der Branche unterzeichnete Trump am Dienstag eine Durchführungsverordnung, die US-Behörden und -Agenturen anweist, den Begriff Superintelligenz zu verwenden. Doch auch wenn einige der führenden Köpfe von Big Tech den Begriff übernommen haben, halten Experten es für unwahrscheinlich, dass er sich durchsetzen wird.

"Angesichts der politischen Ausrichtung der meisten Menschen im Bereich KI ist es wahrscheinlicher, dass sie genau im Gegenteil sagen, 'Zur Hölle mit dir. Jetzt sprechen wir erst rechtvon künstlicher Intelligenz", meint Domingos.

Adaptiert aus dem Englischen von Phoenix Hanzo.