Was ist eine KI überhaupt? Mustafa Süleyman

Was sollten wir lernen über die Zukunft von KI Künstlicher Intelligenz?

In diesem Video spricht Mustafa Suleyman über die Entwicklung und die Bedeutung der künstlichen Intelligenz (KI) in der modernen Gesellschaft. Seit ihrer frühen Unterschätzung als Randphänomen hat KI mittlerweile enorme Fortschritte gemacht und sie verändert zunehmend alle Lebensbereiche. Suleyman betont die Notwendigkeit, KI als eine digitale Spezies zu verstehen, die als neuer Partner in unserem Leben fungiert. Zudem wird die Bedeutung der richtigen Einordnung und Beschreibung von KI hervorgehoben, damit wir die Technologie verantwortlich nutzen können.

Die Zukunft der KI Künstlichen Intelligenz

Wenn es um künstliche Intelligenz geht, was erschaffen wir eigentlich? Selbst diejenigen, die der Entwicklung am nächsten stehen, haben Schwierigkeiten, genau zu beschreiben, wohin die Reise geht, sagt Mustafa Suleyman, CEO von Microsoft AI, einer der Hauptarchitekten der KI-Modelle, die viele von uns heute verwenden. Er bietet eine ehrliche und überzeugende neue Vision für die Zukunft der KI und schlägt eine unübersehbare Metapher vor – eine neue digitale Spezies –, um die Aufmerksamkeit auf diesen außergewöhnlichen Moment zu lenken. (Im Anschluss an ein Q&A mit dem Leiter von TED, Chris Anderson)

Ich möchte Ihnen sagen, was ich kommen sehe. Ich habe das Glück, seit fast 15 Jahren an KI zu arbeiten. Sie damals als Randerscheinung zu beschreiben, wäre untertrieben. Forscher sagten: „Nein, wir arbeiten nur an maschinellem Lernen.“
An KI zu arbeiten, galt als abgehoben. 2010 erntete man bei der bloßen Erwähnung von “AGI”,
künstlicher allgemeiner Intelligenz, seltsame Blicke oder man wurde ignoriert. „Ihr baut tatsächlich AGI?“, wurde man gefragt. „Ist das nicht Science-Fiction?“ Die Leute dachten, das sei noch 50 oder 100 Jahre entfernt, wenn es überhaupt möglich wäre.
Über KI zu reden, war irgendwie peinlich. Die Leute hielten uns allgemein für seltsam. Gewissermaßen waren wir das wohl auch.

Welche Plattform für künstliche Intelligenz kann wofür genutzt werden

Doch schon nach kurzer Zeit besiegte die KI den Menschen bei einer Reihe von Aufgaben,
die man ihr eigentlich nicht zugetraut hatte:

• Bilder verstehen,
• Sprachen übersetzen,
• Sprache transkribieren,
• Go und Schach spielen
• und sogar Krankheiten diagnostizieren.

KI-Tools zur Videoanalyse und -Zusammenfassung

Man begann zu begreifen, dass KI enormen Einfluss haben würde. Und man stellte Technologen wie mir zu Recht ziemlich schwierige Fragen:

• Stimmt es, dass KI die Klimakrise lösen wird?
• Macht sie personalisierte Bildung für alle zugänglich?
• Bekommen wir alle ein bedingungsloses Grundeinkommen und müssen nicht mehr arbeiten?
• Müssen wir Angst haben?
• Was bedeutet das für Waffen und Krieg?
• Und natürlich: Wird China gewinnen?
• Sind wir Konkurrenten?
• Steuern wir auf eine Massenapokalypse der Fehlinformationen zu?

Was ist eigentlich eine KI?

Alles gute Fragen. Aber es war eine einfachere und viel grundlegendere Frage, die mich stutzig machte. Eine, die meine tägliche Arbeit auf den Punkt bringt.
Eines Morgens spielte mein sechsjähriger Neffe Caspian beim Frühstück mit Pi, der KI, die ich bei Inflection, meiner letzten Firma, entwickelt hatte. Den Mund voller Rührei, sah er mich an und sagte: „Mustafa, was ist eigentlich eine KI?”
Er ist so ein offener, neugieriger, optimistischer kleiner Kerl. Er hatte mit Pi darüber gesprochen, wie cool es wäre, wenn er eines Tages Dinosaurier im Zoo besuchen könnte. Und wie er zu Hause unendlich viel Schokolade herstellen könnte. Und warum Pi noch nicht “I Spy” spielen konnte.
“Nun”, sagte ich, “es ist eine clevere Software, die sehr viele Texte im freien Internet gelesen hat
und mit dir über alles Mögliche reden kann.“
„Okay.
Also wie ein Mensch?“
Ich war baff. Ich kratze mich am Kopf.
All meine langweiligen Standardantworten gingen mir durch den Kopf. „KI ist nur eine weitere Allzwecktechnologie wie Drucken oder Dampf.
Es wird ein Tool sein, das uns ergänzt und uns intelligenter und produktiver macht.
Wenn sie mit der Zeit besser wird, ist sie wie ein allwissendes Orakel, mit dessen Hilfe wir große wissenschaftliche Fragen lösen.“
All diese Antworten klangen ein bisschen defensiv. Besser geeignet für ein Politikseminar
als für ein Frühstück mit einem sachlichen Sechsjährigen.
„Warum zögere ich?“, fragte ich mich.
Seien wir mal ehrlich. Mein Neffe stellte mir eine einfache Frage, mit der wir, die an KI arbeiten, einfach nicht oft genug konfrontiert werden.
Was entwickeln wir da eigentlich? Was bedeutet es, etwas völlig Neues zu machen, grundlegend anders als jede bisherige Erfindung?
Es ist klar: Wir stehen an einem Wendepunkt in der Geschichte der Menschheit. Auf unserem aktuellen Weg entsteht gerade etwas, das wir alle nur schwer beschreiben können. Aber was wir nicht verstehen, können wir nicht steuern. Die Metaphern, die geistigen Modelle, die Namen,
all das ist wichtig, wenn wir das Beste aus KI herausholen und gleichzeitig potenzielle Nachteile begrenzen wollen.

Ethische Aspekte der KI Künstlichen Intelligenz

Als Menschen, die die Möglichkeiten dieser Technologie schätzen, denen aber auch ethische Aspekte am Herzen liegen, sollten wir ganz einfach beschreiben können, was wir da gerade entwickeln. Selbst einem Sechsjährigen.

Künstliche Intelligenz KI in Zukunft ein alltäglicher Begleiter

In diesem Sinne biete ich heute die folgende Metapher an, damit wir besser begreifen können, was gerade passiert. Ich denke, KI sollte als eine Art neue digitale Spezies verstanden werden.
Nehmen Sie das nicht zu wörtlich, aber ich sage voraus, dass wir sie als digitalen Begleiter betrachten werden. Als neuen Partner auf der Reise durch unser ganzes Leben. Egal, ob Sie glauben, dass es hier um 10, 20 oder 30 Jahre geht.
Das ist wohl die genaueste und ehrlichste Art zu beschreiben, was tatsächlich passiert.
Vor allem ermöglicht es jedem, sich darauf vorzubereiten und mitzugestalten, wie es weitergeht.
Das ist eine starke Behauptung, und ich werde so gut ich kann erklären, warum ich sie aufstelle.
Zuerst möchte ich den Kontext darstellen.

Von den allerersten winzigen Organismen an reicht das Leben auf der Erde Jahrmilliarden zurück.
In dieser Zeit hat es sich weiterentwickelt und differenziert. Dann, vor ein paar Millionen Jahren, veränderte sich etwas. Nach unzähligen Zyklen von Wachstum und Anpassung begann einer der Zweige des Lebens, Werkzeuge zu benutzen, und aus diesem Zweig entstanden wir.
Wir entwickelten eine faszinierende Vielfalt von Werkzeugen, erst langsam und dann unglaublich schnell. Von Steinäxten und Feuer zu Sprache, Schrift und schließlich industriellen Technologien.
Jede Erfindung führte zu tausend weiteren. Mit der Zeit wurden wir zum Homo technologicus.

Vor rund 80 Jahren begann ein weiterer neuer Technologiezweig. Mit Erfindung des Computers gingen wir rasch von den ersten Großrechnern und Transistoren zu den heutigen Smartphones und Virtual-Reality-Headsets über. Information, Wissen, Kommunikation, Berechnung.
In dieser Revolution verlief die Entwicklung explosionsartig wie nie zuvor.
Jetzt rollt eine neue Welle auf uns zu: künstliche Intelligenz.
Diese Wellen der Geschichte werden immer schneller, jede wird durch die vorige verstärkt und beschleunigt. Wenn man zurückblickt, befinden wir uns offenbar auf der schnellsten und folgenreichsten Welle aller Zeiten.
Die Wege von Menschheit und Technologie sind heute eng miteinander verwoben.
In nur 18 Monaten haben über eine Milliarde Menschen große Sprachmodelle genutzt. Wir erleben ein wegweisendes Ereignis nach dem anderen.

Noch vor ein paar Jahren meinte man, KI würde nie kreativ sein. Dennoch erscheint KI heute wie ein endloser Fluss der Kreativität, der Poesie, Bilder, Musik und Videos erzeugt und so die Fantasie anregt. Es hieß, KI werde nie empathisch sein. Und doch führen heute Millionen Menschen sinnvolle Gespräche mit ihr über Hoffnungen und Träume und zur Bewältigung von heiklen emotionalen Herausforderungen.

KI kann Autos steuern, Energienetze verwalten und sogar neue Moleküle erfinden. Noch vor ein paar Jahren war das alles unmöglich. All das wird noch beschleunigt durch exponentiell ansteigende Daten- und Berechnungsmengen. Letztes Jahr benötigte unser neuestes Modell, Inflection 2.5, fünf Milliarden Mal mehr Rechenleistung als die DeepMind-KI, die vor etwas mehr als zehn Jahren die Atari-Spiele der alten Schule schlug.
Das heißt neun Größenordnungen mehr Rechenleistung. 10x pro Jahr, jedes Jahr, seit fast einem Jahrzehnt. Im gleichen Zeitraum wuchs die Größe dieser Modelle von zunächst zig Millionen Parametern auf Milliarden Parameter und sehr bald auf Dutzende Billionen Parameter.

Beispiel für die Überlegenheit von KI Künstlicher Intelligenz gegenüber dem Menschen

Wenn jemand sein ganzes Leben lang 24 Stunden am Tag lesen würde, würde er acht Milliarden Wörter lesen. Das ist natürlich eine Menge. Aber heute nehmen die fortschrittlichsten KIs
in einem einzigen Trainingsmonat über acht Billionen Wörter auf. Und all das geht noch weiter.
Die lange Geschichte der Technologie befindet sich in einer außergewöhnlichen neuen Phase.

Was bedeutet das in der Praxis? So wie uns das Internet den Browser und das Smartphone die Apps gab, läutet der cloudbasierte Supercomputer eine neue Ära allgegenwärtiger KIs ein.
Bald wird alles durch eine Konversationsschnittstelle repräsentiert. Oder, anders ausgedrückt, durch eine persönliche KI. Diese KIs haben unendlich viel Wissen und werden bald sachlich genau und zuverlässig sein. Sie haben einen nahezu perfekten IQ, dazu einen außergewöhnlichen EQ.
Sie sind freundlich, hilfsbereit und einfühlsam.

Allein diese Elemente wären transformativ. Stellen Sie sich vor, jeder hätte seinen eigenen Tutor in der Tasche und Zugang zu kostengünstiger medizinischer Beratung. Zu Anwälten und Ärzten,
Unternehmensstrategen und Coaches. All das 24 Stunden pro Tag in der Tasche.

Einzug der KI Künstlichen Intelligenz in Zukunft bei Firmen, Organisationen und Regierungen

Aber alles wird noch ganz anders, wenn das entwickelt wird, was ich HQ nenne: den „Handlungsquotienten“ – die Fähigkeit, in der digitalen und physischen Welt tatsächlich etwas zu erreichen. Schon bald werden nicht nur Menschen über KIs verfügen.
Seltsamerweise wird jede Einrichung – Kleinunternehmen, gemeinnützige Organisationen, nationale Regierungen – ihre eigene KI haben. Jede Stadt, jedes Gebäude und jedes Objekt
wird durch eine einzigartige interaktive Persona repräsentiert. Das sind nicht nur mechanische Assistenten, sondern Weggefährten, Vertraute, Kollegen, Freunde und Partner, so vielfältig und einzigartig wie wir alle.

Zukünftige Aufgaben der KI Künstlichen Intelligenz

An diesem Punkt können KIs den Menschen bei den meisten Aufgaben überzeugend nachahmen.
Wir werden das auf der intimsten Ebene spüren.

• Eine KI organisiert ein Treffen für einen älteren Nachbarn.
• Ein mitfühlender Experte erklärt eine schwierige Diagnose.
• Aber wir spüren es auch in den höchsten Dimensionen. Schnellere wissenschaftliche Erkenntnisse,
• autonome Autos auf den Straßen,
• Drohnen am Himmel.
• Sie werden Essen zum Mitnehmen bestellen und Kraftwerke betreiben.
• Sie werden mit uns interagieren und natürlich auch miteinander.
• Sie werden alle Sprachen sprechen,
• jedes Muster an Sensordaten, Anblicke, Geräusche und gewaltige Informationsströme aufnehmen,
• weit mehr als das, was jeder von uns in tausend Leben aufnehmen könnte.

Die notwendige zukünftige Kontrolle der KI Künstlichen Intelligenz vor unabsehbaren Folgen

Was ist das also? Was sind diese KIs?
Wenn wir Sicherheit über alles andere stellen wollen, um zu garantieren, dass diese neue Welle immer der Menschheit dient, dann müssen wir die richtigen Metaphern dafür finden, was daraus werden könnte.
Seit Jahren tendieren wir und speziell ich in der KI-Community dazu, sie nur als Werkzeuge zu bezeichnen. Aber das trifft nicht wirklich, was hier passiert. KIs sind eindeutig dynamischer,
mehrdeutiger, integrierter und aufstrebender als bloße Werkzeuge, die völlig der menschlichen Kontrolle unterliegen.

Um diese Welle zu kontrollieren, menschliche Handlungsfähigkeit in den Mittelpunkt zu stellen
und die unvermeidlichen unbeabsichtigten Folgen abzumildern, die sich wahrscheinlich ergeben,
sollten wir sie als eine Art neue, digitale Spezies behandeln. Das ist nur eine Analogie, es ist keine wörtliche Beschreibung und nicht perfekt.

KI Künstliche Intelligenz im Vergleich mit dem Menschen

Zunächst einmal sind KIs nicht biologisch im herkömmlichen Sinne, aber halten Sie einfach kurz inne und überlegen, was sie bereits können.

• Sie kommunizieren in unseren Sprachen.
• Sie sehen, was wir sehen.
• Sie konsumieren unvorstellbare Mengen an Informationen.
• Sie haben ein Gedächtnis.
• Sie haben eine Persönlichkeit.
• Sie sind kreativ.
• Sie können sogar bis zu einem gewissen Grad denken und rudimentäre Pläne schmieden.
• Sie können autonom handeln, wenn wir sie lassen.

All das tun sie mit einer Raffinesse, die weit über alles hinausgeht, was wir von Werkzeugen kennen.
Zu sagen, KI sei hauptsächlich Mathematik oder Code, ist, als würde man sagen, dass wir Menschen hauptsächlich Kohlenstoff und Wasser sind.

Die Risiken der KI Künstlichen Intelligenz in Zukunft beachten

Es stimmt, geht aber völlig am Kern vorbei. Das ist ein äußerst fesselnder Gedanke, aber ich glaube, dieser Rahmen trägt dazu bei, unseren Blick für die entscheidenden Themen zu schärfen.

• Was sind die Risiken?
• Welche Grenzen müssen wir ziehen?
• Welche Art von KI wollen wir bauen oder zulassen?

Das alles steckt noch in der Entwicklung. Nichts sollte als gegeben akzeptiert werden. Wir alle müssen wählen, was wir erschaffen. Welche KIs wir in die Welt bringen oder eben nicht.
Das sind Fragen, die uns alle heute hier betreffen. Und alle Menschen, die gerade leben.
Für mich liegen die Vorteile dieser Technologie auf der Hand und sie inspirieren mein Lebenswerk jeden Tag aufs Neue. Aber sie werden sicher für sich selbst sprechen.

Ich habe mich nie gescheut, Risiken hervorzuheben und über Nachteile zu sprechen. Diese Denkweise hilft, uns auf die großen Herausforderungen zu konzentrieren.
Klar ist aber: Es gibt keinen Weg zum Fortschritt ohne Technologie.
Der Gewinn für die gesamte Zivilisation ist immens. Wir brauchen Lösungen im Gesundheits- und Bildungswesen, für die Klimakrise. Wenn KI nur einen Bruchteil ihres Potenzials ausschöpft,
wird das nächste Jahrzehnt das produktivste in der Menschheitsgeschichte.
Oder, anders betrachtet: Früher war die Förderung des Wirtschaftswachstums oft mit enormen Nachteilen verbunden.
Die Wirtschaft expandierte mit der Entdeckung neuer Kontinente und öffnete neue Grenzen. Aber gleichzeitig wurden Völker kolonialisiert. Wir bauten Fabriken, aber es waren düstere und gefährliche Arbeitsorte. Wir stießen auf Öl, aber wir verschmutzten den Planeten.

KI Künstliche Intelligenz verändert die Zukunft der Welt

Jetzt, da wir KI entwerfen und entwickeln, haben wir die Gelegenheit, es besser zu machen, wesentlich besser. Heute entdecken wir keinen neuen Kontinent und plündern seine Ressourcen.
Wir bauen einen von Grund auf neuen. Manche sagen, dass Daten oder Chips das Erdöl des 21. Jahrhunderts sind, aber das ist ein völlig falsches Bild. KI ist für den Verstand, was Kernfusion für Energie ist: Grenzenlos, reichlich vorhanden, weltverändernd.
KI ist wirklich anders.
Das bedeutet, dass wir kreativ und ehrlich darüber nachdenken müssen. Wir müssen unsere Analogien und Metaphern bis an die Grenzen treiben, um mit dem, was kommt, umgehen zu können. Denn es ist nicht einfach eine weitere Erfindung. KI selbst ist ein undendlicher Erfinder.
Das ist aufregend, vielversprechend, besorgniserregend und faszinierend zugleich.

Ehrlich gesagt, es ist ziemlich surreal. Aber wenn man einen Schritt zurücktritt und das Ganze langfristig seit der Eiszeit betrachtet, sind das wirklich die treffendsten Metaphern, die wir haben.
Seit Beginn des Lebens auf der Erde haben wir uns weiterentwickelt, verändert und alles geschaffen, was uns in der heutigen Welt umgibt.
KI findet nicht außerhalb dieser Geschichte statt. Ganz im Gegenteil. Sie ist die Gesamtheit von allem, was wir geschaffen haben, zusammengefasst zu etwas, womit wir alle interagieren und wovon wir profitieren können.
Es ist ein Spiegelbild der Menschheit im Laufe der Zeit. So gesehen ist es gar keine neue Spezies.
Hier enden die Metaphern.
Wenn Caspian mich das nächste Mal fragt, sage ich:

• KI existiert nicht separat.
• KI ist in gewisser Weise nicht einmal neu.
• KI sind wir.
• Wir alle.

Das ist vielleicht das Vielversprechendste und Wichtigste überhaupt, wofür selbst ein Sechsjähriger ein Gefühl bekommen kann.
Bei der Entwicklung der KI können und müssen wir all das spiegeln, was gut ist, alles, was wir lieben, alles, was besonders an der Menschheit ist:

• Einfühlungsvermögen, Freundlichkeit,
• Neugier und Kreativität.

Ich glaube, das ist die größte Herausforderung des 21. Jahrhunderts, aber auch die wunderbarste,
inspirierendste und hoffnungsvollste Chance für uns alle.
Danke.
(Applaus)
Chris Anderson: Danke, Mustafa.
Es ist eine unglaubliche Vision und eine superstarke Metapher. Du bist gerade in einer tollen Position. Du warst von Anfang an in die Arbeit involviert, die bei OpenAI passiert. Dir werden Ressourcen zur Verfügung gestellt, es gibt Berichte über diese riesigen neuen Rechenzentren,
100 Milliarden Dollar Investitionen und so weiter. Daraus kann eine neue Spezies hervorgehen.

In deinem Buch zeichnest du nicht nur eine unglaublich optimistische Vision, sondern sprichst auch sehr eloquent über die Gefahren der KI. Und ich frage mich, aus deiner jetzigen Sicht:
Was hält dich nachts vor allem wach?

Mustafa Suleyman: Das große Risiko ist die Pessimismus-Abneigungsfalle. Wir müssen den Mut haben, uns potenziell düsteren Szenarien zu stellen, um das Beste aus all den Vorteilen herauszuholen. Zum Glück hat es in den letzten zwei, drei Jahren sehr wenige Nachteile gegeben, oder? Es ist sehr schwer, explizit zu sagen, welchen Schaden ein LLM angerichtet hat. Das heißt aber nicht, dass das in den nächsten zehn Jahren so bleibt. Ich denke also, man sollte auf einige spezifische Fähigkeiten achten, etwa Autonomie. Autonomie ist offenbar eine Schwelle, die zu überschreiten das Risiko für die Gesellschaft erhöht. Da sollten wir ganz genau hinschauen.
Das andere wäre so etwas wie rekursive Selbstverbesserung. Würde man dem Modell erlauben, sich selbstständig zu verbessern, seinen Code zu aktualisieren, eine Umgebung ohne Aufsicht zu erkunden – ohne Kontrolle eines Menschen, der einen Kurswechsel vornimmt –, wäre das natürlich gefährlicher.
Aber davon sind wir wohl noch weit entfernt. Das dauert noch fünf bis zehn Jahre. Doch wir sollten jetzt schon darüber sprechen.

Chris: Eine digitale Spezies kann sich im Gegensatz zu jeder biologischen nicht in neun Monaten,
sondern in Nanosekunden replizieren und eine unbestimmte Anzahl Kopien ihrer selbst produzieren, die in vielerlei Hinsicht mehr Macht hat als wir. Die Möglichkeit unbeabsichtigter Folgen scheint ziemlich groß. Ist es wahr, dass ein Problem in einer Stunde auftreten kann?

Mustafa: Nein. Das stimmt wirklich nicht. Ich denke, es gibt dafür keine Beweise. Es wird oft als „Intelligenzexplosion“ bezeichnet. Ich denke, es ist ein theoretisches, hypothetisches “Vielleicht”,
das wir alle gern erforschen würden, aber es gibt keine Beweise, dass wir auch nur annähernd so weit sind. Wir müssen unsere Worte sehr sorgfältig wählen. Du hast Recht, das ist eine Schwäche der Spezies-Bezeichnung, dass wir die Fähigkeit zur Selbstreplikation hineinkonstruieren, wenn Menschen sich dafür entscheiden. Wir sollten das wohl nicht tun. Das wäre eine gefährliche Fähigkeit, von der wir Abstand nehmen sollten.

Chris: Es besteht also keine Gefahr, dass das versehentlich „auftaucht“.

Mustafa: Ich denke, das ist wirklich sehr unwahrscheinlich. Es wird passieren, wenn Ingenieure diese Funktionen bewusst einbauen. Wenn sie sich nicht genug Mühe geben, sie bewusst auszuschließen. Genau darum geht es: explizit und transparent zu versuchen, schon früh „safety by design“ einzuführen.
Chris: Danke. Deine Vision, dass wir Menschen in diese neue Sache die besten Teile von uns selbst einbringen und all diese seltsamen, biologischen, verrückten, schrecklichen Tendenzen vermeiden, die wir bisweilen haben – das ist eine sehr inspirierende Vision.
Vielen Dank, dass du das hier bei TED vorgestellt hast.
Danke, viel Glück.
(Applaus)