AI is turning into something totally new (KI) https://wp.me/paI27O-5pS
Helmut’s weekly curated newsletter from TED
AI is turning into something totally new
Ideen, die es wert sind, verbreitet zu werden, haben sich weiterentwickelt, ebenso wie unser Auftrag. Erfahren Sie, warum
00:41 / 22:01
Was ist eigentlich eine KI?
416,415 Ansichten |
Mustafa Suleyman |
TED2024
– April 2024
Transkript lesen
Wenn es um künstliche Intelligenz geht, was erschaffen wir dann eigentlich? Selbst diejenigen, die der Entwicklung am nächsten stehen, haben Schwierigkeiten, genau zu beschreiben, wohin die Reise geht, sagt Mustafa Suleyman, CEO von Microsoft AI, einer der Hauptarchitekten der KI-Modelle, die viele von uns heute nutzen. Er bietet eine ehrliche und überzeugende neue Vision für die Zukunft der KI und schlägt eine unauslöschliche Metapher vor – eine neue digitale Spezies – um die Aufmerksamkeit auf diesen außergewöhnlichen Moment zu lenken. (Gefolgt von einer Frage- und Antwortrunde mit TED-Chef Chris Anderson)
TechnologieComputerInnovationZukunftAIMaschinelles Lernen
Über den Redner
Mustafa Suleyman
Mustafa Süleyman
Geschäftsführer, Microsoft AI
Siehe Sprecherprofil
Mehr erfahren
Die kommende Welle: Technologie, Macht und das größte Dilemma des einundzwanzigsten Jahrhunderts
Mustafa Suleyman, Michael Bhaskar | Crown (2023)
Mustafa Suleyman, Michael Bhaskar – *The Coming Wave: Technologie, Macht und das größte Dilemma des einundzwanzigsten Jahrhunderts*
Dieser Vortrag wurde auf einer offiziellen TED-Konferenz gehalten. Die TED-Redaktion hat sich entschieden, ihn für Sie zu veröffentlichen.
Abschrift (1 Sprache)
Englisch
00:04
Ich möchte Ihnen sagen, was ich kommen sehe. Ich habe das Glück, mich seit fast 15 Jahren mit KI zu beschäftigen. Damals, als ich anfing, wäre es eine Untertreibung, sie als Randerscheinung zu bezeichnen. Die Forscher sagten: “Nein, nein, wir arbeiten nur an maschinellem Lernen”. Denn die Arbeit an künstlicher Intelligenz wurde als viel zu abgehoben angesehen. Im Jahr 2010 erntete man allein für die Erwähnung des Begriffs “AGI”, künstliche allgemeine Intelligenz, ernsthaft merkwürdige Blicke und sogar eine kalte Schulter. “Sie bauen tatsächlich eine AGI?”, hieß es dann. “Ist das nicht etwas aus der Science-Fiction?” Die Leute dachten, das sei noch 50 oder 100 Jahre entfernt, wenn es überhaupt möglich sei. Das Gerede über KI war, glaube ich, irgendwie peinlich. Die Leute hielten uns generell für seltsam. Und ich denke, in gewisser Weise waren wir das auch.
00:56
Es dauerte jedoch nicht lange, bis die KI begann, den Menschen bei einer ganzen Reihe von Aufgaben zu schlagen, von denen man zuvor dachte, sie seien unerreichbar. Bilder zu verstehen, Sprachen zu übersetzen, Sprache zu transkribieren, Go und Schach zu spielen und sogar Krankheiten zu diagnostizieren. Die Menschen begannen zu begreifen, dass die KI enorme Auswirkungen haben würde, und sie stellten Technologen wie mir zu Recht einige ziemlich schwierige Fragen. Ist es wahr, dass KI die Klimakrise lösen wird? Wird sie personalisierte Bildung für alle verfügbar machen? Bedeutet es, dass wir alle ein universelles Grundeinkommen bekommen und nicht mehr arbeiten müssen? Sollte ich Angst haben? Was bedeutet das für Waffen und Krieg? Und natürlich: Wird China gewinnen? Befinden wir uns in einem Wettlauf? Steuern wir auf eine Apokalypse der Massenfehlinformation zu? Alles gute Fragen.
01:51
Aber eigentlich war es eine einfachere und viel grundlegendere Frage, die mich verblüfft hat. Eine, die eigentlich den Kern meiner täglichen Arbeit trifft. Eines Morgens beim Frühstück spielte mein sechsjähriger Neffe Kaspian mit Pi, der KI, die ich in meinem letzten Unternehmen, Inflection, entwickelt hatte. Mit dem Mund voller Rührei schaute er mir direkt ins Gesicht und sagte: “Aber Mustafa, was ist eine KI überhaupt?”
02:21
Er ist so ein aufrichtiger, neugieriger und optimistischer kleiner Kerl. Er hatte mit Pi darüber gesprochen, wie cool es wäre, wenn er eines Tages Dinosaurier im Zoo besuchen könnte. Und wie er zu Hause unendlich viel Schokolade herstellen könnte. Und warum Pi noch nicht I Spy spielen kann. “Nun”, sagte ich, “es ist ein cleveres Stück Software, das die meisten Texte im offenen Internet gelesen hat und mit dir über alles reden kann, was du willst.”
02:48
“Genau. Also wie eine Person?”
02:54
Ich war verblüfft. Ich kratzte mich ernsthaft am Kopf. Alle meine langweiligen Standardantworten schossen mir durch den Kopf. “Nein, aber KI ist nur eine weitere Allzwecktechnologie, wie Drucken oder Dampf.” Sie wird ein Werkzeug sein, das uns ergänzt und uns intelligenter und produktiver macht. Und wenn sie mit der Zeit immer besser wird, wird sie wie ein allwissendes Orakel sein, das uns hilft, große wissenschaftliche Herausforderungen zu lösen. Wissen Sie, all diese Antworten fühlten sich, glaube ich, ein wenig defensiv an. Und eigentlich passen sie besser zu einem Politikseminar als zu einem Frühstück mit einem unerschrockenen Sechsjährigen. “Warum zögere ich?” dachte ich bei mir.
03:37
Seien wir doch mal ehrlich. Mein Neffe stellte mir eine einfache Frage, mit der wir KI-Fachleute uns nicht oft genug auseinandersetzen. Was ist es eigentlich, das wir erschaffen? Was bedeutet es, etwas völlig Neues zu schaffen, das sich grundlegend von allen Erfindungen unterscheidet, die wir bisher gekannt haben? Es ist klar, dass wir uns an einem Wendepunkt in der Geschichte der Menschheit befinden. Auf unserem derzeitigen Weg steuern wir auf die Entstehung von etwas zu, das wir alle nur mit Mühe beschreiben können, und doch können wir nicht kontrollieren, was wir nicht verstehen. Die Metaphern, die mentalen Modelle, die Namen – all das ist wichtig, wenn wir das Beste aus der KI herausholen und gleichzeitig ihre möglichen Nachteile begrenzen wollen.
04:30
Als jemand, der die Möglichkeiten dieser Technologie begrüßt, dem aber auch ihre Ethik immer am Herzen lag, sollten wir meiner Meinung nach in der Lage sein, leicht zu beschreiben, was wir da bauen. Und das gilt auch für die Sechsjährigen. In diesem Sinne biete ich heute die folgende Metapher an, die uns helfen soll, uns mit dem auseinanderzusetzen, was dieser Moment wirklich ist.
04:52
Ich denke, KI sollte am besten als eine neue digitale Spezies verstanden werden. Nehmen Sie das nicht zu wörtlich, aber ich prophezeie, dass wir sie als digitale Begleiter sehen werden, als neue Partner auf unseren Lebenswegen. Unabhängig davon, ob Sie glauben, dass wir uns hier auf einem 10-, 20- oder 30-jährigen Weg befinden, ist dies meiner Meinung nach die genaueste und grundlegendste Beschreibung dessen, was tatsächlich auf uns zukommt. Und vor allem ermöglicht es jedem, sich auf das Kommende vorzubereiten und es zu gestalten.
05:29
Ich verstehe vollkommen, dass dies eine starke Behauptung ist, und ich werde jedem so gut ich kann erklären, warum ich sie aufstelle. Aber lassen Sie mich zunächst versuchen, den Kontext darzustellen. Von den allerersten mikroskopischen Organismen reicht das Leben auf der Erde Milliarden von Jahren zurück. In dieser Zeit hat sich das Leben entwickelt und diversifiziert. Dann, vor einigen Millionen Jahren, begann sich etwas zu verändern. Nach zahllosen Wachstums- und Anpassungszyklen begann einer der Zweige des Lebens, Werkzeuge zu benutzen, und aus diesem Zweig wuchsen wir. Wir entwickelten eine faszinierende Vielfalt von Werkzeugen, zunächst langsam und dann mit erstaunlicher Geschwindigkeit, von Steinäxten und Feuer bis hin zu Sprache, Schrift und schließlich industriellen Technologien. Eine Erfindung löste tausend weitere aus. Und mit der Zeit wurden wir zum Homo technologicus. Vor etwa 80 Jahren begann ein weiterer neuer Zweig der Technologie. Mit der Erfindung des Computers sprangen wir schnell von den ersten Großrechnern und Transistoren zu den heutigen Smartphones und Virtual-Reality-Headsets. Informationen, Wissen, Kommunikation, Berechnungen. In dieser Revolution ist die Kreativität wie nie zuvor explodiert. Und nun steht eine neue Welle vor der Tür. Die künstliche Intelligenz. Diese Wellen der Geschichte beschleunigen sich eindeutig, denn jede einzelne wird durch die vorhergehende verstärkt und beschleunigt. Und wenn man zurückblickt, ist es klar, dass wir uns in der schnellsten und folgenreichsten Welle aller Zeiten befinden.
07:11
Die Wege der Menschheit und der Technologie sind heute eng miteinander verwoben. In nur 18 Monaten haben über eine Milliarde Menschen große Sprachmodelle genutzt. Wir haben ein bahnbrechendes Ereignis nach dem anderen miterlebt. Noch vor wenigen Jahren hieß es, dass KI niemals kreativ sein würde. Und doch fühlt sich die KI heute an wie ein endloser Fluss der Kreativität, der Gedichte, Bilder, Musik und Videos hervorbringt, die die Vorstellungskraft übersteigen. Die Leute sagten, sie würde nie einfühlsam sein. Und doch erfreuen sich heute Millionen von Menschen an bedeutungsvollen Gesprächen mit KI, in denen sie über ihre Hoffnungen und Träume sprechen und ihnen helfen, schwierige emotionale Herausforderungen zu bewältigen. KI kann heute Autos fahren, Energienetze verwalten und sogar neue Moleküle erfinden. Noch vor wenigen Jahren war all dies unmöglich.
08:03
Und all dies wird durch die exponentielle Entwicklung von Daten und Berechnungen beschleunigt. Letztes Jahr benötigte Inflection 2.5, unser letztes Modell, fünf Milliarden Mal mehr Rechenleistung als die DeepMind-KI, die vor etwas mehr als 10 Jahren die Atari-Spiele der alten Schule besiegte. Das sind neun Größenordnungen mehr an Rechenleistung. 10x pro Jahr, jedes Jahr, fast ein Jahrzehnt lang. In der gleichen Zeit ist die Größe dieser Modelle von zunächst einigen zehn Millionen Parametern auf Milliarden und bald auf Billionen von Parametern angewachsen. Wenn jemand sein ganzes Leben lang 24 Stunden am Tag nichts anderes tun würde als lesen, würde er acht Milliarden Wörter verschlingen. Und das sind natürlich eine Menge Wörter. Aber die fortschrittlichsten KIs verbrauchen heute in einem einzigen Trainingsmonat mehr als acht Billionen Wörter. Und all dies wird sich fortsetzen. Der lange Bogen der Technologiegeschichte befindet sich jetzt in einer außergewöhnlichen neuen Phase.
09:12
Was bedeutet das nun in der Praxis? Nun, so wie uns das Internet den Browser und das Smartphone die Apps beschert hat, läutet der Cloud-basierte Supercomputer eine neue Ära der allgegenwärtigen KI ein. Bald wird alles durch eine dialogorientierte Schnittstelle dargestellt werden. Oder, um es anders auszudrücken, eine persönliche KI. Und diese KI wird unendlich viel wissen, und bald werden sie sachlich genau und zuverlässig sein. Sie werden einen nahezu perfekten IQ haben. Sie werden auch einen außergewöhnlichen EQ haben. Sie werden freundlich, hilfsbereit und einfühlsam sein. Diese Elemente würden für sich genommen schon eine große Veränderung bedeuten. Stellen Sie sich vor, jeder hätte einen persönlichen Tutor in der Tasche und Zugang zu preiswerter medizinischer Beratung. Ein Anwalt und ein Arzt, ein Geschäftsstratege und ein Coach – alles in der Tasche, 24 Stunden am Tag.
10:08
Aber die Dinge beginnen sich wirklich zu ändern, wenn sie das entwickeln, was ich AQ nenne, ihren “Handlungsquotienten”. Das ist ihre Fähigkeit, Dinge in der digitalen und physischen Welt tatsächlich zu erledigen. Und schon bald werden nicht nur Menschen über KI verfügen. So seltsam es auch klingen mag, jede Organisation, vom kleinen Unternehmen über gemeinnützige Organisationen bis hin zur Regierung, wird ihre eigene haben. Jede Stadt, jedes Gebäude und jedes Objekt wird von einer einzigartigen interaktiven Persönlichkeit repräsentiert werden. Und dies werden nicht nur mechanistische Assistenten sein. Sie werden Begleiter, Vertraute, Kollegen, Freunde und Partner sein, so unterschiedlich und einzigartig wie wir alle. Zu diesem Zeitpunkt werden KIs den Menschen bei den meisten Aufgaben überzeugend imitieren. Und wir werden dies auf der intimsten Ebene spüren. Eine KI, die ein Treffen für einen älteren Nachbarn organisiert. Ein einfühlsamer Experte, der Ihnen hilft, eine schwierige Diagnose zu verstehen. Aber wir werden es auch im großen Maßstab spüren. Die Beschleunigung wissenschaftlicher Entdeckungen, autonome Autos auf den Straßen, Drohnen in der Luft. Sie werden sowohl den Imbiss bestellen als auch das Kraftwerk betreiben. Sie werden mit uns und natürlich auch untereinander interagieren. Sie werden jede Sprache sprechen, jedes Muster von Sensordaten, Anblicken, Geräuschen, Strömen und Strömen von Informationen aufnehmen, die weit über das hinausgehen, was ein einzelner von uns in tausend Leben konsumieren könnte.
11:40
Was ist das also? Was sind diese KIs? Wenn wir die Sicherheit über alles stellen und sicherstellen wollen, dass diese neue Welle immer der Menschheit dient und sie verstärkt, dann müssen wir die richtigen Metaphern dafür finden, was daraus werden könnte. Jahrelang haben wir in der KI-Gemeinschaft, und ich ganz besonders, dazu geneigt, dies nur als Werkzeuge zu bezeichnen. Aber das trifft nicht wirklich das, was hier tatsächlich passiert. KI ist eindeutig dynamischer, mehrdeutiger, integrierter und emergenter als bloße Werkzeuge, die vollständig der menschlichen Kontrolle unterliegen.
12:25
Um diese Welle einzudämmen, das menschliche Handeln in den Mittelpunkt zu stellen und die unvermeidlichen unbeabsichtigten Folgen abzumildern, sollten wir anfangen, über sie wie über eine neue Art digitaler Spezies nachzudenken. Das ist nur eine Analogie, keine wörtliche Beschreibung, und sie ist nicht perfekt. Zunächst einmal sind sie natürlich nicht biologisch im herkömmlichen Sinne, aber halten Sie einmal einen Moment inne und denken Sie darüber nach, was sie bereits tun. Sie kommunizieren in unseren Sprachen. Sie sehen, was wir sehen. Sie nehmen unvorstellbar große Mengen an Informationen auf. Sie haben ein Gedächtnis. Sie haben Persönlichkeit. Sie sind kreativ. Sie können sogar bis zu einem gewissen Grad denken und rudimentäre Pläne entwerfen. Sie können selbstständig handeln, wenn wir es ihnen erlauben. Und all das tun sie in einem Ausmaß, das weit über alles hinausgeht, was wir bisher von einem bloßen Werkzeug kannten. Die Behauptung, bei der KI ginge es hauptsächlich um die Mathematik oder den Code, ist so, als ginge es bei uns Menschen hauptsächlich um Kohlenstoff und Wasser. Das ist zwar wahr, aber es geht völlig am Thema vorbei.
13:42
Und ja, ich verstehe, dass dies ein sehr verblüffender Gedanke ist, aber ich glaube wirklich, dass dieser Rahmen dazu beiträgt, unseren Blick auf die entscheidenden Fragen zu schärfen. Was sind die Risiken? Was sind die Grenzen, die wir setzen müssen? Welche Art von künstlicher Intelligenz wollen wir aufbauen oder zulassen, dass sie aufgebaut wird? Dies ist eine Geschichte, die sich noch entfaltet. Nichts sollte als gegeben hingenommen werden. Wir alle müssen entscheiden, was wir erschaffen. Welche KIs wir in die Welt bringen oder nicht. Das sind die Fragen, die sich uns allen heute stellen, uns allen, die wir in diesem Moment leben.
14:24
Für mich liegen die Vorteile dieser Technologie klar auf der Hand, und sie inspirieren mein Lebenswerk jeden Tag aufs Neue. Aber ganz offen gesagt, sie sprechen für sich selbst. Im Laufe der Jahre habe ich mich nie gescheut, auf Risiken hinzuweisen und über die Nachteile zu sprechen. Diese Art des Denkens hilft uns, uns auf die großen Herausforderungen zu konzentrieren, die vor uns allen liegen. Aber lassen Sie uns eines klarstellen. Es gibt keinen Weg zum Fortschritt, auf dem wir die Technologie hinter uns lassen. Der Preis für die gesamte Zivilisation ist immens. Wir brauchen Lösungen für das Gesundheitswesen und die Bildung, für unsere Klimakrise. Und wenn die KI nur einen Bruchteil ihres Potenzials ausschöpft, wird das nächste Jahrzehnt das produktivste in der Geschichte der Menschheit sein.
15:13
Man kann es auch anders sehen. In der Vergangenheit war die Erschließung des Wirtschaftswachstums oft mit enormen Nachteilen verbunden. Die Wirtschaft expandierte, als die Menschen neue Kontinente entdeckten und neue Grenzen erschlossen. Gleichzeitig wurden aber auch Bevölkerungen kolonisiert. Wir bauten Fabriken, aber es waren düstere und gefährliche Orte zum Arbeiten. Wir förderten Öl, aber wir verschmutzten den Planeten. Da wir immer noch KI entwickeln und bauen, haben wir das Potenzial und die Möglichkeit, es besser zu machen, radikal besser. Und heute entdecken wir nicht einen neuen Kontinent und plündern seine Ressourcen. Wir bauen ihn von Grund auf neu auf. Manchmal heißt es, Daten oder Chips seien das neue Öl des 21. Jahrhunderts, aber das ist ein völlig falsches Bild. KI ist für den Geist das, was die Kernfusion für die Energie ist. Grenzenlos, im Überfluss vorhanden, weltverändernd. Und KI ist wirklich anders, und das bedeutet, dass wir kreativ und ehrlich über sie nachdenken müssen. Wir müssen unsere Analogien und Metaphern bis an die Grenzen ausreizen, um uns mit dem auseinandersetzen zu können, was auf uns zukommt. Denn dies ist nicht nur eine weitere Erfindung. Die KI ist selbst ein unendlicher Erfinder. Und ja, das ist aufregend und vielversprechend und beunruhigend und faszinierend zugleich. Um ganz ehrlich zu sein, es ist ziemlich surreal.
16:47
Aber treten Sie einen Schritt zurück, betrachten Sie es auf der langen Sicht der Eiszeit, und dies sind wirklich die passendsten Metaphern, die wir heute haben. Seit dem Beginn des Lebens auf der Erde haben wir uns entwickelt, verändert und dann alles um uns herum in unserer heutigen menschlichen Welt geschaffen. Und die künstliche Intelligenz ist nichts, was außerhalb dieser Geschichte steht. Im Gegenteil, sie ist genau das Gegenteil. Sie ist die Gesamtheit all dessen, was wir geschaffen haben, destilliert zu etwas, mit dem wir alle interagieren und von dem wir profitieren können. Es ist ein Spiegelbild der Menschheit über die Zeit hinweg, und in diesem Sinne handelt es sich keineswegs um eine neue Spezies. An dieser Stelle enden die Metaphern.
17:33
Das werde ich Kaspian sagen, wenn er das nächste Mal fragt. KI ist nicht getrennt. KI ist nicht einmal in gewissem Sinne neu. KI ist wir. Sie ist jeder von uns. Und das ist vielleicht die vielversprechendste und wichtigste Sache von allen, für die sogar ein Sechsjähriger ein Gefühl entwickeln kann. Wenn wir KI entwickeln, können und müssen wir alles Gute, alles, was wir lieben, alles, was an der Menschheit besonders ist, widerspiegeln: unser Einfühlungsvermögen, unsere Freundlichkeit, unsere Neugier und unsere Kreativität. Dies, so würde ich behaupten, ist die größte Herausforderung des 21. Jahrhunderts, aber auch die wunderbarste, inspirierendste und hoffnungsvollste Chance für uns alle.
18:20
Ich danke Ihnen.
18:21
(Beifall)
18:26
Chris Anderson: Danke, Mustafa. Das ist eine erstaunliche Vision und eine superstarke Metapher. Sie befinden sich gerade in einer erstaunlichen Position. Ich meine, du bist mit der erstaunlichen Arbeit, die bei OpenAI passiert, aus der Hüfte heraus verbunden. Sie werden Ressourcen zur Verfügung gestellt bekommen, es gibt Berichte über diese riesigen neuen Datenzentren, 100 Milliarden Dollar werden investiert und so weiter. Und daraus kann eine neue Spezies entstehen. Ich meine, in Ihrem Buch haben Sie nicht nur eine unglaublich optimistische Vision gezeichnet, Sie haben auch sehr eloquent über die Gefahren der KI gesprochen. Und ich bin einfach neugierig, was Sie aus heutiger Sicht am meisten nachts wach hält.
19:06
Mustafa Suleyman: Ich glaube, die große Gefahr ist, dass wir in der, wie ich es nenne, Pessimismus-Aversion-Falle stecken bleiben. Wissen Sie, wir müssen den Mut haben, uns mit dem Potenzial düsterer Szenarien auseinanderzusetzen, um das Beste aus all den Vorteilen zu machen, die wir sehen. Die gute Nachricht ist, dass es in den letzten zwei oder drei Jahren nur sehr, sehr wenige negative Entwicklungen gegeben hat, oder? Es ist sehr schwer, explizit zu sagen, welchen Schaden ein LLM verursacht hat. Aber das bedeutet nicht, dass dies auch in den nächsten 10 Jahren der Fall sein wird. Ich denke, wenn man auf ein paar spezifische Fähigkeiten achtet, zum Beispiel Autonomie. Autonomie ist ganz offensichtlich eine Schwelle, ab der wir das Risiko in unserer Gesellschaft erhöhen. Und das ist etwas, auf das wir sehr, sehr genau hinarbeiten sollten. Die andere wäre so etwas wie rekursive Selbstverbesserung. Wenn man dem Modell erlaubt, sich selbständig zu verbessern, seinen eigenen Code zu aktualisieren, eine Umgebung ohne Aufsicht zu erforschen, und, Sie wissen schon, ohne dass ein Mensch die Kontrolle hat, um zu ändern, wie es funktioniert, wäre das natürlich gefährlicher. Aber ich denke, davon sind wir noch ein Stück weit entfernt. Ich denke, es wird noch gut fünf bis 10 Jahre dauern, bis wir uns wirklich damit auseinandersetzen müssen. Aber es ist an der Zeit, jetzt darüber zu reden.
20:15
CA: Eine digitale Spezies kann sich im Gegensatz zu jeder biologischen Spezies nicht in neun Monaten, sondern in neun Nanosekunden replizieren und eine unbestimmte Anzahl von Kopien von sich selbst erzeugen, die in vielerlei Hinsicht mehr Macht haben als wir. Ich meine, die Möglichkeit unbeabsichtigter Folgen scheint ziemlich groß zu sein. Und ist es nicht so, dass, wenn ein Problem auftritt, es in einer Stunde passieren könnte?
20:37
MS: Nein. Das ist wirklich nicht wahr. Ich denke, es gibt keine Beweise dafür, dass das so ist. Und ich glaube, dass das oft als “Intelligenzexplosion” bezeichnet wird. Und ich denke, das ist eine theoretische, hypothetische Möglichkeit, die wir alle gerne erforschen würden, aber es gibt keine Beweise dafür, dass wir auch nur annähernd so weit sind. Und ich denke, es ist sehr wichtig, dass wir unsere Worte sehr sorgfältig wählen. Denn du hast Recht, das ist eine der Schwächen des Spezies-Rahmens, dass wir die Fähigkeit zur Selbstreplikation einbauen werden, wenn die Menschen sich dafür entscheiden, das zu tun. Und ich würde sogar behaupten, dass wir das nicht tun sollten, denn das wäre eine der gefährlichen Fähigkeiten, von denen wir Abstand nehmen sollten, oder? Es besteht also keine Chance, dass diese Fähigkeit zufällig “auftaucht”. Das halte ich wirklich für sehr unwahrscheinlich. Es wird passieren, wenn die Ingenieure diese Fähigkeiten absichtlich einbauen. Und wenn sie sich nicht genug Mühe geben, sie absichtlich herauszuentwickeln. Und das ist der Punkt, an dem wir explizit und transparent versuchen sollten, Sicherheit durch Design schon sehr früh einzuführen.
21:39
CA: Danke, Ihre Vision von der Menschheit, die in diese neue Sache die besten Teile von uns selbst einbringt und all diese seltsamen, biologischen, verrückten, schrecklichen Tendenzen vermeidet, die wir unter bestimmten Umständen haben können, ist eine sehr inspirierende Vision. Und vielen Dank, dass Sie hierher gekommen sind und sie bei TED teilen.
21:58
Vielen Dank, viel Glück. (Beifall)
Wenn Sie sich anmelden, erklären Sie sich damit einverstanden, dass wir Ihre persönlichen Daten gemäß unserer Datenschutzrichtlinie speichern, verarbeiten und verwalten.
Werden Sie TED-Mitglied
TED-Mitglieder machen unsere Mission möglich, indem sie den globalen Zugang zu inspirierenden Ideen unterstützen. Außerdem haben sie die Möglichkeit, an exklusiven Veranstaltungen teilzunehmen. Unterstützen Sie eine bessere Zukunft – und ein besseres Leben für Sie.
Folgen Sie TED
Laden Sie die TED App herunter
TED Talks-Nutzungsrichtlinie
Datenschutzrichtlinien
Werbung/Partnerschaft
TED.com-Nutzungsbedingungen
Stellenangebote
Presse
Hilfe
Datenschutz-Präferenzen
© TED-Konferenzen, LLC. Alle Rechte vorbehalten.
Mustafa Suleyman: Was ist eigentlich eine KI? | TED Talk
