7 wichtige Highlights von Geoffrey Hinton auf Superintelligent AI

Wenn der Pate von KI Ihnen sagt, “Zug, um ein Klempner zu sein “ Du weißt, dass du aufmerksam musst, zumindest das hat mich süchtig gemacht. In einem kürzlichen Gespräch diskutierte Geoffrey Hinton die verschiedenen Möglichkeiten in der kommenden Ära der Superintelligent -KI und wenn Sie sich fragen, wie dieses Gespräch gegangen ist, sind Sie nicht allein! Während dieses Interviews berührte Hinton die großen Fragen zu KI: seine potenziellen Gefahren, gesellschaftlichen Risiken und was das alles für die Menschheit bedeutet. Lassen Sie uns in die wichtigsten Momente und Einsichten des legendären KI -Forschers eintauchen.

Wichtige Highlights aus dem Geoffrey Hinton -Interview

In einem Podcast „Diary of a CEO“ von Steven Bartlett, einem beliebten britischen Unternehmer, spricht Geoffrey Hinton über seine aktuelle Mission – “Menschen vor den Gefahren der KI zu warnen”. Wenn wir uns jetzt an einer Kreuzung befinden, an der die Menschheit an der Arbeit von Maschinen clever ist als Menschen selbst, ist es der Meinung, dass es nicht genug von Führungskräften und Technologen gemacht wird, um die richtigen Leitplanken zur Kontrolle dieser Maschinen zu errichten.

Außerdem finden Sie hier ein paar Punkte aus dem Gespräch, die für mich auffiel:

1. Die Entwicklung von KI

Geoffrey Hinton hatte mehr als zwei Jahrzehnte auf ein KI -Modell gedrängt, das auf neuronalen Netzwerken basiert, und versuchte, die Fähigkeit des menschlichen Gehirns zu kopieren, Muster zu lernen und zu erkennen. In den ersten Jahren stieß seine Ideen mit Skepsis und Entlassung. Aber jetzt definiert seine Erfindung die Essenz der menschlichen Maschinenbeziehung. Hinton spielte zusammen mit seinen brillanten Schülern eine zentrale Rolle beim Aufbau dessen, was wir als Deep Studying, das Rückgrat der modernen KI. Auf die Frage, wie er die KI, die die menschliche Intelligenz übertrat, voraussehen konnte, struggle Hinton offen über seine verzögerte Erkenntnis. “Ich erkannte es nur langsam,Gab zu. Der Durchbruchsmoment für KI kam mit der Veröffentlichung von Chatgpt. Jetzt zeigt es Fähigkeiten, die über alles hinausgehen, was jemand erwartet hat, wie die Nuancen menschlicher Emotionen zu verstehen und sie auch zu emulieren.

In seinen Worten hat KI Fähigkeiten entwickelt, die sich grundsätzlich von der biologischen Intelligenz unterscheiden. Mit der Fähigkeit von AI, schneller zu lernen, mehr Daten zu verarbeiten und auf Skalen für Menschen unvorstellbar zu funktionieren, könnte es bald an einem Punkt sein, an dem sie die menschliche Intelligenz auf jeder Ebene übertreffen könnte. Wenn dieser Tag kommt, könnte KI Entscheidungen für uns treffen, ohne menschliche Beiträge und ohne diese Entscheidungen zu rechtfertigen.

2. Die Auswirkungen der KI auf Arbeitsplätze

Wir könnten mit dem Witz beginnen, aber es gibt keine lachende Angelegenheit. Geoffrey Hinton erwähnte, als er nach Karriereaussichten in der Welt der KI gefragt wurde, beiläufig zu einem Klempner. Der Witz struggle eher wie eine Vorwarnung, die in den wachsenden Bedenken beruhte, dass die KI die meisten intellektuellen Jobs übernehmen könnte. Der Witz wiederholte eine tiefere Wahrheit: Als KI fortgeschrittener wird, sind weltliche intellektuelle Aufgaben, die einst keine menschliche Intervention benötigten, möglicherweise nicht mehr erforderlich. Für Jobs, die kritisches Denken, Kreativität und nuancierte Entscheidungsfindung beinhalten, Llms Auch würde gegen Menschen antreten. Dies bedeutet im Wesentlichen, dass Menschen um ein paar kritische Jobs kämpfen.

3. Die beiden Arten von KI -Risiken

Hinton erklärt, dass AI zwei primäre Arten von Risiken darstellt. Das erste ist die unmittelbare Gefahr, die von Menschen kommt, die KI missbrauchen. Cyberangriffe, Betrug und Manipulation könnten mit KI effizienter und gefährlicher werden. Das zweite und viel heimtückische Risiko ist das, was passiert, wenn die KI weitaus schlauer als wir wird. Zu diesem Zeitpunkt, argumentiert Hinton, könnten wir nicht einmal verstehen, was passiert oder wie wir es kontrollieren können. Zum Beispiel könnte es nur die Ursache der nächsten Wahlmanipulation sein, da Daten aus verschiedenen Chatbots verwendet werden können, um die Wähler nur mit Anzeigen zu manipulieren, die auf die einzelnen Individual abzielen. Social -Media -Kanäle wie YouTube und Fb könnten die Emotionen der Menschen für oder gegen jede Agenda mit LLMs im Wesentlichen anfeuern.

4. Der sich ändernde Arbeitsmarkt aufgrund von KI

Eines der dringendsten Bedenken, die Hinton angesprochen hat, ist, wie sich die KI auf die Arbeit auswirkt. Während viele Menschen KI als etwas betrachten, das menschliche Arbeitnehmer ergänzt, warnt Hinton, dass AI einen erheblichen Teil der Arbeitsplätze beseitigen wird, insbesondere diejenigen, die sich wiederholende intellektuelle Aufgaben betreffen. Er erwähnt, wie seine Nichte, ein Gesundheitsarbeiter, nun KI verwendet, um Beschwerden viel schneller zu behandeln. Dies ist ein Paradebeispiel dafür, dass KI Aufgaben ersetzt, die zuvor viel menschliche Anstrengung erforderten.

Nach Ansicht von Hinton werden Arbeitsplätze, die intellektuelle Arbeitskräfte erfordern, veraltet, obwohl Aufgaben wie Gesundheitswesen und manuelle Arbeit vorerst sicher sind, aber selbst das könnte sich ändern, wenn körperlich intelligente Roboter einen Weg in unser tägliches Leben finden.

5. AI in der Kriegsführung

Wenn es um KI in der Kriegsführung geht, wenden sich Hintons Bedenken zu “tödliche autonome Waffen.Diese Maschinen, die in der Lage sind, ihre eigenen Entscheidungen darüber zu treffen, wer töten, könnten die Natur der Kriegsführung umgestalten. Mit minimalem menschlichen Engagement könnten Kriege häufiger und weniger protestiert werden, da die Nationen die menschlichen Kosten vermeiden, Soldaten zu sterben, um auf Schlachtfeldern zu sterben, auf Schlachtfeldern sterben. Während diese autonomischen Waffen keine Smarter -Smarter -Häfen, die Hardtwipps, agieren, ohne menschliche Eingaben zu agieren. Kontrolle.

Lesen Sie auch: 8 zukünftige Vorhersagen von Jensen Huang, die wie Sci-Fi klingen

6. Die Superintelligence -Bedrohung

Hinton geht noch weiter zu erklären, dass KI, sobald sie ein Maß an Superintelligenz erreicht, in jeder denkbaren Weise fähiger als Menschen ist, die nicht mehr von menschlichen Bedürfnissen oder Wünschen gebunden sein wird. Die Frage ist nicht, ob es schlauer werden kann als wir, sondern ob wir sicherstellen können, dass es sich nicht entscheidet, uns zu beseitigen. Die Superintelligent -KI konnte die Menschheit als Hindernis für ihre Ziele und Maßnahmen ergreifen, die das Ende unserer Zivilisation bedeuten könnten. Dies klang wie die Handlung von Terminator 3, aber – es ist ein echtes Anliegen für Hinton, der aktiv an der AI -Sicherheitsforschung beteiligt ist. Die Herausforderung besteht nun darin, Wege zu finden, um KI zu bauen, die sicher, sicher und auch immer unter unserer Kontrolle sind.

7. Vorschriften: Zu wenig, zu spät?

Hinton räumt ein, dass vor allem in Europa Vorschriften eingeführt werden, aber er kritisiert sie dafür, dass sie unzureichend sind, um die gesamte Auswahl an Bedrohungen in Angriff zu nehmen. Einige Vorschriften schließen beispielsweise die militärische Verwendung von KI aus, wobei die wirkliche Gefahr liegt. Hinton hob auch die Risiken von KI in den Händen von Regierungen und Unternehmen hervor, mit denen sie Wahlen manipulieren, Populationen kontrollieren und weit verbreitete Ungleichheit schaffen konnten.

Trotz der wachsenden Bedenken ist Hinton skeptisch, dass wir das Tempo der KI -Entwicklung verlangsamen können, da die Technologie in unseren globalen Systemen zu wertvoll und zu verankert ist. Er sieht es als unaufhaltsame Kraft eine technologische Revolution, die bereits zu weit gegangen ist.

Hinweis: Sie können das gesamte Gespräch hören Hier.

Abschluss

Dieses Gespräch hat mich mit einem Gefühl der Dringlichkeit zurückgelassen. Die Risiken, die er skizzierte, sind zu actual, um zu ignorieren. Während KI ein unglaubliches Potenzial hat, unser Leben zu verbessern, um die Gesundheitsversorgung, Bildung und Effizienz zu verbessern, beherbergt sie auch erhebliche Gefahren, mit denen wir als Gesellschaft unvorbereitet sind. Von der Verschiebung von Arbeitsplätzen bis hin zu autonomen Waffen könnte die Auswirkungen von AI die Welt auf eine Weise verändern, für die wir nicht bereit sind.

Hintons Aufruf zum Handeln ist klar: Wir müssen mehr Ressourcen in die Sicherheit von KI und schnell einsetzen. Ob wir die Zukunft der KI kontrollieren können oder nicht, ist ungewiss. Aber wenn wir es nicht zumindest versuchen, könnten wir uns eine Zukunft ansehen, in der die Dominanz von AI zu katastrophalen Folgen führt.

Wenn ich über dieses Gespräch nachdenke, habe ich mehr Fragen als Antworten, aber eines ist sicher: Wir stehen am Abgrund von etwas Größerem, als jeder von uns vollständig verstehen kann. KI magazine das größte Geschenk sein, das die Menschheit jemals geschaffen hat, oder es kann unser größter Fehler sein. Die Wahl und die Verantwortung liegen bei uns.

Anu Madan ist ein Experte für Unterrichtsdesign, Inhaltsschreiben und B2B -Advertising mit einem Expertise, komplexe Ideen in wirkungsvolle Erzählungen zu verwandeln. Mit ihrem Fokus auf generative KI erstellt sie aufschlussreiche, revolutionary Inhalte, die ein sinnvolles Engagement erziehen, inspiriert und fördert.