Eliezer Yudkowsky

US-amerikanischer Blogger und KI-Forscher (* 1979) From Wikipedia, the free encyclopedia

Eliezer Shlomo Yudkowsky (* 11. September 1979) ist ein US-amerikanischer KI-Forscher[1] und Autor. Er beschäftigt sich mit Entscheidungstheorie und den Folgen der Entwicklung von künstlicher Intelligenz.[2]

Eliezer Yudkowsky (2006)

Leben

Yudkowsky beendete seine Schulausbildung, als er 12 Jahre alt war. Er ist seither Autodidakt und hat keine formale Ausbildung im Bereich der künstlichen Intelligenz.[3] Er gründete im Jahr 2000 zusammen mit Brian und Sabine Atkins die Non-Profit-Organisation Singularity Institute for Artificial Intelligence (SIAI), welche seit Ende Januar 2013 Machine Intelligence Research Institute (MIRI) heißt.[4] Er ist dort weiterhin als Forscher angestellt.[5]

2023 wurde er vom Time Magazine zu den 100 einflussreichsten Persönlichkeiten im Bereich der KI gezählt.[6]

Er lebt in Redwood City, Kalifornien.[7]

Werk

Yudkowsky versucht nach eigenen Angaben eine Theorie zu entwickeln, die es ermöglicht, eine künstliche Intelligenz mit reflexivem Selbstverständnis zu erschaffen, welche zudem in der Lage ist, sich selbst zu modifizieren und rekursiv zu verbessern, ohne dabei ihre ursprüngliche Präferenzen, insbesondere Moral und Ethik, zu verändern.[8] Der von ihm verwendete Begriff „Friendly AI“ beschreibt eine künstliche Intelligenz, die menschliche Werte vertritt und keine negativen Auswirkungen oder gar eine Vernichtung der Menschheit mit sich zieht. Mittlerweile vertritt er jedoch die Ansicht, dass künstliche Intelligenz die Menschheit vernichten wird und der einzige Weg dies zu stoppen eine große internationale Zusammenarbeit wäre, die alles Menschenmögliche unternehmen müsste, um den Betrieb und die Weiterentwicklung künstlicher Intelligenz zu stoppen.[9][10][11]

Neben seiner Theorie hat Yudkowsky außerdem einige Einführungen in philosophische Themen geschrieben, wie zum Beispiel den Text An Intuitive Explanation of Bayes' Theorem (deutsch Eine intuitive Erklärung des Satzes von Bayes). Er gilt als einer der führenden Vertreter der Rationalisten-Gemeinschaft.[12]

Yudkowsky prägte den Begriff der Seed AI.

OvercomingBias und LessWrong

Yudkowsky verfasste Beiträge für das Blog OvercomingBias[13] und rief im Frühjahr 2009 das Blog LessWrong ins Leben.[14][15] Dort schrieb er Beiträge zu Themen wie Erkenntnistheorie, künstliche Intelligenz, Fehler der menschlichen Rationalität und Metaethik.

Weitere Publikationen

Er trug zwei Kapitel zu dem von Nick Bostrom und Milan Cirkovic herausgegebenen Sammelband Global Catastrophic Risk bei.[16]

Yudkowsky ist zudem der Autor folgender Publikationen: Creating Friendly AI (2001),[17] Levels of Organization in General Intelligence (2002), Coherent Extrapolated Volition (2004) und Timeless Decision Theory (2010).[18][19]

Yudkowsky hat auch einige belletristische Werke geschrieben. Seine Harry-Potter-Fan-Fiction Harry Potter and the Methods of Rationality war zeitweise die beliebteste Harry-Potter-Geschichte der Website fanfiction.net.[20] Sie behandelt Themen der Kognitionswissenschaft, Rationalität und Philosophie im Allgemeinen und wurde unter anderem durch den Science-Fiction-Autor David Brin[21] und den Programmierer Eric S. Raymond positiv bewertet.[22]

Yudkowsky veröffentlichte 2017 das Buch Inadequate Equilibria: Where and How Civilizations Get Stuck, in dem er untersucht, warum Gesellschaften trotz klarer Ziele oft an suboptimalen Gleichgewichten festhalten. Sein jüngstes Werk, If Anyone Builds It, Everyone Dies (2025), verfasst gemeinsam mit Nate Soares, behandelt die existenziellen Risiken, die nach Einschätzung der Autoren mit der Entwicklung superintelligenter künstlicher Intelligenz verbunden sind.

Literatur

  • Our Molecular Future: How Nanotechnology, Robotics, Genetics and Artificial Intelligence Will Transform Our World by Douglas Mulhall, 2002, p. 321.
  • The Spike: How Our Lives Are Being Transformed By Rapidly Advancing Technologies by Damien Broderick, 2001, pp. 236, 265–272, 289, 321, 324, 326, 337–339, 345, 353, 370.

Weblinks

Commons: Eliezer Yudkowsky – Sammlung von Bildern, Videos und Audiodateien

Einzelnachweise

Related Articles

Wikiwand AI