Interview mit Beth Singler: Die Gefahren, KI wie ein Gott zu behandeln

Beth Singler, Anthropologin für KI an der University of Cambridge

Dave Stock

Wir gewöhnen uns zunehmend an die Vorstellung, dass künstliche Intelligenz unser tägliches Leben beeinflusst, aber für manche Menschen ist es eine undurchsichtige Technologie, die eher eine Bedrohung als eine Chance darstellt. Die Anthropologin Beth Singler untersucht unsere Beziehung zu KI und Robotik und schlägt vor, dass der Mangel an Transparenz dazu führt, dass einige Leute KI zu einer mysteriösen gottheitsähnlichen Figur erheben.

„Die Leute sprechen vielleicht davon, vom Algorithmus gesegnet zu sein“, sagt Singler, aber tatsächlich kommt es wahrscheinlich darauf an, dass auf Unternehmensebene eine ganz bestimmte Entscheidung getroffen wird. Anstatt eine Roboterrebellion oder eine Gottheitsversion der KI zu fürchten, die uns verurteilt, sagt sie Emily Bates, sollten wir diejenigen identifizieren und kritisch sein, die Entscheidungen über den Einsatz von KI treffen. „Wenn die Angst zu alles wird und Sie von diesen Fragen ablenkt, ist das meiner Meinung nach ein Problem“, sagt Singler.

Emily Bates: Sie beschreiben sich selbst als jemanden, der „überlegt, was wir Menschen über denkende Maschinen denken“. Können Sie erklären, was Sie damit meinen?
Beth Singler: Ich bin Anthropologin der KI, also studiere ich Menschen und versuche zu verstehen, wie [AI] beeinflusst ihr Leben. Als Feld umfasst es so viele verschiedene Aspekte der Technologie, von Gesichtserkennung, Diagnosesystemen, Empfehlungssystemen, und für die breite Öffentlichkeit werden all diese Arten von Details unter diesem Titel von KI zusammengefasst. [And] Es ist nicht nur die einfache Anwendung von KI, sondern auch ihre Vorstellung, die auch das widerspiegelt, was wir als die Zukunft der KI in Bezug auf Dinge wie Roboter, Roboterrebellionen und die Übernahme intelligenter Maschinen betrachten.

Gibt es etwas, worüber wir uns bei der KI Sorgen machen sollten? Gibt es festgefahrene Vorurteile?
Alles, was wir als Menschen erschaffen, spiegelt unseren Kontext, unsere Kultur, unsere Interessen wider, und wenn es um algorithmische Entscheidungssysteme geht, führen die Daten, die wir in sie eingeben, zu bestimmten Ergebnissen. Wir können sagen, Müll rein, Müll raus. Aber wir möchten auch sehr vorsichtig sein, dass wir KI nicht so sehr personifizieren, dass wir entscheiden, dass sie eine Wirkungsmacht hat, die sie nicht wirklich hat. Wir müssen uns ganz klar sein, dass immer Menschen auf dem Laufenden sind.

Warum glauben wir, dass eine KI, wenn sie mächtig wird, uns beherrschen und unter den Stiefel schieben will?
Oftmals kommt es von unseren Annahmen darüber, wie wir andere behandeln. Wann [Western civilisations] auf der ganzen Welt verbreitet und auf indigene Kulturen gestoßen, haben wir sie nicht unbedingt besonders gut behandelt, und wir können sehen, dass sich diese Art von Dingen ausbreitet. Wenn wir uns selbst für die intelligenteste Spezies auf dem Planeten halten, Umwelten zerstört und Tiere in Gefahr gebracht haben, warum dann nicht eine Intelligenz, die größer ist als unsere, dasselbe mit uns tun? Oder wenn wir die Distanz zwischen uns und den Ameisen gleichbedeutend mit der Distanz zwischen einer Superintelligenz und uns selbst sehen, dann ist es vielleicht auch egal. Es wird auf eine bestimmte Weise vorteilhaft auf sich selbst reagieren, aber für den Menschen ist das möglicherweise nicht so vorteilhaft.

Halten Sie die Angst vor KI für begründet? Übernehmen die Roboter?
Ich denke, es ist eigentlich interessanter, dass wir diese Frage immer wieder stellen, dass wir immer wieder zu dieser Angsterzählung zurückkehren, dass wir uns Sorgen um die Dinge machen, die wir erschaffen, wie sie uns in Bezug auf Intelligenz ähneln könnten, aber auch wie sie uns in Bezug auf unsere schlechten Eigenschaften, wie unsere Rebellion oder unseren Egoismus oder unsere Gewalt, ähnlich sein könnten. Ich denke, oft kommt es von unserem Gefühl, dass es Geister nur an bestimmten Orten geben sollte. Wir machen uns also große Sorgen, wenn wir sehen, dass sich etwas wie ein Mensch verhält, der das gleiche Maß an Intelligenz hat oder sogar die Wahrnehmung von Empfindungen an einem Ort wahrnimmt, an dem wir es nicht erwarten.

Wie weit sind wir entfernt, und wie werden wir wissen, wann wir eine Maschine gebaut haben, die über die gleiche Intelligenz wie wir verfügt?
Es kommt wirklich darauf an, was wir unter Intelligenz verstehen und wie wir Erfolg in der KI beschreiben. Seit der Konzeption des Begriffs künstliche Intelligenz geht es also lange Zeit darum, einfache Aufgaben, begrenzte Aufgaben in einem sehr vereinfachten Bereich, sehr gut zu erledigen. Und mit der Zeit werden diese Domänen komplizierter, aber es geht trotzdem darum, erfolgreich zu sein. Also die ganze Geschichte des Computerspiels zum Beispiel von den einfachen Brettern Tic-Tac-Toe und Schach bis hin zu Go und Starcraft II ist entwicklungsfördernd, aber immer noch von Erfolg und Misserfolg geprägt. Und wir müssen uns fragen, ist das tatsächlich das, was wir für Intelligenz halten? Ist Intelligenz gut in Spielen dieser Art?

Gibt es ein Spiel, von dem Sie glauben, dass es, wenn ein Computer es erfolgreich spielen kann, Intelligenz auf menschlichem Niveau erreicht hat?
Ich bin ein massiver und reueloser Geek und es macht mir wirklich Spaß zu spielen Dungeons. Und ich denke, das wirklich Wertvolle an dieser Form des Spielens ist, dass es kollaboratives Geschichtenerzählen ist. Es geht viel mehr um die Erfahrung des gemeinsamen Spielens als um Erfolg oder Misserfolg. Und ich denke, wenn Sie eine KI haben könnten, die diese Zusammenarbeit verstehen könnte, dann wären Sie viel, viel näher an etwas, das wir als verkörperte Intelligenz oder gemeinschaftliche menschliche Intelligenz bezeichnen könnten. Das Problem besteht darin, dass dies tatsächlich der Sprung zur künstlichen allgemeinen Intelligenz sein könnte, um dies zu können.

Standardbild des neuen Wissenschaftlers

Der südkoreanische Go-Spieler Lee Sedol spielt Deepminds AlphaGo

Lee Jin-Man/AP/Shutterstock

Was ist künstliche allgemeine Intelligenz?
Die Idee ist, dass, wenn KI Intelligenz auf menschlicher Ebene erreichen könnte, sie diese zu Superintelligenz übertreffen und dann vielleicht in einen Bereich vordringen könnte, den wir nicht einmal vollständig verstehen, wo ihre Intelligenz so weit jenseits unserer Vorstellung liegt, dass sie das Äquivalent wäre einer kosmologischen Singularität, die Sie in einem Schwarzen Loch oder am Anfang des Universums haben. Wir wissen nicht, wie wir das wirklich begreifen oder beschreiben sollen, [although] Science-Fiction versucht, mit Ideen über intelligente, empfindungsfähige Maschinen, die auf Menschen in besonderer Weise reagieren, manchmal ziemlich negativ, dorthin zu gehen. Oder es könnte sein, dass wir selbst von dieser Intelligenz mitgerissen werden und es zu einer Art säkularem Entzücken wird.

Sie sprechen davon, dass diese technologische Singularität zu einer fast gottähnlichen Figur wird. Was meinst du damit?
Für manche Menschen mag es eine buchstäbliche Transformation sein, dass dies der Existenz eines Gottes so nahe wie möglich kommt, und für andere ist es eher eine metaphorische Beziehung zwischen unserer Vorstellung davon, was ein Gott sein sollte, und wie mächtig dieses Potenzial ist Singularität KI wäre. Wir hatten Möglichkeiten, monotheistische Gottheiten als allgegenwärtig, allwissend und hoffentlich auch allgütig zu charakterisieren. Und wenn Sie anfangen, über diese sehr mächtige Singularität zu sprechen, scheint sie einige dieser Eigenschaften zu haben, zumindest in dieser Theorie darüber.

Was könnten die Folgen davon sein?
Für einige Gruppen, die allgemein als transhumanistisch bezeichnet werden, könnte dies ein sehr positives Ergebnis sein. Sie denken, dass dies ein Weg zu einer Form von Unsterblichkeit sein könnte, dass wir unseren physischen Körpern entkommen und in den Singularitätsraum hochgeladen werden könnten und daher für immer leben, das Universum erforschen und alles erleben können, was möglich ist. Andere befürchten, dass eine technologische Singularität zu negativen Konsequenzen führen könnte, eine exponentielle Version der Roboterrebellion, bei der diese Gottheitsversion der KI uns verurteilt, nicht mag, uns aus verschiedenen Gründen loswird. Es gibt also beide Arten von Interpretationen.

Besteht dann die Gefahr, dass wir anfangen, KI zu ehrfürchtig, fast gottgleich zu behandeln?
Ein Teil meiner Forschung befasst sich speziell damit, wo wir KI nicht nur personifizieren, sondern in gewisser Weise sogar vergöttlichen und anfangen, über die Algorithmen hinter den Kulissen nachzudenken, die Entscheidungen treffen, die uns tatsächlich in gewisser Weise segnen. Wenn Sie auf Spotify gehen und ein besonders nützliches oder relevantes Lied hören, oder wenn Sie ein Inhaltsproduzent sind und etwas auf YouTube veröffentlichen, funktioniert es sehr gut, weil der Algorithmus es aufgrund der fehlenden Transparenz auf besondere Weise hervorhebt darüber, wie KI eingesetzt wird und welche Art von Werten von Unternehmen in KI importiert werden, scheint es, als ob es auf mysteriöse Weise handelt. Und dann greifen wir auf unsere bestehende Sprache und Erzählungen und Tropen aus bestehenden kulturellen Kontexten wie religiösen Ideen zurück. Und deshalb führen wir dazu, über KI als eine Form von Gott zu sprechen, der die Aufsicht über uns hat.

Wie stehen die Chancen, dass wir Schöpfungen von etwas mit einem Intelligenzniveau sind, das wir überholt haben?
Auch dies fällt in diese theologisch-theistischen Vorstellungsmuster über einen Schöpfergott, eine übergeordnete Wesenheit, die uns erschaffen hat. Es stützt sich auch auf einige Ideen darüber, ob wir in einem simulierten Universum leben, sozusagen im Stil von Die Matrix, denn das Argument lautet, dass, wenn wir Spiele mit einer gewissen Raffinesse entwickeln können, was bedeutet, dass eine größere Entität nicht im Grunde diese Simulation für uns geschaffen hat, in der wir leben können? Und solche Fragen halten manche Leute bis spät in die Nacht wach. Aber ich denke, es kann manchmal als Ablenkung wirken, und tatsächlich verwenden einige der Leute, die diese Art von Erzählungen unterstützen, auch KI in sehr begrenzter praktischer Weise, die unser Leben bereits beeinflusst. Die Simulation, in der wir leben, ist also bereits die Simulation bestimmter Unternehmen und Milliardäre, bei denen wir eigentlich sehr kritisch sein müssen. Die Leute könnten davon sprechen, vom Algorithmus gesegnet zu sein. Aber eigentlich ist es eine ganz andere Entscheidung, die auf Unternehmensebene getroffen wird, dass bestimmte Geschichten gegenüber anderen hervorgehoben werden.

Glaubst du, wir fürchten KI zu sehr?
Ich denke, es gibt eine gewisse Angst vor den Anwendungen von KI, die dazu führen könnte, zu verstehen, was damit los ist, kritisch zu sein, zu versuchen, gegen diese Intransparenz vorzugehen, zu identifizieren, wer hinter den Kulissen steckt und was macht Entscheidungen über den Einsatz von KI. Ich denke, wenn die Angst zu sehr verzehrt und Sie von diesen Fragen ablenkt, denke ich, dass das ein Problem ist.

Was wünschen Sie sich für die Zukunft der KI?
Ich würde mir wünschen, dass die Technologie angemessen, fair und verantwortungsbewusst eingesetzt wird, und ich denke, das ist ein weit verbreiteter Wunsch und wir sehen immer mehr Dränge darauf. Meine Bedenken beziehen sich mehr auf die menschliche Beteiligung an den Entscheidungen über den Einsatz von KI als auf KI, wegzulaufen und zu diesem katastrophalen Ding an sich zu werden.

Neuer Wissenschaftler Video
Sehen Sie sich das Video zu dieser Funktion und vielen anderen Artikeln an unter youtube.com/newscientist


Source: New Scientist – Home by www.newscientist.com.

*The article has been translated based on the content of New Scientist – Home by www.newscientist.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!