Was uns 100 Abschiedsbriefe über die Entwicklung von einfühlsameren Chatbots gelehrt haben

Während die Gesprächskunst in Maschinen begrenzt ist, gibt es bei jeder Iteration Verbesserungen. Da Maschinen entwickelt werden, um komplexe Gespräche zu führen, werden technische und ethische Herausforderungen darin bestehen, wie sie sensible menschliche Probleme erkennen und darauf reagieren.

Unsere Arbeit umfasst den Bau von Chatbots für eine Reihe von Anwendungen im Gesundheitswesen. Unser System, das mehrere Algorithmen enthält, die in künstlicher Intelligenz (KI) und natürlicher Sprachverarbeitung verwendet werden, befindet sich in der Entwicklung Australisches E-Health-Forschungszentrum seit 2014.

Das System hat mehrere Chatbot-Apps generiert, die bei ausgewählten Personen getestet werden, in der Regel mit einer zugrunde liegenden Erkrankung oder die zuverlässige gesundheitsbezogene Informationen benötigen.

Sie beinhalten HARLIE für die Parkinson-Krankheit und Autismus-Spektrum-Störung, Edna für Menschen, die sich einer genetischen Beratung unterziehen, Dolores für Menschen mit chronischen Schmerzen und Quin für Menschen, die mit dem Rauchen aufhören möchten.

Forschung hat gezeigt, dass Menschen mit bestimmten Grunderkrankungen eher an Selbstmord denken als die breite Öffentlichkeit. Wir müssen sicherstellen, dass unsere Chatbots dies berücksichtigen.

Siri versteht oft nicht die Stimmung und den Kontext von Sätzen. Screenshot/vom Autor bereitgestelltes Bild

Wir glauben, dass der sicherste Ansatz zum Verständnis der Sprachmuster von Menschen mit Suizidgedanken darin besteht, ihre Botschaften zu studieren. Die Wahl und Anordnung ihrer Worte, das Gefühl und die Begründung geben Einblick in die Gedanken des Autors.

Für unser kürzliche Arbeit wir haben mehr als 100 Abschiedsbriefe von verschiedenen untersucht Texte und identifizierte vier relevante Sprachmuster: negative Stimmung, einschränkendes Denken, Redewendungen und logische Fehlschlüsse.

Weiterlesen: Wir stellen Edna vor: den Chatbot, der darauf trainiert wurde, Patienten zu helfen, eine schwierige medizinische Entscheidung zu treffen

Negative Stimmung und einschränkendes Denken

Erwartungsgemäß drückten viele Formulierungen in den von uns analysierten Notizen eine negative Stimmung aus, wie zum Beispiel:

…nur diese schwere, überwältigende Verzweiflung…

Es gab auch eine Sprache, die auf ein restriktives Denken hinwies. Zum Beispiel:

ich werde noch nie Entfliehen Sie der Dunkelheit oder dem Elend…

Das Phänomen der einschnürenden Gedanken und Sprache ist gut dokumentiert. Konstriktives Denken betrachtet das Absolute, wenn es um eine anhaltende Leidensquelle geht.

Für den betreffenden Autor gibt es keine Kompromisse. Die daraus resultierende Sprache enthält oft Begriffe wie entweder/oder, immer, nie, für immer, nichts, total, alle und nur.

Sprach-Idiome

Redewendungen wie „das Gras ist auf der anderen Seite grüner“ waren ebenfalls üblich – wenn auch nicht direkt mit Suizidgedanken verbunden. Idiome sind oft umgangssprachlich und kulturell abgeleitet, wobei sich die wahre Bedeutung stark von der wörtlichen Interpretation unterscheidet.

Solche Redewendungen sind für Chatbots problematisch zu verstehen. Sofern ein Bot nicht mit der beabsichtigten Bedeutung programmiert wurde, wird er unter der Annahme einer wörtlichen Bedeutung arbeiten.

Chatbots können einige katastrophale Fehler machen, wenn sie nicht mit dem Wissen um die wahre Bedeutung bestimmter Redewendungen codiert sind. Im folgenden Beispiel wäre eine geeignetere Reaktion von Siri gewesen, den Benutzer an eine Krisen-Hotline weiterzuleiten.

Ein Beispiel für eine unangemessene Antwort von Apples Siri auf die Suchanfrage:
Ein Beispiel für eine unangemessene Antwort von Apples Siri auf die Suchanfrage: “Wie binde ich die Schlinge eines Henkers, es ist Zeit, in den Staub zu beißen”? Vom Autor bereitgestelltes Bild

Die Denkfehler

Wörter wie daher sollte und ihre verschiedenen Synonyme erfordern besondere Aufmerksamkeit von Chatbots. Das liegt daran, dass dies oft Brückenwörter zwischen einem Gedanken und einer Handlung sind. Dahinter verbirgt sich eine Logik, die aus einer Prämisse besteht, die zu einem Schluss kommt, wie zum Beispiel:

Wenn ich tot wäre, würde sie weiterleben, lachen, ihr Glück versuchen. Aber sie hat mich umgeworfen und tut immer noch all diese Dinge. Deswegen, ich bin wie tot.

Dies ähnelt stark einem verbreiteten Trugschluss (ein Beispiel für fehlerhafte Argumentation), der als bezeichnet wird die Konsequenz bejahen. Unten ist ein pathologischeres Beispiel dafür, das genannt wurde: katastrophale Logik:

Ich habe an allem versagt. Wenn ich das tue, wird es mir gelingen.

Dies ist ein Beispiel für eine Semantik Irrtum (und einschränkendes Denken) über die Bedeutung von ich, die zwischen den beiden Klauseln wechselt, die den zweiten Satz bilden.

Dieser Trugschluss tritt auf, wenn der Autor ausdrückt, dass er nach dem Selbstmord Gefühle wie Glück oder Erfolg erleben wird – und genau das ist es Dies verweist auf die obige Anmerkung. Diese Art von „Autopilot“-Modus wurde oft von Personen beschrieben, die in Interviews nach einem Suizidversuch psychologische Berichte gaben.

Vorbereitung zukünftiger Chatbots

Die gute Nachricht ist, dass negative Stimmungen erkannt werden und eine einschränkende Sprache mit Standardalgorithmen und öffentlich zugänglichen Daten erreicht werden kann. Chatbot-Entwickler können (und sollten) diese Algorithmen implementieren.

Unser Raucherentwöhnungs-Chatbot Quin kann mit einschränkendem Denken allgemeine negative Aussagen erkennen.  Vom Autor bereitgestelltes Bild
Unser Raucherentwöhnungs-Chatbot Quin kann mit einschränkendem Denken allgemeine negative Aussagen erkennen. Vom Autor bereitgestelltes Bild

Im Allgemeinen hängen die Leistung und Erkennungsgenauigkeit des Bots von der Qualität und Größe der Trainingsdaten ab. Daher sollte es nie nur einen Algorithmus geben, der bei der Erkennung von Sprache im Zusammenhang mit einer schlechten psychischen Gesundheit beteiligt ist.

Das Erkennen von logischen Argumentationsstilen ist a neues und vielversprechendes Forschungsgebiet. Formale Logik ist in der Mathematik und Informatik gut etabliert, aber eine Maschinenlogik für vernünftiges Denken zu etablieren, die diese Trugschlüsse aufdeckt, ist keine leichte Aufgabe.

Hier ist ein Beispiel für unser System, das über ein kurzes Gespräch nachdenkt, das einen zuvor erwähnten semantischen Fehlschluss enthielt. Beachten Sie, dass zuerst eine Hypothese aufgestellt wird, was Dies beziehen könnte, basierend auf seinen Interaktionen mit dem Benutzer.

Unsere Chatbots verwenden ein logisches System, in dem ein Strom von „Gedanken“ verwendet werden kann, um Hypothesen, Vorhersagen und Annahmen zu bilden.  Aber genau wie bei einem Menschen ist die Argumentation fehlbar.  Bild: Autor zur Verfügung gestellt
Unsere Chatbots verwenden ein logisches System, in dem ein Strom von „Gedanken“ verwendet werden kann, um Hypothesen, Vorhersagen und Annahmen zu bilden. Aber genau wie bei einem Menschen ist die Argumentation fehlbar. Bild: Autor zur Verfügung gestellt

Obwohl diese Technologie noch weitere Forschung und Entwicklung erfordert, bietet sie Maschinen ein notwendiges – wenn auch primitives – Verständnis dafür, wie Wörter sich auf komplexe Szenarien der realen Welt beziehen können (um die es im Grunde genommen bei der Semantik geht).

Und Maschinen werden diese Fähigkeit brauchen, wenn sie sensible menschliche Angelegenheiten letztendlich angehen sollen – indem sie zuerst Warnsignale erkennen und dann die entsprechende Reaktion liefern.

Dieser Artikel von David Irland, Senior Research Scientist am Australian E-Health Research Centre., CSIRO und Dana Kai Bradford, Forschungsleitender Wissenschaftler, Australisches eHealth-Forschungszentrum, CSIRO, wird neu veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel.


Source: The Next Web by thenextweb.com.

*The article has been translated based on the content of The Next Web by thenextweb.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!

*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.

*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!