Explanation-aware Computing
"Explanation-aware computing" will komplexe Informationssysteme durch die Verbesserung ihrer Erklärungsfähigkeiten im Umgang
mit den Benutzern kompetenter machen.
Die Fähigkeit, Schlussfolgerungsprozesse und deren Resultate
erklären zu können, beeinflusst die Bedienbarkeit und Akzeptanz von
Softwaresystemen in hohem Maße. Jedoch ist das Thema Erklärung mit dem
Niedergang der Experensystemforschung während des KI-Winters ebenfalls
ins Abseits geraten. Erst in der letzten Zeit wurde diesem Thema wieder
angemessen Aufmerksamkeit geschenkt.
Für wissensbasierte Systeme werden Erklärungen als wichtige
Verbindung zwischen Mensch und Maschine betrachtet. Ihr Hauptzweck
liegt darin, das Vertrauen des Benutzers in die Systemausgaben oder das
System als Ganzes zu stärken. Durch Information, wie das System zu einer Lösung kommt, wird nicht nur Überzeugung, Zufriedenheit und Transparenz verstärkt, sondern auch Entscheidungsunterstützung angeboten. Erklärungen haben wichtigen Anteil am Prozess
menschlichen Verstehens und sind oft Teil von Dialogen. Daher müssen
sie auch Teil von Systeminteraktionen werden.
Ein hilfreiches Werkzeug für das Design und die Entwicklung von
wissensbasierten Softwaresystemen von einem erklärungsbewussten
Standpunkt aus bietet das folgende allgemeine Erklärungsszenario mit
drei Teilnehmern: Benutzer, eigentliches Werkzeug ("originator") und
Erklärer.
- Der Benutzer kommuniziert mittels einer Benutzerschnittstelle mit dem Gesamtsystem. Er ist der Empfänger von Erklärungen.
- Der Originator ist das Werkzeug, mit dem der Benutzer Aufgaben erledigt und Probleme löst.
- Der Erklärer kann als weiteres Werkzeug betrachtet werden, das verstehen hilft, wie der Originator arbeitet und welches Wissen der Originator benutzt.
Das etwas eingeschränkte Szenario betrachtet nur, welche
Erklärungen das System an den Benutzer liefert, jedoch nicht die andere
Richtung. In dieser Hinsicht vereinfacht dieses Szenarion reale
Kommunikationsprozesse.
Erklärer und Originator sind nicht unabhängig voneinander, sondern müssen zusammenarbeiten. Der Originator
muss Wissen über seine Schlussfolgerungsprozesse bereitstellen und darüber, welche Zwischenresultate zur Verfügung stehen und welche
Entscheidungen getroffen wurden. Nur so können gute Erklärungen geliefert werden.
Die Beziehung zwischen Originator und Erklärer ist außerdem
asymmetrisch. Während der Erklärer Zugriff auf die Wissensbasis des
Originators haben muss, gilt dies im umgekehrten Fall nicht. Zum
Problemlösen benötigt der Originator keinen Zugriff auf die
Wissensbasis des Erklärers, aber der Originator muss sich dieser
Wissensbasis bewusst sein, um sie angemessen zu füllen.
Das beschriebene Kommunikationsszenario leitet unser
erklärungsbewusstes Design und die Entwicklung von wissensbasierten
Softwaresystemen mit Erklärungsfähigkeiten.
Links:
On-explanation.net
Explanation researchers
Manifesto
Ansprechpartner
Dr. Thomas Roth-Berghofer