Explanation-aware Computing

"Explanation-aware computing" will komplexe Informationssysteme durch die Verbesserung ihrer Erklärungsfähigkeiten im Umgang mit den Benutzern kompetenter machen.

Die Fähigkeit, Schlussfolgerungsprozesse und deren Resultate erklären zu können, beeinflusst die Bedienbarkeit und Akzeptanz von Softwaresystemen in hohem Maße. Jedoch ist das Thema Erklärung mit dem Niedergang der Experensystemforschung während des KI-Winters ebenfalls ins Abseits geraten. Erst in der letzten Zeit wurde diesem Thema wieder angemessen Aufmerksamkeit geschenkt.

Für wissensbasierte Systeme werden Erklärungen als wichtige Verbindung zwischen Mensch und Maschine betrachtet. Ihr Hauptzweck liegt darin, das Vertrauen des Benutzers in die Systemausgaben oder das System als Ganzes zu stärken. Durch Information, wie das System zu einer Lösung kommt, wird nicht nur Überzeugung, Zufriedenheit und Transparenz verstärkt, sondern auch Entscheidungsunterstützung angeboten. Erklärungen haben wichtigen Anteil am Prozess menschlichen Verstehens und sind oft Teil von Dialogen. Daher müssen sie auch Teil von Systeminteraktionen werden.

Ein hilfreiches Werkzeug für das Design und die Entwicklung von wissensbasierten Softwaresystemen von einem erklärungsbewussten Standpunkt aus bietet das folgende allgemeine Erklärungsszenario mit drei Teilnehmern: Benutzer, eigentliches Werkzeug ("originator") und Erklärer.

• Der Benutzer kommuniziert mittels einer Benutzerschnittstelle mit dem Gesamtsystem. Er ist der Empfänger von Erklärungen.
• Der Originator ist das Werkzeug, mit dem der Benutzer Aufgaben erledigt und Probleme löst.
• Der Erklärer kann als weiteres Werkzeug betrachtet werden, das verstehen hilft, wie der Originator arbeitet und welches Wissen der Originator benutzt.

Das etwas eingeschränkte Szenario betrachtet nur, welche Erklärungen das System an den Benutzer liefert, jedoch nicht die andere Richtung. In dieser Hinsicht vereinfacht dieses Szenarion reale Kommunikationsprozesse.

Erklärer und Originator sind nicht unabhängig voneinander, sondern müssen zusammenarbeiten. Der Originator muss Wissen über seine Schlussfolgerungsprozesse bereitstellen und darüber, welche Zwischenresultate zur Verfügung stehen und welche Entscheidungen getroffen wurden. Nur so können gute Erklärungen geliefert werden. Die Beziehung zwischen Originator und Erklärer ist außerdem asymmetrisch. Während der Erklärer Zugriff auf die Wissensbasis des Originators haben muss, gilt dies im umgekehrten Fall nicht. Zum Problemlösen benötigt der Originator keinen Zugriff auf die Wissensbasis des Erklärers, aber der Originator muss sich dieser Wissensbasis bewusst sein, um sie angemessen zu füllen.

Das beschriebene Kommunikationsszenario leitet unser erklärungsbewusstes Design und die Entwicklung von wissensbasierten Softwaresystemen mit Erklärungsfähigkeiten.

Links:
On-explanation.net
Explanation researchers
Manifesto

Ansprechpartner
Dr. Thomas Roth-Berghofer