Die Geburt des "Bestbot"

Bild: Screenshot

An der Hochschule für Wirtschaft FHNW wurde von März bis August 2018 der "Bestbot" entwickelt. Vorgängerprojekte waren der "Goodbot" (2013) und der "Liebot" (2016). Der studierte Philosoph und promovierte Wirtschaftsinformatiker Oliver Bendel forscht seit einigen Jahren in der jungen Disziplin der Maschinenethik. Diese bringt in Zusammenarbeit mit Robotik und Künstlicher Intelligenz (KI) moralische Maschinen hervor. Anfang 2018 präsentierte Bendel an der Stanford University im Rahmen einer KI-Konferenz sein Paper „From GOODBOT to BESTBOT“, das die Grundlage für das Bestbot-Projekt (www.bestbot.ch) legte.

David Studer programmierte den Chatbot in Java. Zudem verwendete er Javascript, HTML und CSS. In technischen Fragen stand ihm Prof. Bradley Richards zur Seite. Wie der Liebot ist der Bestbot ein vernetztes System, das z.B. Suchmaschinen und Lexika anzapft. Der Bestbot analysiert die Texteingaben des Users u.a. mit textbasierter Emotionserkennungssoftware. Zugleich wird Gesichtserkennung eingesetzt, wiederum mit Emotionserkennung. Wenn der Benutzer etwa angibt, dass es ihm gut geht, sein Gesicht aber anderes verrät, spricht der Chatbot diese Diskrepanz an. Der Bestbot erfasst sowohl kleine als auch grosse Sorgen. Wie der Goodbot kann er über mehrere Ebenen eskalieren und eine passende Notfallnummer herausgeben. Wie sein Vorgänger macht er deutlich, dass er nur eine Maschine ist. Besonders ist auch, dass er bei Tatsachenbehauptungen die Quelle angibt.

Bendel, der in Ulm geboren wurde und in Zürich lebt, entwickelt seit 2013 Artefakte der Maschinenethik. Neben den drei genannten Softwarerobotern ist 2016 der Hardwareroboter Ladybird entstanden, der Prototyp eines tierfreundlichen Saugroboters. In jüngster Zeit wurden Moralmenüs konzipiert, mit denen man Systeme an die eigene Moral anpassen kann. Mit all diesen Aktivitäten trägt Bendel zur Weiterentwicklung der Maschinenethik bei. Er hält auch unmoralische Maschinen für zulässig, wobei er sie wie den Liebot im Labor behält. Der Bestbot ist eine moralische Maschine, in der womöglich eine unmoralische steckt. "Er kann eine Problemlage mit grosser Genauigkeit feststellen, muss dafür allerdings Gesichtserkennung einsetzen – man gewinnt Sicherheit und verliert Freiheit“, so Bendel. Der Benutzer kann sich immerhin dafür entscheiden, die Gesichtserkennung zu deaktivieren, wodurch der Chatbot nicht funktionslos wird. Diese Freiheit wird ihm nicht genommen.

Oliver Bendel lehrt und forscht als Professor für Wirtschaftsinformatik an der Hochschule für Wirtschaft FHNW, mit den Schwerpunkten Wissensmanagement, Wirtschaftsethik, Informationsethik und Maschinenethik. 2016 sind seine Bücher "Die Moral in der Maschine“ (Heise Medien) und "300 Keywords Informationsethik“ (Springer) erschienen. Im Herbst 2018 kommt das von ihm herausgegebene Buch "Pflegeroboter“ (Springer) auf den Markt. Laufend werden Beiträge des von ihm herausgegebenen "Handbuchs Maschinenethik“ (Springer) publiziert. Weitere Informationen über www.oliverbendel.net, www.informationsethik.net und www.maschinenethik.net.

Stellenmarkt für Informatik, Informations- und Kommunikationstechnologien ICT