Roboter konnten schon immer zweckentfremdet werden. Je mehr sie aber vermögen, je mehr Instrumente sie haben, je mehr sie zu Generalisten werden, desto eher scheinen sie auch für Anwendungen geeignet zu sein, für die sie nicht vorgesehen waren. Und je mehr sich Roboter verbreiten, desto mehr sind sie auch Menschen zugänglich und ausgeliefert, die sie in vielfältiger Weise ge- und missbrauchen können.
Gastbeitrag von Oliver Bendel, Professor an der Hochschule für Wirtschaft der FHNW
Immer wieder werden Beispiele für eine tatsächliche oder angestrebte bzw. abgelehnte Umwidmung der Maschinen bekannt. Der vorliegende Artikel definiert die Begriffe der in diesem Kontext vor allem in Frage kommenden Service- und Spielzeugroboter und geht auf Zweckentfremdungen ein, die besonders diskussionswürdig und zukunftsträchtig scheinen. Auch Softwareroboter wie Social Bots und Chatbots wären darstellungswürdig, sollen hier aber ausgeklammert werden.
Service- und Spielroboter
Serviceroboter sind Roboter, die einen Service bieten, also Benutzern etwas erklären, sie beraten, begleiten und unterstützen. Daraus wird schon ersichtlich, dass sie sprachlich und körperlich aktiv werden können. Man bezeichnet Operations-, Pflege-, Therapie- und Sexroboter oder Mäh-, Saug-, Schwimmbecken- und Fensterglasputzroboter als Serviceroboter und grenzt sie damit beispielsweise von Industrierobotern ab, also von Bewegungsautomaten, die in der Fabrik zugange sind. Je nach Sprache und Kontext mag die Begrifflichkeit "Service" merkwürdig anmuten (Bendel 2015b).
Spielroboter oder Spielzeugroboter können verstanden werden als Roboter, die dem kindlichen oder erwachsenen Spiel und insofern als Spielzeug dienen. Sie können einfach und günstig, aber auch hochentwickelt und teuer sein. Es wird also für jeden Zweck und jeden Geldbeutel etwas Passendes geboten. Auf einschlägigen Websites findet man Produkte mit Fernsteuerung, Raupenantrieb, Kamerasystem, Spracherkennung und vielen anderen Features. Die einen verfügen über vorgegebene Fähigkeiten, die anderen sind in ihren Bewegungen und Tätigkeiten bzw. in ihren (Laut-)Äusserungen durch meist einfache Formen der Programmierung erweiterbar.
Beispiele für Zweckentfremdungen
Im Folgenden werden Beispiele für Zweckentfremdungen gegeben. Einerseits muss die Liste willkürlich bleiben, andererseits nimmt sie bekannte Umsetzungen auf und ist so ein Stück weit von der Realität bestimmt, in der sich die Fälle ereignet haben. Zudem werden unterschiedliche Varianten von Spielzeug- und Servicerobotern berücksichtigt. Auch ein Industrieroboter ist mit von der Partie.
In Dallas wurde, wie Telepolis im Juli 2016 meldete, "ein ferngesteuerter Roboter zum Platzieren einer Bombe eingesetzt, um einen Täter auszuschalten" (Rötzer 2016b). Die Polizei wählte nach Angabe des Journalisten einen Roboter der Art, "wie er normalerweise zum Entschärfen von Bomben verwendet wird" (ebd.). Praktisch mache es keinen Unterschied, ob der Täter durch von Polizisten abgegebene Schüsse ausgeschaltet werde oder durch einen Sprengsatz, den ein Roboter ferngesteuert zu diesem bringt und in die Luft gehen lässt. "Aber es zeigt …, dass auch Nichtkampfroboter Dual-Use-Maschinen sind und zu tödlichen Waffen umfunktioniert werden können …" (ebd.) Damit wächst die Zahl der potenziellen Kampfroboter und Kriegsmaschinen erheblich, und auch private Drohnen können zum Werkzeug von Behörden oder auch von Terroristen werden. Im Artikel wird spekuliert, dass der Einsatz in Dallas die Polizei "auf neue Ideen bringen könnte" (ebd.).
Zivile Drohnen sind z.B. privat oder kommerziell genutzte unbemannte Quadrokopter. Immer wieder sind sie in die Schlagzeilen geraten, etwa wenn durch sie Rettungseinsätze gestört, sie absichtlich oder unabsichtlich in Crashs verwickelt oder sie zur Überwachung und Ausspähung eingesetzt wurden. Damit ist bereits der eigentliche Zweck, die spielerische, vertriebliche oder logistische Aktivität, in Frage gestellt. Festzuhalten gilt es: "Die Drohne ist ein Objekt, das über uns rotiert und oszilliert, das uns von oben observiert – und damit tief in unseren Alltag eingreift. Dabei sind die Grundprobleme unabhängig von der Verbreitung vorhanden. Ein Erfolg wird allerdings in weitere Herausforderungen münden, etwa wenn die Geräte miteinander und im Internet der Dinge kommunizieren und kooperieren und sich zu beeinflussen versuchen, oder wenn der Druck, diese einzusetzen, hoch ist. Auch kriminelle und terroristische Aktivitäten werden Reaktionen hervorrufen, z.B. wenn man UAV für Sprengstoffanschläge instrumentalisiert." (Bendel 2015a) Ebenso können Handfeuerwaffen an leistungsfähigen Drohnen angebracht werden, was ebenfalls in die Richtung der Dual-Use-Problematik weist, oder elektronische Bibeln, die über "Ungläubigen" abgeworfen werden, wenn es nach den Wünschen christlicher Fundamentalisten geht (Rötzer 2016a).
In der Gebrauchsanweisung eines humanoiden Roboters namens Pepper heisst es, Benutzer dürften keine sexuellen Handlungen an ihm vornehmen (Bendel 2016). Andernfalls drohten Strafen, wie 2015 berichtet wurde, wobei unklar blieb, um welche es sich genau handelt und von wem sie entdeckt und vollstreckt werden sollen. Das Beispiel verdeutlicht, dass es keinen Sexroboter braucht, um Sex mit einem Roboter zu haben. Jeder zweite Serviceroboter dürfte für solche Zwecke interessant sein, und jeder dritte Industrieroboter, um etwas pointiert zu sein. Die Softbank Mobile Corp. – die zusammen mit Aldebaran Robotics SAS aus Frankreich den Roboter entwickelt hatte – ging mit ihrer Warnung noch weiter und über den Körper hinaus. Es seien Manipulationen der Software verboten, mit denen Pepper eine erotische Stimme verliehen werden könnte.
Im Südpol Luzern erlebten die Zuschauerinnen und Zuschauer im Rahmen des Tanzfestivals Steps, wie sich Mensch und Maschine sehr nahe kamen. Dafür war Huang Yi verantwortlich, ein Tänzer und Choreograf aus Taiwan. Der "träumte schon in Kindertagen davon, einen Roboter zum Freund zu haben" (Website Steps 2016). "Erwachsen geworden, ist für ihn daraus Wirklichkeit geworden, denn er teilt sich, unterstützt von zwei weiteren Tänzern, die Bühne mit Kuka, einem Industrieroboter. Das Ergebnis ist Tanzkunst, die mit messerscharfer Präzision begeistert." (Website Steps 2016) Der Robot tanzte wie die Menschen, tanzte mit dem Menschen, mit Huang Yi, die Menschen – es kamen eine Tänzerin und ein Tänzer hinzu – tanzten wie der Robot, liessen sich von ihm bewegen, durch seine Gesten und von seinem optisch umgesetzten "Traktorstrahl". "Gebannt verfolgt man die Begegnung dieser scheinbar so ungleichen Partner und spürt die emotionale Beziehung. Die Art des Verhältnisses bleibt dabei jedoch in der Schwebe: Sind es nun die vom Choreografen in der Kindheit ersehnten Freunde? Oder handelt es sich vielmehr um einen ausgefeilten und geschmeidigen Wettkampf? Wer lernt von wem? Wer behält die Oberhand?" (Website Steps 2016) Einmal schaute der Kuka sich selbst an, mit Hilfe einer zwischendurch aufgesteckten Kamera, fertigte bewegte Selfies an, vom Schild mit seinen technischen Daten, von einem Warnschild, das ebenfalls bei ihm angebracht war, und von sich als Gesamtkunstwerk.
Weltraumroboter haben wohldefinierte Aufgaben, die schon in ihrem Namen angedeutet sind. Die Nabelschau scheint nicht dazuzugehören, auch nicht die moderne im Sinne von Selfies. Allerdings sind sie in der Ferne unterwegs, sie sind allein, um nicht zu sagen einsam, und nichts liegt näher, als ein Foto von sich selbst zu knipsen und es an die Daheimgebliebenen zu schicken. Der eigentliche Zweck ist natürlich, den Ingenieuren zu zeigen, ob die Apparate in Ordnung sind, ob die Hülle eine Beschädigung oder eine Veränderung aufweist. Aus Sicht der Robotik ist zu untersuchen, wie die Selfies zur Weiterentwicklung und zum Selbstlernen beitragen könnten. In welcher Hinsicht ist die egozentrische Perspektive interessant? Kann der Roboter zu neuem Wissen über die ihn unmittelbar umgebende Umwelt kommen? Kann er seine Mimik und Gestik interpretieren und sein Verhalten reflektieren? Kann er nach und nach ein Selbstbewusstsein erlangen oder sich zumindest selbst im Spiegel erkennen?
Die Liste könnte man erweitern und fortführen, unter Verwendung von Medienberichten, Fachpublikationen und eigenen Erfahrungen. Sie soll aber in dieser Form für erste Überlegungen ausreichen.
Gemeinsamkeiten und Unterschiede
Kann man Muster bei diesen Beispielen erkennen, Gemeinsamkeiten und Unterschiede? Im Folgenden eine Sammlung, die man wiederum fortführen könnte:
- Die meisten der aufgeführten Roboter sind mobil zumindest in dem Sinne, dass sie mitgenommen bzw. bewegt werden können.
- Die Roboter sind mehrheitlich ferngesteuert; Pepper kann wie manche der Weltraumroboter als (teil-)autonom gelten.
- Sie haben entweder ein rein technisches oder aber ein menschliches Antlitz, sind also humanoid; in jedem Fall haben sie Werkzeuge oder zumindest Vorrichtungen, an denen etwas befestigt werden kann.
- Bei manchen ist der neue Zweck mit dem alten verwandt; bei anderen erinnert nichts mehr an die ursprüngliche Verwendung.
- Die Maschinen werden zweckentfremdet, indem man Möglichkeiten ihrer Hardware umdeutet, ohne dass die Software dafür wesentlich verändert würde, die freilich unverändert benutzt werden kann, etwa mit Blick auf die Steuerung.
- In einem Beispiel handelt es sich womöglich gar nicht um eine Zweckentfremdung. Zwar ist der Hauptzweck von Weltraumrobotern nicht, Selfies anzufertigen, und auch nicht von anderen ferngesteuerten oder (teil-)autonomen Robotern, aber die Nützlichkeit ist nicht von der Hand zu weisen, ebenso die faktische systematische Integration in Weltraumflugzeuge und -fahrzeuge.
Der Kuka-Roboter ist, wie zu erwarten war, ein Sonderfall. Auch die Weltraumroboter sind wohl separat zu betrachten. Um die These zu erhärten, dass Spielzeug- und Serviceroboter für eine Zweckentfremdung besonders geeignet sind, bräuchte es noch weitere Beispiele und Argumente.
Zusammenfassung und Ausblick
Der vorliegende Beitrag sollte zeigen, dass man für bestimmte Zwecke entwickelte Roboter – der Fokus war auf Spielzeug- und Serviceroboter gerichtet – umrüsten und missbrauchen kann. Ferngesteuerte Roboter sind leicht als Waffen zu gebrauchen; sie werden selbst, etwa durch ihre Bewegung und ihr Gewicht, zum tödlichen Geschoss, befördern oder bedienen Sprengstoff und Schusswaffen. Die Dual-Use-Problematik stellt sich neu: Aus einer zivilen Anwendung kann schnell eine militärische werden. Bei autonomen Robotern sind solche Wandlungen schwierig; zumindest wäre ein Eingriff in die Programmierung notwendig. Allerdings kann man sie auch den Kontext wechseln lassen, sodass ihre Tätigkeit zwar die gleiche ist, diese aber andere Auswirkungen hat. Nicht zuletzt kann man ihnen, wie das Beispiel mit Pepper gezeigt hat, einen Kontext aufzwingen.
Bei Robotern, die für viele unterschiedliche Zwecke gebaut wurden, könnte sich eine entsprechend intensivere Mehrfachverwendung ergeben. Freilich zeigt der Fall des Quadrokopters, dass dieser, als Spielzeug und Kamerasystem für die Privatperson gedacht, allein dadurch vielfältig missbraucht werden kann, dass er etwas zu transportieren vermag – von der unbotmässigen Verwendung der Kamera und weiterer Sensoren ganz abgesehen. Es wurde ein klassischer Industrieroboter einbezogen, also eine hochspezialisierte Maschine, die auf extreme und geniale Weise zweckentfremdet wurde. Es wäre interessant, eines Tages auf die generalistischen Industrieroboter zurückzuschauen, die zurzeit in vielen Laboratorien und Produktionsstätten entstehen und die neben dem Vorzug der Vielseitigkeit oft auch den der Überalleinsetzbarkeit haben.
In den genannten Beispielen wurde vor allem, wie deutlich wurde, die Hardware verändert, die Software dagegen nicht oder kaum. Mit dieser hätte man ein mächtiges Instrument. Man könnte die ursprüngliche Intention in unterschiedlicher Weise umkehren und die Maschine nicht nur etwas anderes tun, sondern sie auch anders abwägen und entscheiden lassen. Damit ist man bei der Disziplin der Maschinenethik. Diese fragt nach der Möglichkeit maschineller Moral, und zusammen mit Robotik und Künstlicher Intelligenz konzipiert und konstruiert sie moralische Maschinen. Auch unmoralische Maschinen können aus ihr heraus entstehen, und eine Möglichkeit der Zweckentfremdung wäre, eine moralische Maschine durch Umprogrammierung oder einen feindlichen Angriff in eine unmoralische zu transformieren.
Es wurden überwiegend Beispiele gefunden und gesammelt, an denen sich kontroverse Diskussionen entzündet haben. Dies liegt sicherlich daran, dass diese spektakulärer sind und sowohl eher die Aufmerksamkeit der Medien als auch des Verfassers geweckt haben. Es würde sich lohnen, auch weniger umstrittene Beispiele aufzunehmen, und wenn man daran denkt, dass auch privat genutzte Drohnen – zumindest hochpreisige Modelle – dringend benötigte Medikamente und Geräte überbringen und Verirrte oder Verletzte in den Bergen aufspüren können, ist schnell abzusehen, dass es eine Fülle davon gibt. Den negativen und positiven Optionen können sich Robotik, Künstliche Intelligenz und Maschinenethik als Gestaltungsdisziplinen widmen. Auch Informations- und Technikethik als Reflexionsdisziplinen sind gefragt, zudem die Technologiefolgenabschätzung. Und natürlich die Vertreter der Rechtswissenschaft; der Begriff des Dual-Use wird seit langem in der Exportkontrolle angewendet und künftig zu hinterfragen und auszuweiten sein. Die systematische Beschäftigung mit der Zweckentfremdung von Robotern dürfte sich als überaus gewinnbringend herausstellen.
Literatur:
- Bendel, Oliver. Die Sexroboter kommen: Die Frage ist nur, wie und wann. In: Telepolis, 13. Juni 2016. Über http://www.heise.de/tp/artikel/48/48471/1.html.
- Bendel, Oliver. Private Drohnen aus ethischer Sicht: Chancen und Risiken für Benutzer und Betroffene. In: Informatik-Spektrum, 14. Februar 2015a ("Online-First"-Artikel auf SpringerLink).
- Bendel, Oliver. Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics. In: van Rysewyk, Simon Peter; Pontier, Matthijs (Hrsg.). Machine Medical Ethics. Series: Intelligent Systems, Control and Automation: Science and Engineering. Springer, Berlin, New York 2015b. S. 17 – 32.
- Rötzer, Florian. Christen ziehen in den Krieg - mit Bibeln. In: Telepolis, 7. August 2016a. Über http://www.heise.de/tp/artikel/49/49060/1.html.
- Rötzer, Florian. Dallas: Umfunktionierter Bombenroboter zur gezielten Tötung eines Verdächtigen. In: Telepolis, 8. Juli 2016b. Über http://www.heise.de/tp/artikel/48/48771/1.html.
- Website Steps. Taiwan – Tanz – Huang Yi & Kuka. Informationen aus dem Jahre 2016 zu einer Veranstaltung des Tanzfestival Steps. Über http://steps.ch/de/veranstaltung?uniqueId=216946_225792_2016041220160412.
