Technik und die Grenzen der Ethik

Öffnen wir gerade die Büchse der Pandora, oder eröffnet sich eine faszinierende Chance für ein ethisch verantwortliches Handeln. Beginnen wir mit einem Zitat von Sarah Spiekermann, Professorin für Wirtschaftsinformatik in Wien, aus ihrem Buch „Digitale Ethik“: „Fortschritt braucht Weisheit und Mut – Maschinen fehlt beides.“ (Zitat Ende)

Apps und Programme verschicken unaufgefordert Informationen. Autos oder unsere heimischen Systeme werden ohne menschliches Zutun von externen Rechnern gesteuert, IT-Systeme und Arbeitsabläufe treiben Menschen in die Depression oder machen sie überflüssig . . . Menschen fragen sich, was macht die Digitalisierung, was macht die Technik mit mir und meinem Leben? Ist mein Job noch sicher? . . .

Was bedeutet denn „Grenzen der Ethik“? Eine Grenze kann es nur für Dinge geben, die messbar sind, bzw. eine Reihung von Werten, die von -x bis +unendlich reichen, bzw. einen definierten abgegrenzten Raum abbilden.

Ethik, also „das sittliche Verständnis“, ist jener Teilbereich der Philosophie, der sich mit den Voraussetzungen und der Bewertung menschlichen Handelns befasst. Der Begriff stammt vom griechischen Ethos = „Charakter, Sinnesart, Gewohnheit, Sitte, Brauch.

Im Zentrum der Ethik steht das spezifisch moralische Handeln, insbesondere hinsichtlich seiner Begründbarkeit und Reflexion. Das bedeutet also – es geht nicht um die Grenzen der Ethik, sondern um die Grenzen und den Wandel von Wert- und Moralvorstellungen. Diese allerdings sind als in sich begrenzter Raum gruppen-, bzw. regionalspezifisch und somit mess- und überprüfbar.

Doch werden wir konkret. Beginnen wir mit einem der derzeit größten sozialethischen Projekte des 21. Jahrhunderts. Dieses ist zugleich faszinierend, technisch extrem anspruchsvoll, regt zum Nachdenken an und ist gleichzeitig erschreckend und furchteinflößend. Wir begeben uns auf eine kleine Reise – nach China.

Die Regierungsvorlage für das chinesische Sozialkredit-System wurde am 14. Juni 2014 vom Staatsrat beschlossen. Das derzeit auf freiwilliger Basis funktionierende System soll Ende 2020 für die knapp 22 Millionen Einwohner Pekings verpflichtend in Betrieb sein und dann auf das ganze Land ausgeweitet werden. Angestrebt wird damit die Steigerung

  • der „Aufrichtigkeit in Regierungsangelegenheiten“
  • die Steigerung der „kommerziellen Integrität“
  • die Steigerung der „sozialen Integrität“
  • und die Steicherung der „gerichtlichen Glaubwürdigkeit“

Hohe ethische Ziele also. Um diese hohen ethischen Ziele zu erreichen, werden staatliche und private Datenbanken auf nationaler und subnationaler Ebene integriert und miteinander vernetzt. Es fließen zur Berechnung Daten zur finanziellen Bonität, zum Strafregister und zu weiteren als relevant erfassten Verhaltensweisen ein. Des Weiteren werden Daten von ausgesuchten Partnerunternehmen wie u.a. Alibaba (chinesisches Äquivalent zu Amazon), Tencent (chinesisches Äquivalent zu Facebook), Baidu (chinesisches Äquivalent zu Google) in die Bewertung einfließen.

Das System befindet sich bis 2020 in der Testphase. Im Pilotprojekt in der Stadt Rongcheng starten Personen mit 1000 Punkten. Je nach Verhalten werden Punkte hinzuaddiert oder abgezogen. Zur Bewertung werden neben der Kreditwürdigkeit, der Zahlungsfähigkeit und dem Strafregister auch das „persönliche Verhalten“ herangezogen. (Beispiele: Frauen belästigen, Kaugummi auf Straße spucken . . .)

Hierzu senden u.a. mehr als 200 Hersteller von Elektro-Autos, darunter VW, BMW, Daimler, Tesla, Ford, General Motors, Nissan, Mitsubishi und Nio seit 2017 gemäß nationaler Normung ca. 61 Messwerte, darunter zur Akku- und Motorenfunktion und Standortdaten regelmäßig an Auswertezentren.

Und die EU hat soeben Anfang Oktober die Ausweitung des Social-Point-Systems auf Unternehmen ausdrücklich begrüßt. Man erhofft sich damit einen leichteren Zugang auf den chinesischen Markt. Für jeden Unternehmens-Score werden über 300 einzelne Werte einberechnet – von der Zahlungsmoral, über die Einhaltung von Umweltschutz-Bestimmungen bis hin zum persönliche Score von Vorstand und Management.

Aber wir müssen gar nicht so weit in die Ferne blicken. Zur Erinnerung: TomTom, einer der größten Navigationsgerätehersteller, hat 2011 seine gespeicherten Verkehrsdaten an die niederländische Regierung verkauft. Das Ziel war die Verbesserung der Infrastruktur. Die Regierung hat die erworbenen Daten aber nicht, wie von TomTom angenommen, zur Verbesserung des Straßennetzes verwendet, sondern um Temposünder zur Kasse zu bitten.

TomToms Verkehrsinformationsdienst HD Traffic wertet unter anderem anonymisierte Bewegungsprofile von Navigationsgeräten mit Internetanbindungen und von Smartphones mit TomTom-App aus, um beispielsweise verlangsamten Verkehr oder Staus möglichst früh zu erkennen. Hierbei werden auch Daten wie Fahrgeschwindigkeitswerte übermittelt. Die niederländische Polizei nutzte diese Werte, um nachzuvollziehen, an welchen Stellen besonders viele Gerätenutzer sich nicht an das Tempolimit halten. An diese Stellen wurden dann Radarfallen aufgestellt. Der Verkauf der Verkehrsdaten ist an sich legal, von TomTom in den Nutzungsbedingungen angekündigt und wird auch weiterhin erfolgen. 

Doch zurück zu China. Derzeit laufen in China mehr als 70 Pilotprojekte, in denen verschiedene Aspekte des Systems getestet werden.

Unterstützt wird die Datenauswertung durch existierende Datenbanken, Auswertung der Mobilität (Handy + Fahrzeug) und durch über 600 Millionen geplante Kameras. Dieses System mit dem Namen Xue Liang, was so viel wie „Adleraugen“ bedeutet, soll die 1,4 Milliarden Einwohner im Auge behalten. Umgerechnet bedeutet dies 1 Kamera pro 2 Einwohnern.

Zum Vergleich:

London 2018: 4,5 Millionen Kameras = ebenfalls 1 Kamera pro 2 Einwohner

München 2017: 10.000 offizielle Überwachungskameras = 1 Kamera pro 120 Einwohner. Dazu kommen noch unzählige private Kameras und die Videoüberwachung in Läden. Nur 9,4% der Münchner Ladenbesitzer geben an, keine Videoüberwachung zu besitzen.

Doch zurück nach China. Das System identifiziert über Gesichtserkennungs-Software eine Person und kann das aktuelle Verhalten nach einem Analyse-Muster entsprechend bewerten – und Konsequenzen ziehen, z.B. die Polizei informieren. Und wer würde sich nicht darüber freuen, wenn er im Falle eines Überfalls schnell Hilfe von einem Einsatzkommando bekommt.

Einer der führenden Hersteller von intelligenten Kameras ist das chinesische Unternehmen Megvii. Gegründet wurde das Unternehmen 2011 von drei Studenten. Die Technik soll das Leben bequemer und sicherer machen, werben die Hersteller. Einige Studentenwohnheime können nur noch betreten werden, wenn der Gesichts-Scanner einen passieren lässt. Kunden eines Kentucky Fried Chicken Restaurants in Hanzhou können ihre Rechnung mit einem Lächeln begleichen. Der Erkennungsprozess dauert ein bis zwei Sekunden und basiert auf einer 3D-Kamera. Mehr als 400 Millionen Chinesen vertrauen dem Bezahldienst bereits.

Die Gesichtserkennungs-Software greift selbst in die kleinsten Dinge des Alltags ein: Um die Papierverschwendung einzudämmen, begrenzen öffentliche Toiletten im Testgebiet die Menge an Toilettenpapier pro Person. 60 Zentimeter = 20 Blatt gibt es pro Gesicht, dann ist Schluss.

Unterm Strich soll das chinesische System einen individuellen Score für jeden Bürger errechnen – und somit für ein Mehr an Gerechtigkeit und für eine gezielte persönliche Entwicklung des Einzelnen sorgen – im Sinne der gesellschaftlich staatlichen Wertevorstellungen. Der jeweilige persönliche Score basiert auf Verhalten, Umweltbewusstsein, sozialem Engagement,  etc. – und hat Folgen.

So können Karrieren durch einen negativen Score behindert werden. Möglich sind Reisebeschränkungen (keine Zug- oder Flugzeugtickets), die Drosselung der Internetgeschwindigkeit, der Ausschluss von öffentlichen Ausschreibungen und höhere zu zahlende Steuern (Hallo CO2-Steuer J).

Anfang 2019 wurde bekannt, dass die chinesische Regierung im Jahr 2018 auf Basis von Daten aus dem Projekt, den Kauf von 17,5 Millionen Flugtickets und 5,5 Million Zugfahrtscheinen durch Personen verweigert hatte, weil man den Reisenden verschiedene Verstöße zur Last legte und sie so über zu wenige Sozialpunkte verfügten.

Chinesische Staatsbürger mit einem positiven Rating bekommen hingegen schnelleren Zugang zu Krediten und werden bei Ausreisebestimmungen bevorzugt, wie z. B. bei der Beantragung eines Visums.

Die in China sehr verbreiteten, beliebten und gesellschaftlich wichtigen Dating-Portale haben diesen Trend bereits aufgegriffen. Gesucht werden z.B. potentielle Partner mit einem Social Score > 800. Die Konsequenz: Soziales Verhalten als Voraussetzung für genetische Reproduktion.

Wir sehen also an diesem Beispiel, wie moderne Technik individuelles Verhalten auf Basis vorab definierter Werte überwachen kann und damit das Individuum direkt mit den Folgen seines Tuns oder Nicht-Tuns konfrontiert. Und das System wird in China vom überwiegenden Teil der Bevölkerung bejaht und begrüßt. Denn wer Gutes tut wird belohnt – der Asoziale bestraft.

Das Problem ist also nicht die Technik – es ist das Menschenbild und die zugrunde liegenden Wertvorstellungen. Es geht nicht um eine Grenze der Ethik – es geht um die Frage, welche Werte sind uns wichtig und wie wichtig ist uns die Einhaltung dieser Werte. Was sind wir bereit dafür zu tun? Ein Problem, das jeder Hartz4-Empfänger oder Arbeitslose kennt. Wer sich nicht an die Wertvorstellungen und Vorgaben der Behörden hält, wird sanktioniert.

Das Ziel der Chinesen ist eigentlich ein sehr hehres Ziel. Es geht um eine ethische Weiterentwicklung des Einzelnen im Sinne der Gesellschaft – und in diesem Sinne um die dazu notwendige Überwachung und Kontrolle.

Die Technik soll in letzter Konsequenz zu einer besseren und gerechteren Gesellschaft führen. Der Gute wird belohnt – der Böse bestraft. Der ethisch korrekt Handelnde erhält Boni, der falsch Handelnde wird beschränkt. Es lohnt sich also ein „guter“ Mensch zu sein.

Damit sind wir wieder bei der Ethik. Wir Freimaurer bezeichnen uns ja selbst als ethischen Bund mit festen Werten. Und wie ich in meiner Zeichnung vor knapp 2 Jahren über das Thema „Werte und die Freimaurerei“ dargelegt habe, ist das doch etwas differenziert zu sehen. Die Werte der Aufklärung, auf die wir uns so gerne berufen, wurden mit den Guillotinen durchgesetzt.

Heute analysieren wir in unseren Logen über eine Art „Gesinnungsprüfung“ den Suchenden und treffen unser Urteil – Aufnahme oder Ablehnung, passt oder passt nicht. 3 negative Stimmen einer übergewichteten Minderheit genügen für die Ablehnung eines Suchenden. Dass es nicht soweit kommt, dafür haben wir ein Auswahlverfahren vorgeschaltet – ein gegenseitiges Kennenlernen. Und nach erfolgter Aufnahme „helfen“ wir dem Bruder als Brüder, damit er an seinem rauen Stein arbeitet und sich richtig entwickelt.

Doch zurück zur Ethik. Im Zentrum der Ethik steht das spezifisch moralische Handeln, insbesondere hinsichtlich seiner Begründbarkeit und Reflexion.

Ethik, als Bezeichnung für eine philosophische Disziplin, geht auf Aristoteles zurück, der damit die wissenschaftliche Beschäftigung mit Gewohnheiten, Sitten und Gebräuchen meinte. Er war der Überzeugung, menschliche Praxis sei grundsätzlich einer vernünftigen und theoretisch fundierten Reflexion zugänglich. Ethik war somit für Aristoteles eine Disziplin, die den gesamten Bereich menschlichen Handelns zum Gegenstand hat und diesen Gegenstand einer normativen Beurteilung unterzieht und – zur praktischen Umsetzung der auf diese Weise gewonnenen Erkenntnisse anleitet.

Ethik wird heute als die philosophische Disziplin verstanden, die Kriterien für gutes und schlechtes Handeln und für die Bewertung von Motiven und Folgen aufstellt. Sie ist von ihrer Zielsetzung her eine praktische Wissenschaft. Es geht nicht um ein Wissen um seiner selbst willen, sondern um eine verantwortbare Praxis . . . und mit moderner Technik lässt sich diese Praxis hervorragend auswerten, kontrollieren und gegebenenfalls steuern und beeinflussen.

Ethik soll dem Menschen Hilfen für seine sittlichen Entscheidungen liefern. Dabei kann die Ethik allerdings nur allgemeine Prinzipien und Normen guten Handelns oder ethischen Urteilens oder Wertvorzugsurteile für bestimmte Typen von Problemsituationen begründen. Die situationsspezifische Anwendung dieser Prinzipien auf neue Situationen und Lebenslagen ist nicht durch sie leistbar, sondern Aufgabe der praktischen Urteilskraft und des individuellen Gewissens.

Im Zentrum stehen drei Fragen:

  • Was ist das gute, bzw. das höchste Gut?
  • Wie handle ich in bestimmten Situationen richtig?
  • Wie steht es um die Freiheit des Willens?

Als philosophische Disziplin baut die Ethik auf das Prinzip der Vernunft und logische Argumente, während dietheologische Ethik sittliche Prinzipien als in Gottes Willen begründet und offenbart voraussetzt. Bekannt sind etwa die Du-Sollst-Aussagen der 10 Gebote im Judentum.

Die Frage, ob man überhaupt moralisch sein kann und auch soll, wird mit Platons Politeia in die Philosophie eingeführt. Es geht um die Frage, worin Gerechtigkeit besteht und was sie erstrebenswert macht. Ein Leitmotiv ist die Parallelität zwischen der Gerechtigkeit im Staat und der Gerechtigkeit innerhalb der Seele. Sokrates macht darauf aufmerksam, dass Gerechtigkeit zwar eine Eigenschaft von Individuen sei, aber sich am leichtesten erkennen lasse, wenn man den sozialen Kontext – also den Staat – ins Auge fasst. 

Ethik wird mit dieser Form zur Moralbegründung und zur Zweckrationalität. Ich erinnere hier an den weit verbreiteten Grundsatz „quid pro quo“, alias „Auge um Auge, Zahn für Zahn“ oder an Business-Strategien im Sinne einer Tit-for-Tat-Strategie.

Im Mittelpunkt der ethischen Debatte steht der Begriff der Handlung. Sie wird definiert als „eine von einer Person verursachte Veränderung des Zustands der Welt“. Und die wollen wir ja alle verbessern – in Rahmen unserer eigen individuellen und damit begrenzten ethischen Moralvorstellungen.

Handlungen unterscheiden sich von Ereignissen dadurch, dass wir als ihre Ursache nicht auf ein weiteres Ereignis verweisen, sondern auf die Absicht des Handelnden. Die Absicht ist ein von der Handlung selbst zu unterscheidender Akt.

Geplanten Handlungen liegt eine zeitlich vorausgehende Absicht zugrunde. Wir führen die Handlung so aus, wie wir sie uns vorher schon vorgenommen hatten. Mit Hilfe technischer Überwachung kann ich also Ereignisse vorhersagen, indem ich die Handlungen analysiere und gegebenenfalls korrigierend eingreife.

Der Begriff der Absicht ist von dem der Freiwilligkeit zu unterscheiden. Eine Handlung ist dann freiwillig, wenn sie mit Wissen und Willen durchgeführt wird. Soll das Assistenzsystem im Auto eingreifen, wenn ich aus freiem Willen wegen wohl überlegter Suizid-Absichten gegen den Betonpfeiler fahren möchte? Oder soll der Eingriff nur dann erfolgen, wenn die beabsichtigte Handlung beispielsweise durch ein nicht kalkuliertes Ereignis, wie Sekundenschlaf, Ohnmacht etc. erfolgt?

Die Voraussetzungen für derartige Entscheidungsparameter liegen im Bereich des Wissens. Was dies für die Technik bedeutet, sehen wir in der aktuellen Diskussion zum Thema „künstliche Intelligenz.“

Die Unwissenheit kann nur dann die Freiwilligkeit einer Handlung aufheben, wenn die handelnde Person sich nach besten Kräften vorher informiert hat, und sie mit dem ihr fehlenden Wissen anders gehandelt hätte.

Ist dem Handelnden eine Kenntnis der Normen oder der Folgen zuzumuten, ist er für ihre Übertretung verantwortlich. Das Sprichwort sagt: „Unwissenheit schützt vor Strafe nicht“. Dem wird auch im deutschen Strafrecht Rechnung getragen. So heißt es z. B. in § 17 StGB:

„Fehlt dem Täter bei Begehung der Tat die Einsicht, Unrecht zu tun, so handelt er ohne Schuld, wenn er diesen Irrtum nicht vermeiden konnte“ (aus der Urteilsbegründung zu den frauenfeindlichen Übergriffen auf der Domplatte in Köln Silvester 2017).

Für die sittliche Bewertung einer Handlung ist also das effektive Wollen wesentlich, also die Absicht ihrer Verwirklichung. Das setzt voraus, dass der Handelnde der Auffassung war, dass ihm eine Verwirklichung seiner Absicht möglich sei, d.h. dass das Ergebnis von seinem Handeln kausal herbeigeführt werden könne.

Gesteuert (manipuliert?) werden diese individuellen Absichten im gesellschaftlichen Kontext durch praktisch leicht verständliche Grundsätze.

3 Beispiele:

  1. Definition eines obersten Prinzips, wie z. B. der Kategorische Imperativ Kants
  2. Praktische Grundsätze, die sich aus dem obersten Prinzip ableiten, wie z. B. die 10 Gebote, Gesetze, etc.
  3. Sätze, die Entscheidungen formulieren, indem sie Maxime und gesellschaftliche Werte auf konkrete Lebenssituationen anwenden (Spare in der Zeit, dann hast Du in der Not)

Gehen wir einmal davon aus, dass wir bestrebt sind, das Gute zu tun, auch in und mit unserer Technik. Gut ist, was für die Menschen gut ist. Oder für den Planeten? Oder meine Rasse? Oder meine Peer-Group? Oder mein Geschlecht? Und hier beginnt das Problem.

Was ist denn Gut für den einzelnen Menschen als Individuum?

Geht es um:

  • Glück (Eudämonismus)
  • Lust (Hedonismus)
  • Macht (Machiavelli)
  • Einheit mit Gott bzw. Gott selbst (Theologie)
  • Das Erwachen zu Weisheit und Mitgefühl (Buddhismus)
  • Bedürfnisbefriedigung (Hobbes)
  • Einheit von Tugend und Glück (Kant)
  • Freiheit (Sartre)

Werte sind sowohl gesellschaftlich relevant als auch individuell. Und das Ganze verändert sich. Wir sprechen heute vom „Wertewandel“ – ein vielgebrauchtes Schlagwort. Es bedeutet, dass sich bestimmte, in einer Gesellschaft allgemein akzeptierte Handlungsnormen im Verlauf der Geschichte verändert haben oder im Prozess der Veränderung sind.

Damit meint man aber in der Regel nicht, dass das, was früher für gut gehalten wurde, nun „tatsächlich“ nicht mehr gut sei, sondern nur, dass sich das allgemeine Urteil darüber geändert hat.

Was ist uns wichtig? Was sind unsere Werte? Individuelle Freiheit – oder Sicherheit? Privatheit – oder Bequemlichkeit und Komfort? Materielle Sicherheit – oder Selbstverwirklichung? Oder eine Mischung aus Allem? Die Entscheidung liegt bei uns selbst. Und das gilt gerade für unseren Umgang mit der Technik.

Nehmen wir als Beispiel ein altbekanntes technisches Gerät – ein Lastwagen. Ich kann mit ihm Waren von A nach B transportieren, oder auf einer Strandpromenade oder einem Weihnachtsmarkt Menschen vorzeitig in den ewigen Osten befördern. Sollen wir jetzt die Konsequenzen ziehen und beispielsweise Menschen aus bestimmten Herkunftsländern oder einer spezifischen Religionszugehörigkeit von der Anmietung eines LKWs ausschließen?

Oder sollen wir ein Social-Point-System wie in China nutzen, oder ein auf den Verkehr ausgelegtes Punktesystem verwenden, um den Zugang zum Straßenverkehr zu regeln?

Stopp: Das haben wir ja schon – Flensburg Verkehrssünderkartei. Ab einem gewissen Punktestand wirst du zur 1. Stufe der Umerziehung geladen, wo dir 1 Stunde lang Schockbilder von Unfällen und Opfern gezeigt werden. Wenn das noch nichts genützt hat, wirst Du zur Nachschulung gerufen. Und wenn das auch nichts nutzt, wirst Du medizinisch und psychologisch analysiert, ob es in deiner Physis oder Psyche Faktoren gibt, die deiner Teilhabe am Straßenverkehr entgegenstehen.

Oder nehmen wir ein Gewehr. Ich kann es im Sportverein einsetzen, auf der Jagd zur Ernährung meiner Familie, zur ökologischen Artensteuerung in einem Gebiet, zum Töten von Menschen im Fall von Verteidigung oder Eroberung, zum Erlangen materieller Güter, zur Durchsetzung von Machtansprüchen . . .

Ein weiteres Beispiel: Das Smartphone und GPS. Ich kann mein Handy dazu verwenden, den schnellsten und besten Weg zu finden – oder einen Terroristen mit Hilfe von Kreuzpeilung auf 2 m genau lokalisieren, um dann eine Drohne zielgenau zur Tötung einzusetzen. Ich rette damit viele Leben und muss aber unter Umständen Kollateralschäden in Kauf nehmen durch die Tötung Unbeteiligter.

Das Problem ist nicht die Technik, oder das Gerät. Auch nicht die Geschwindigkeit des technologischen Fortschritts. Das Problem ist die Ethik und die darin enthaltenen jeweils aktuellen Wertvorstellungen der jeweiligen Zeit oder Gesellschaft – beziehungsweise das Fehlen der selbigen. Das Problem ist das Fehlen von Werten und das Handeln nach nicht passenden oder falschen Wertvorstellungen. Doch wer trifft die Entscheidung? Gott hat immer recht? Die Partei hat immer recht? Die Natur hat immer Recht?

Der deutsche Philosoph Richard David Precht, Honorarprofessor in Lüneburg und Berlin, hat in seinem kürzlich erschienenen Buch „Jäger, Hirten, Kritiker – eine Utopie für die digitale Gesellschaft“ aufgezeigt: „Die Zukunft kommt nicht – sie wird von uns gemacht. Die Frage ist nicht: Wie werden wir leben? Die Frage ist: Wie wollen wir leben?“

(Wilhelm Gerbert, Oktober 2019)

Bitte loggen Sie sich ein, damit Sie einen Kommentar hinterlassen können.