Wie schwer sich der Bundestag mit neuer Technik tut, zeigte die jüngste Regelung der Social-Media-Nachzensur. Zum "autonomen Fahren" tagt immerhin vorab eine Ethik-Kommission. Ist die Hirn-Maschine-Schnittstelle das nächste große Thema?
Es gibt diese endlos zitierte Fabel vom Frosch, der es angeblich nicht erkennt, wenn er in einem Topf sitzt, der langsam zum Kochen gebracht wird, während er – in heißes Wasser geworfen – sogleich wieder herausspringen würde.
Obwohl vom naturwissenschaftlichen Standpunkt unsinnig, hat sich diese Geschichte bis heute im Metaphernschatzkästlein von Betriebswirten und Managementberatern gehalten, illustriert sie doch schön, wie schlecht an sich mit Bewusstsein oder Reaktionsvermögen ausgestattete Wesen auf Veränderungen reagieren, die langsam und damit unterhalb ihrer Wahrnehmungsschwelle verlaufen.
Neben diese kleinen Fabel soll sich eine andere Erzählung aus dem Tierreich gesellen, die besonders für Juristen manch Lehrreiches bereithalten könnte. Man kennt sie aus dem Biologieunterricht – und im Gegensatz zur Frosch-im-Topf-Legende ist sie wahr.
Grobschlächtige Hirn-Maschine-Schnittstelle
1954 gaben die an der kanadischen McGill-Universität forschenden Psychologen James Olds und Peter Milner Ratten, denen Elektroden ins Gehirn implantiert worden waren, die Gelegenheit, sich selbst durch Drücken eines Hebels minimale Stromstöße zu versetzen. Lagen die Elektroden am Septum und Nukleus accumbens an, drückten die Ratten den Hebel bis zu 2.000 mal in der Stunde (Journal of comparative and physiological psychology 1954, S. 410–427).
Dieses Experiment, das als eine der Pioniertaten der Neurowissenschaften gilt – man hatte so etwas wie ein Belohnungszentrum des Gehirns entdeckt –, enthält ein ähnlich beunruhigendes Motiv wie die Frosch-Topf-Geschichte: Die Hirnstimulation war in die Hände – will sagen: die Pfoten – derjenigen gelegt, die in ihren Genuss kamen.
Dass der Genuss vorläufig zweifelhaft bleiben würde, stellte sich im Rahmen ethisch problematischer Humanexperimente bereits in den 1960er Jahren heraus. Denn die Stimulation einzelner Hirnareale bewirkte kein umfassendes Wohlbefinden, beim Menschen so wenig wie bei den Ratten, die über der elektrischen Stimulation ihres Gehirns die Befriedigung anderer lebenswichtiger Bedürfnisse vernachlässigten.
Das heute beunruhigende Element liegt vielleicht weniger darin, dass die elektrifizierten Ratten in den 1950er Jahren ein erstklassiges Suchtverhalten zeigten. In dieser Beziehung schenken sich Rattus norvegicus und Homo sapiens ohnehin wenig, wie die Ethanolforschung weiß. Aber mit der elektrischen Stimulation des Rattenhirns war ein erster Schritt zu Hirn-Maschine Schnittstellen – neudeutsch: brain-machine interfaces (kurz: BMI) getan, über die man sich in demokratisch verfassten Rechtsstaaten systematisch Gedanken machen sollte, bevor das dazu benötigte Organ in Kabeln hängt.
Help, Hope and Hype
In der letzten Juni-Ausgabe der Zeitschrift "Science" (Nr. 6345 vom 30.6.2017, S. 1338–1339) ruft eine Gruppe europäischer, japanischer und kanadischer Mediziner, Medizinhistoriker und -ethiker unter dem Titel "Help, hope, and hype: Ethical dimensions of neuroprosthetics" dazu auf, die ethischen und rechtlichen Probleme der in naher Zukunft ins Haus stehenden BMI-Technologien anzugehen.
Aktuelle Forschungs- und Anwendungsgebiete von Hirn-Maschine-Schnittstellen sind beispielsweise die Steuerung von Prothesen durch das Gehirn körperlich schwer Behinderter, die Überwindung des als Locked-in-Syndrom beschriebenen Zustands einiger Menschen, bei Bewusstsein zu sein, sich sprachlich oder körperlich nicht verständlich machen zu können, oder die Kompensation natürlicher Sinnesleistungen, bei Blindheit oder Verlust des Gehörs.
BMI-Technologien, die feinere Hirnaktivitäten erfassen, demnächst ergänzt um Künstliche Intelligenz und lernfähige IT-Strukturen, machten – so das zehnköpfige Autorenteam – ein tiefes Auslesen von Bewusstseinszuständen möglich, die mit Wahrnehmungen, Gedanken, Gefühlen und Absichten in Verbindung stehen.
Einige Probleme teilten die zu erwartenden Systeme mit jenen, die aus der langsam anrollenden Diskussion um sich selbst steuernde Kraftfahrzeuge bekannt sind. Hierzu zählt etwa die Zurechnung von Handlungserfolgen.
2/2: Biologen fragen schon mal bei Ethikern an
Doch im Vergleich zu einem sich selbst steuernden Kraftfahrzeug werden sich die BMI-Verhältnisse deutlich vertrackter darstellen. Für das robotisierte Auto lässt sich eine Steuerungssoftware denken, die in einer Vielzahl von Fahrzeugen und in einer Vielzahl von Verkehrssituationen die Verantwortung an den Menschen zurückdelegiert. Hier ist die Risikoverteilung zwischen Anwender und Hersteller der Maschine kalkulierbar, sie steht der Einführung des Systems wohl nicht dauerhaft im Weg.
Eine Beinprothese beispielsweise, deren Steuerung aus den ausgelesenen Hirnaktivitäten erfolgt, wird dagegen oftmals wohl zwingend in Rückkoppelungsfunktionen zwischen prothetischer IT und Gehirn tätig sein müssen: ein Bewegungswunsch weckt das Aktivitätspotenzial der Maschine und kündigt eine Bewegungsrichtung an. Die unbewussten Hirnaktivitäten, die das Gegenstück zur Willensbildung darstellen, lösen die maschinelle Aktivität aus – erst hinterher sagt sich der Prothesenträger bewusst, dass er das, was er getan hat, auch wollte. Bewegungen mit natürlichen Organen laufen regelmäßig so ab.
Berücksichtigt die Beinprothese etwa auch alle Reize, die mit der Wahrnehmung zusammenhängen: "Ich stehe aber unbequem" und verarbeitet sie mit einem: Ich stelle mich etwas gerader hin", wird die Zahl der Hirn-Maschine-Interaktionen schnell unüberschaubar groß.
Ein von den "Science"-Autoren gewähltes Beispiel für die Verwendung von Veto-Funktionen in semiautomatischer Prothetik betrifft Armprothesen: Soll es mit ihnen möglich sein, einen Säugling zu greifen oder soll ihr Gebrauch auf weniger heikle Gegenstände beschränkt sein?
Utopie oder Dystopie oder beides zugleich
Intelligente Prothetik wirft unter anderem Fragen nach der Datensicherheit auf, denn sie umgibt ihre Anwender mit einer Wolke aus potenziell sehr intimen neuronalen Informationen – ausgestrahlt mittels Bluetooth oder WLAN. Hier darf man schon heute auf die Suche nach Konfliktfeldern zwischen Datenschutz und medizinischer Forschungs- bzw. ärztlicher Berufsfreiheit gehen.
Am Beispiel des Säuglings, dessen Mutter auf eine Armprothese angewiesen ist, lässt sich auch leicht erkennen, dass die normativen Probleme nicht allein über die üblichen ethischen Fallidealisierungen zu lösen sind, also über abstrakte Fragen vom Typ: "Ein robotisiertes Fahrzeug kann nicht rechtzeitig bremsen und muss entweder a) eine Frau mit Kinderwagen oder b) einen herzkranken 90-Jährigen töten. Wenn soll es überfahren?"
Die Ethikkommission beim Bundesverkehrsminister schlägt bekanntlich das Verbot einer kriteriengestützten Auswahl vor. Das mag man bei einer so grobschlächtigen Sozialaktivität wie dem Autofahren für annehmbar halten, wenngleich auch hier Zuspitzungen zu erwarten sind, wenn Kinderwagen ebenso mit WLAN-Tools ausgestattet sind wie Herz- und sonstige Schrittmacher. Darf ein depressiver Parkinson-Erkrankter über seinen Hirnschrittmacher einwilligen, dass das Roboter-Taxi lieber ihn als das Kind töten möge?
Bei der Nähebeziehung zwischen einer körperbehinderten Mutter und ihrem Kind sollten selbst die Ethikkommissare des Bundesverkehrsministers Zweifel bekommen, ob es damit getan ist, den technologischen Hilfsmitteln Selbstbeschränkungen aufzuerlegen – analog zum Verbot der Diskriminierung bei unausweichlichen Unfällen. Wäre die Gesellschaft überhaupt bereit, technologischen Fortschritt zu finanzieren, dem solche Selbstbeschränkungen auferlegt werden?
Wo ist für den Menschen, der sich auch in biologischer Regelausstattung als Mängelwesen sieht, die Grenze der prothetischen Versorgung zu ziehen?
Leistungsfähige Rechtspolitik?
Von den Antworten auf entsprechende Wertungsfragen hängt nicht zuletzt ab, in welchen Ländern, mit wie viel Kapital und Forschergeist an technologischen und ethisch konsensfähigen Lösungen gearbeitet wird.
Ethikkommissionen werden hierzulande traditionell stark mit Theologen besetzt. Dass sie zu den normverarbeitenden Berufen zählen, ist unbestritten, ihre demokratische Legitimation ist es durchaus. Dieser Mangel zeigt sich bereits in Handlungsfeldern, in denen die notwendige Technologie nicht erst erfunden werden muss – Stichwort: Sterbehilfe. Um wie viel mehr muss er sich zeigen, wo es um die Frage geht, wie viel Kapital es einzusetzen lohnt, um Technik zu entwickeln, die z.B. einen künstlichen Arm einem natürlichen nahezu gleichen lässt – dafür aber eine tiefe Interaktion zwischen neuronalen Strukturen des Gehirns und der Sensorik, Mechanik und Künstlichen Intelligenz der Prothese verlangt?
Man möchte den Bundestagsabgeordneten seines Vertrauens fragen, wie er es hält – mit einer dynamischen Technologie, die tief in soziale Lebensräume eindringt und auf mittlere Sicht unser Verständnis davon, was den Menschen ausmacht, verändern wird.
Beobachtet man, wie zäh die Debatte über technische Zukunfts- oder auch nur Gegenwartsthemen hierzulande meist verläuft, muss man vermuten: Ebenso gut, wie die demokratisch berufenen Normhersteller in Berlin zu befragen, kann man den metaphorischen Frosch in einen Topf und diesen auf den Herd setzen.
Hinweise: Clausen, Fetz, Donoghue, Ushiba, Spörhase, Birbaumer & Soekadar: "Help, hope, and hype: Ethical dimensions of neuroprosthetics. Accountability, responsibility, privacy, and security are key" online verfügbar in "Science". Als Erzählung davon, wie neue neurowissenschaftliche Technologie im politischen und juristischen Kontext verarbeitet wird, ist empfehlenswert: Ramez Naam, "Nexus" (2013/2014).
Autor: Martin Rath arbeitet als freier Lektor und Journalist in Ohligs (Solingen).
Martin Rath, Fortschritt und Ethik: Bürger, schützt Eure Hirn-Anlagen . In: Legal Tribune Online, 09.07.2017 , https://www.lto.de/persistent/a_id/23400/ (abgerufen am: 25.04.2024 )
Infos zum Zitiervorschlag