Expertensysteme als Umgang mit Formen des Nicht-Wissens in der Medizin
Eine ethische Bewertung des Einsatzes von Expertensystemen zur Verbesserung der Diagnostik und Therapie der Endometriose
©2016
Masterarbeit
104 Seiten
Zusammenfassung
Handeln trotz Nicht-Wissen ist eine in der Medizin typische Konstellation. Medizinisches Wissen weist grundsätzlich einen unsicheren Charakter auf und somit bringt Handeln im medizinischen Alltag Risiken mit sich, welche stetig miteinander abgewogen werden müssen. Zudem muss das medizinische Handeln gewisse ethische Prinzipien berücksichtigen, welche je nach Situation miteinander in Konflikt stehen können. Diese theoretischen Gegebenheiten lassen sich anhand der Erkrankung Endometriose sehr gut bestätigen. Endometriose ist die häufigste gutartige gynäkologische Erkrankung und trotz ihrer Schwere und dem damit zusammenhängenden Ausmaß an Leid der Patientinnen vielfach unbekannt. Bei der Endometriose gibt es eine Diagnoseverzögerung von durchschnittlich sechs Jahren. Fehldiagnosen sind häufiger als die korrekte Diagnose. Dies kann als grobe Verstöße gegen das Fürsorgeprinzip als auch gegen das Prinzip des Nicht-Schadens gedeutet werden. Expertensysteme lassen sich vielfältig im medizinischen Bereich einsetzen, so auch im Umgang mit Nicht-Wissen, Risiken und ethischen Dilemmata in der Medizin. Aufbauend auf eine Analyse der Formen des Nicht-Wissens, welche zur Diagnoseverzögerung beitragen, lassen sich Expertensysteme zielgerichtet einsetzen, um die diagnostische und therapeutische Situation der Endometriose zu verbessern. Auf Grundlage dieser Betrachtungen, sowie einer auf den Kohärentismus gegründeten ethischen Bewertung ist die Entwicklung eines Fuzzy-regelbasierten Expertensystems für die Diagnostik der Endometriose zu empfehlen. Ethische Bedenken sprechen nicht gegen den Einsatz von Expertensystemen.
Leseprobe
Inhaltsverzeichnis
ii
5.1)
Medizinisches Wissen
24
5.2)
Nicht-Wissen und Handeln in der Medizin
26
5.3)
Risiko in der Medizin
30
5.4)
Endometriose als Praxisbeispiel
32
5.4.1)
Allgemeines zur Endometriose - Diagnostik und Therapiemöglichkeiten
32
5.4.2)
Komplexität und Nicht-Wissen in der Diagnostik und Therapie der Endometriose
35
6)
Umgang mit Nicht-Wissen und Risiko
40
6.1)
Ethische Grundpositionen im Umgang mit Nicht-Wissen und Risiko
41
6.1.1)
Konsequentialismus
41
6.1.2)
Deontologismus
42
6.1.3)
Kohärentismus
44
6.2)
Entscheidungstheoretischer Umgang mit Nicht-Wissen und Risiko
44
6.2.1) Bayes`sche Entscheidungstheorie
44
6.2.2) Vorsorgeprinzip
45
7)
Umgang mit Nicht-Wissen und Risiko in der Medizin
46
7.1)
Watchful Waiting
46
7.2)
Informed Consent
47
iii
7.3)
Advance care planning
50
7.4)
Expertensysteme als Umgang mit Nicht-Wissen
51
7.4.1)
Fuzzy-Logic-Systeme
54
7.4.2)
Integration ethischer Erwägungen in Expertensysteme
56
7.5)
Anwendung der Lösungsansätze auf die Endometriose
58
7.5.1)
Ethische Konflikte und Dissens unter Endometriose
58
7.5.2)
Anwendung von entscheidungstheoretischer und strategischer Ansätze auf die
Endometriose
60
7.5.3)
Möglicher Einsatz von Expertensystemen für die Diagnostik der Endometriose
62
8)
Ethische Bewertung von Expertensystemen zur Anwendung auf
Endometriose im Kontext des Nicht-Wissen
65
8.1)
Funktionsfähigkeit und Fehleranfälligkeit
68
8.2)
Mögliche Alternativen
71
8.3)
Nützlichkeit
72
8.4)
Wirtschaftlichkeit
74
8.5)
Wahrung der Integrität der Arzt-Patient-Beziehung
77
8.6)
Wahrung der Patientenautonomie
78
8.7)
Datenschutz und Datensicherheit
78
iv
8.8)
Auswirkungen auf die ärztliche Entscheidungsautonomie und kompetenz
80
8.9)
Zuschreibbarkeit von Verantwortung
81
8.10) Trivialisierung wissenschaftlichen Wissens
82
9)
Ergebnisse und Empfehlungen für Entwicklung und Einsatz von
Expertensystemen zur Diagnostik und Therapie der Endometriose als Art des
Umgangs mit Nicht-Wissen
82
10)
Fazit
85
10.1)
Ausblick
88
1
1) Einleitung
Situationen, in denen Handlungsdruck besteht, obwohl bestimmte für die Entscheidung
zu einer Handlung eigentlich notwendige Faktoren noch oder gänzlich unbekannt sind, sind
ganz alltäglich. Laut Stefan Böschen und Peter Wehling ist Ungewissheit in Bezug auf die
Folgen und das damit verbundene Risiko sogar implizit in jedem Handeln inbegriffen.
1
Die
Folgen des Handelns werden ,,Entscheidungen und damit bestimmten Akteuren zugerechnet,
welche deshalb auch die Verantwortung zu übernehmen haben".
2
Die Komplexität der
Gesellschaft, der Welt und auch des Wissens nimmt immer mehr zu und somit auch das Nicht-
Wissen.
3
Durch die kontinuierliche Zunahme von Nicht-Wissen werden neue Formen des
Entscheidens notwendig.
4
Trotz seiner Ausmaße ist das Problem ,,des begründeten
Entscheidens unter Nichtwissens-Bedingungen bisher nur ansatzweise reflektiert"
5
worden. In
unterschiedlichen risikopolitischen Bereichen werden in den letzten Jahren allerdings
Strategien zum Umgang mit Nicht-Wissen erarbeitet.
6
Insbesondere in der medizinischen Praxis tritt Handlungsdruck unter Unsicherheit
nicht nur besonders frequent auf, sondern ist auch in Bezug auf mögliche Folgen besonders
bedeutsam. Während in anderen Wissenschaftsbereichen, insbesondere der Technik- und
Umweltforschung, bereits institutionalisierte Formen der Folgenabschätzung entwickelt
wurden, sei in der Medizin die Tragweite des epistemologischen Problems von
Handlungssituationen unter Ungewissheit oder Nicht-Wissen bisher noch kaum überblickt
worden und medizinethische Diskussionen greifen das Thema nur vereinzelt auf.
7
Mit der
Zunahme an wissenschaftlichem Wissen und der technologischen Möglichkeiten innerhalb
der Medizin nehmen auch die Handlungsoptionen sowie die Möglichkeiten falscher
1
Vgl. Böschen, Stefan/Wehling, Peter, Neue Wissensarten: Risiko und Nichtwissen, in: Maasen,
Sabine/Kaiser, Mario/Reinhart, Martin/Sutter, Barbara (Hrsg.): Handbuch Wissenschaftssoziologie, Wiesbaden
2012, S. 317.
2
Ebd.
3
Vgl. ebd.
4
Vgl. ebd., S. 324.
5
Ebd.
6
Vgl. ebd., S. 324, f.
7
Vgl. Peter, Claudia, ,Handeln unter Ungewissheit` als heute typische Konstellation medizinischen Handelns,
in: Estermann, Josef/Page, Julie/Streckeise, Ursula (Hrsg.): Alte und neue Gesundheitsberufe: soziologische
und gesundheitswissenschaftliche Beiträge zum Kongress "Gesundheitsberufe im Wandel", Winterthur 2012,
Wien/Münster 2013, S. 129, f.
2
Diagnosen zu.
8
Eine falsche Diagnose wiederum wirft ethische Fragen nach einer potentiellen
Schädigung des Patienten sowie der Verantwortung für den Fehler auf.
9
Nicht zuletzt durch
die Vielzahl der verfügbaren Therapiemöglichkeiten ist eine ethische Hinterfragung innerhalb
der Medizin zweifelsohne notwendig. Mittlerweile gilt es als allgemein anerkannt, dass es
auch eine ethische Seite von medizinischen Entscheidungen gibt und Entscheidungen in der
Medizin ethischen Richtlinien folgen müssen.
10
Dennoch stellt es Schwierigkeiten dar, die
ethischen Dimensionen von Entscheidungen in der Medizin in den Entscheidungsprozess zu
integrieren. Zum Umgang mit Nicht-Wissen können sowohl risikoethische und
entscheidungstheoretische als auch strategische Ansätze in der Medizin herangezogen werden.
Wissen ist ein entscheidender Baustein von Entscheidungen, deren Findungswege auch als
Algorithmen aufgefasst werden können. Nicht-Wissen ist folglich als Lücke in
Entscheidungsprozessen und somit auch in Algorithmen zu verstehen. Da
Entscheidungsprozesse auf Algorithmen beruhen, können diese von Computersystemen
nachgebildet werden. Auf Grundlage einer derartigen Nachbildung können Expertensysteme
Ärzte bei komplexen Entscheidungen unterstützen. Aktuell wird immer noch viel an der
Weiter- und Neuentwicklung von Expertensystemen geforscht. Somit ergibt sich auch die
Frage, inwiefern Expertensysteme sich insbesondere in ethischen Dilemmasituationen in der
Medizin nutzen und integrieren lassen.
11
Der Einsatz von Expertensystemen wird angewandt
auf die gynäkologische Erkrankung der Endometriose. Die Endometriose ist zugleich ein
Paradebeispiel für Komplexität in der Medizin und verdeutlicht die theoretischen
Zusammenhänge anhand der Praxis. Obwohl ca. 10 % aller Frauen unter Endometriose leiden,
wird sie durchschnittlich erst nach sechs - häufig schmerzvollen - Jahren erkannt. Somit ist
Endometriose auch ein sehr gutes praktisches Beispiel für ein mögliches Schaden-Zufügen am
Patienten durch falsche oder gänzlich ausbleibende Diagnose. Eine Verbesserung und
insbesondere eine Beschleunigung der Diagnosestellung ist folglich dringend erforderlich.
Nicht-Wissen spielt eine entscheidende Rolle bei der Diagnoseverzögerung. Kürzlich wurden
bereits einige Versuche zur Verbesserung der Bekanntheit der Erkrankung unternommen.
Leider konnten damit bisher nur mäßige Erfolge erzielt werden. In dieser Arbeit soll die
Fragestellung beantwortet werden, inwieweit Expertensysteme die Diagnostik verbessern und
beschleunigen können, indem diese genau an jenen Nicht-Wissens-Faktoren, welche bei der
8
Vgl. Marckmann, Georg/Jox, Ralf J., Ethische Grundlagen medizinischer Behandlungsentscheidungen:
Auftaktartikel zur Serie ,,Ethik in der Medizin, in: Bayrisches Ärzteblatt, 2013, S. 442.
9
Vgl. Inthorn, Julia/Tabacchi, Marco Elio/Seising, Rudolf, Having the Final Say: Machine Support of Ehical
Decisions of Doctors, in: Van Rysewick, Simon Peter/Pontier, Matthijs (Hrsg.:) Machine Medical Ethics,
Intelligent Systems, Control and Automation, Cham 2015, S. 193.
10
Vgl. ebd.
11
Vgl. ebd., S. 182.
3
Diagnoseverzögerung beteiligt sind, ansetzen. Ein besonderes Augenmerk liegt hierbei auch
auf ethischen Aspekten des Entscheidens unter Nicht-Wissen.
Bezüglich der Methodik wird demzufolge ein medizinempirisches Phänomen in
wissenschaftstheoretischer Herangehensweise untersucht. Dabei werden ethische Dilemmata
mit einbezogen, sowie versucht, diese mit der Anwendung von Expertensystemen zu lösen.
Infolgedessen werden Expertensysteme einer auf den Kohärentismus gegründeten Bewertung
unterzogen. Die ethische Bewertung neuerer Technologien trägt laut Georg Marckmann einen
wichtigen Teil zur aktiven Gestaltung und Anwendung eben dieser bei. Darüber hinaus trägt
insbesondere die Medizin die Ethik bereits in ihrem Berufsethos in sich. Immerhin ist es Ziel
des Gesundheitswesens, das Wohlergehen der Patienten zu maximieren und gleichzeitig
potentiellen Schaden zu minimieren.
12
Die möglichen Auswirkungen von Expertensystemen
auf die medizinische Praxis sowie auf das Wohlergehen der Betroffenen sind von daher
elementar für die ethische Bewertung der Anwendung von Expertensystemen auf die
Endometriose. Da Nicht-Wissen unterschiedlicher Genese sein kann, liegt ein besonderes
Augenmerk dabei auch darin, auf welche Art und Weise Expertensysteme bei welchen Formen
des Nicht-Wissens im Speziellen unterstützen können.
12
Vgl. Aspden, Philip/Corrigan, Janet M./Wolcott, Julie/Erickson, Shari M, Patient Safety. Achieving a New
Standard for Care, Washington, D. C 2003, S. 334.
4
2) Expertensysteme
2.1) Einführung in Expertensysteme
Expertensysteme gehören aufgrund ihrer zentralen Aufgabe Wissen zu verarbeiten zu
den wissensbasierten Systemen. Diese wiederum sind eine Untergruppe der KI-Programme.
Nach Spreckelsen und Spitzer setzen Wissensbasen und Expertensysteme sowohl die
Konzepte als auch die Methoden der Künstlichen Intelligenz voraus.
13
Laut Johann Gamper
und Friedrich Steimann hingegen stellt die Erfindung der Expertensysteme sogar die Geburt
der Künstlichen Intelligenz dar.
14
In der Künstlichen Intelligenz wird dabei von einem Begriff
des Wissens als ,,Material, das sich gewinnen, lagern und bearbeiten Iässt"
15
ausgegangen.
Expertensysteme sind durch die Trennung von Wissensbasis und Inferenzalgorithmus
gekennzeichnet. Die Wissensbasis bezeichnet dabei die Darstellung des Wissens oder auch
den Pool an gesammelten, in den Computer eingegeben Wissen und ist anwendungsabhängig.
Dazu bedarf es einer formalen Sprache, mit welcher Wissen durch Symbole wiedergegeben
werden kann.
16
Die anwendungsunabhängige Inferenzkomponente hingegen steht für die
Wissensverarbeitung. Diese ist für die Berechnung von Schlussfolgerungen aus den formalen
Ausdrücken zuständig und ergibt einen Algorithmus.
17
Aus der Kombination einer formalen
Sprache für Wissen und eines Algorithmus` ergibt sich eine Formale Logik. Formale Logiken
sind deshalb von entscheidender Bedeutung für wissensbasierte Systeme.
18
Expertensysteme
sollen wie ein Experte - Probleme lösen können und erklären diese in eingeschränktem
Umfang. Das Lösen von Problemen geschieht im Rahmen der vorab definierten, symbolisch
darstellbaren Probleme und der bereits im System implementierten heuristischen
Lösungsstrategien.
19
13
Vgl. Spreckelsen, Cord/Spitzer, Klaus, Wissensbasen und Expertensysteme in der Medizin. KI-Ansätze
zwischen klinischer Entscheidungsunterstützung und medizinischem Wissensmanagement, Wiesbaden 2008: S.
9.
14
Vgl. Gamper, Johann/Steimann, Friedrich, Medizinische Expertensysteme Eine kritische Betrachtung. In:
APIS Zeitschrift für Politik, Ethik, Wissenschaft und Kultur im Gesundheitswesen, 1996: S. 32.
15
Spreckelsen/Spitzer 2008: S. 10.
16
Vgl. ebd., S. 9.
17
Vgl. ebd., S.11.
18
Vgl. ebd., S. 9.
19
Vgl. Marckmann, Georg, Diagnose per Computer? Eine ethische Bewertung medizinischer Expertensysteme.
Köln 2003, S. 22.
5
Die folgende, am häufigsten zitierte Definition von Expertensystemen stammt von
Frank Puppe.
Expertensysteme sind Programme, mit denen die formalisierbaren und symbolisch beschreibbaren
Anteile des Spezialwissens sowie die Schlussfolgerungsfähigkeit qualifizierter Fachleute auf eng
begrenzten Aufgabengebieten nachgebildet werden sollen.
20
Bei der Entwicklung eines Expertensystems muss also folglich sowohl der
Wissensbestand eines bestimmten Gegenstandsbereichs modelliert, als auch formale
Algorithmen zur Problemlösung entwickelt werden. Zu dem Wissensbestand gehört dabei
nicht nur das objektive Fachwissen, sondern auch subjektives Erfahrungswissen. Die
Wissensbasis eines Expertensystems wird dabei ständig an den neuesten Stand des
Bereichswissens angepasst. Die Inferenzkomponente, welche auch als
Problemlösungskomponente bezeichnet wird, interpretiert ,,nach einer vorgegebenen Strategie
die eingegebenen Daten auf der Grundlage des repräsentierten Wissens".
21
Ein wichtiger
Bestandteil eines Expertensystems ist auch die implementierte Kontroll- oder
Handlungsstrategie. Diese bestimmt, wann und wie der Inferenzalgorithmus anzuwenden ist.
22
Die Konsultation eines Expertensystems beginnt mit der Eingabe der für die
Problemlösung erforderlichen Daten. Daraufhin werden unter Umständen durch das System
weitere Eingabedaten erfragt. Diese Daten werden dann mithilfe des Wissens aus der
Wissensbasis mit der implementierten Ableitungsstrategie interpretiert. Zum Schluss wird als
Ergebnis eine Problemlösung präsentiert. Abhängig von der Modernität des Systems gibt es
die Möglichkeit der Empfehlung weiterer Maßnahmen, welche das Ergebnis bestätigen oder
weiter eingrenzen könnten. Bei neueren Systemen können die Ergebnisse darüber hinaus auch
nach ihrer Wahrscheinlichkeit gewichtet werden.
23
20
Puppe, Frank, Einführung in Expertensysteme, Berlin/Heidelberg 1991, S. 2.
21
Marckmann 2003, S. 24.
22
Vgl. ebd.
23
Vgl. ebd., S. 25, f.
6
Expertensysteme werden Entscheidungsunterstützungssystemen im Allgemeinen als
eine spezielle Form unterkategorisiert.
24
Inthorn et al. zufolge schlagen passivere
Entscheidungsunterstützungssysteme dem Anwender entgegen der Expertensysteme eben
keine konkreten Lösungen vor, sondern unterstützen nur in Form von fertigen implementierten
Evaluationsmodellen.
25
Expertensysteme unterscheiden sich darüber hinaus auch wesentlich
von der konventionellen Datenverarbeitung. Während die konventionelle Datenverarbeitung
eher für relativ gut strukturierte und gut verstandene Probleme geeignet ist, können
Expertensysteme auch bei schlechter strukturierten Problemen angewendet werden. Auch
werden bei Expertensystemen nicht wie bei der konventionellen Datenverarbeitung Daten,
sondern Wissen modelliert und eingesetzt. Die für Expertensysteme charakteristische
Trennung von Wissensbasis und Problemlösungsstrategie gibt es in der konventionellen
Datenverarbeitung nicht. Die Eingabedaten können darüber hinaus bei Expertensystemen auch
unvollständig, sowie das Wissen auch unsicher sein, während die konventionelle
Datenverarbeitung nur mit vollständigen Eingabedaten arbeiten kann. Des Weiteren verfügen
konventionelle Datenverarbeitungssysteme über keine Erklärungsfähigkeit. Auch die hohe
Flexibilität der Expertensysteme für die Erweiterung und Aktualisierung der Wissensbasis ist
in der konventionellen Datenverarbeitung nicht gegeben.
26
2.2) Expertensysteme in der Medizin
Expertensysteme in der Medizin lassen sich in direkte und indirekte
Entscheidungsunterstützung unterscheiden. Wissensbasierte Expertensysteme, welche
vorrangig in dieser Arbeit als Möglichkeit für den Umgang mit Nicht-Wissen erachtet werden
sollen, zählen dabei zur direkten Entscheidungsunterstützung.
27
Ziel und Zweck der Erfindung
von Expertensystemen ist die ,,Unterstützung und Verbesserung ärztlicher Leistung"
28
. Im
Gegensatz zur indirekten Entscheidungsunterstützung sollen Expertensysteme ,,nicht die
24
Vgl. Burstein, Frada/Carlsson, Sven A., Decision Support Through Knowledge Management, in: Burstein,
Frada/Holsapple, Clyde W. (Hrsg.): Handbook on Decision Support Systems 1. Basic Themes,
Berlin/Heidelberg 2008, S. 104.
25
Vgl. Inthorn/Tabacchi/Seising 2015, S. 183.
26
Vgl. Marckmann 2003, S. 26, f.
27
Vgl. Marckmann 2003, S. 50.
28
Gamper/Steimann 1996: S. 32.
7
Entscheidungsgrundlage verbessern, sondern den ärztlichen Entscheidungsprozess selbst
unterstützen,"
29
indem Diagnosen oder Therapieempfehlungen vorgeschlagen werden.
Die in Kapitel 2.1) getroffene Unterscheidung zwischen der konventionellen
elektronischen Datenverarbeitung und Expertensystemen ist für die medizinische Praxis
besonders relevant. Die konventionelle elektronische Datenverarbeitung zählt zur indirekten
Entscheidungsunterstützung. Zu den Anwendungsbereichen der elektronischen
Datenverarbeitung in der Medizin gehören z. B. die Computertomographie, die statistische
Auswertung von Messdaten sowie Dokumentationssysteme, in denen Patientenstammdaten
und erhobene Befunde gespeichert werden. Diese sind also gänzlich verschieden von
Expertensystemen und werden in dieser Arbeit nicht weiter behandelt.
30
Während
konventionelle Datenverarbeitungssysteme Wissen nur in impliziter Form enthalten, enthalten
Expertensysteme Wissen in expliziter Form. Expertensysteme in der Medizin lassen sich
weiterhin unterscheiden in diagnostische Expertensysteme und Expertensysteme zur
Therapieplanung. Nur wenige Systeme verbinden beide Funktionen. Bei diagnostischen
Expertensystemen wiederum kann zwischen einem passiven und einem aktiven
Beratungsmodus ausgewählt werden.
31
Diagnostische Expertensysteme stehen im Fokus
dieser Arbeit. Medizinische Expertensysteme werden besonders in komplexeren
Entscheidungssituationen eingesetzt, oder laut Aljaaf et al. wenn der Zugang zu Spezialisten
schwierig ist.
32
Bereits in den 1970er Jahren wurden die ersten Expertensysteme für die Medizin
entwickelt. Grundlegender Gedanke bei der Entwicklung von Expertensystemen war und ist,
dass medizinisches Schließen gewissen Regeln folgt. Zum Zeitpunkt der Entwicklung der
ersten medizinischen Expertensysteme ging es neben der Unterstützung der Mediziner durch
Computersysteme allerdings auch um die Erforschung der Möglichkeiten der Künstlichen
Intelligenz, insbesondere auf wissenschaftstheoretischer Ebene die Möglichkeiten der
Formalisierung und Anwendung menschlichen Fachwissens.
33
Wissensbasierte
29
Marckmann 2003, S. 50.
30
Vgl. ebd., S. 27, f.
31
Vgl. ebd., S. 51.
32
Vgl. Aljaaf, Ahmed J./Al-Jumeily, Dhiya/Hussain, Abir J./Lamb, David/Al-Jumaily, Mohammed/Abdel-
Aziz, Khaled, A study of Data Classification and Selection Techniques for Medical Decision Support Systems,
in: Huang, De-Shuang/Jo, Kang-Hyun, Wang, Ling (Hrsg.): Intelligent Computing Methodologies. 10th
International Conference, ICIC 2014, Taiyuan, China, August 3-6, Proceedings, Cham 2014, S. 137.
33
Vgl. Gamper/Steimann 1996: S. 32.
8
Expertensysteme lösten innerhalb der Medizin in den 1970er Jahren numerisch-
probabilistische Ansätze ab.
34
Für die Informatik war die Medizin als Anwendungsbereich
dieser Systeme besonders geeignet, da eine ,,schwach ausgeprägte Systematik"
35
, sowie die
Komplexität und Vielfältigkeit des medizinischen Wissens einen Großteil der ,,entwickelten
formalen Ansätze zum Einsatz kommen"
36
lassen. Die meisten Expertensysteme arbeiten auf
der Basis von Regeln. Pionier auf diesem Gebiet war das an der Universität von Stanford
entwickelte Expertensystem MYCIN.
37
Einige moderne Expertensysteme in der Medizin
arbeiten auf der Grundlage der Nachbildung von neuronalen Netzwerken, also mit künstlichen
neuronalen Netzwerken (Artifical Neural Networks ANNs).
38
Dieser Zweig der Künstlichen
Intelligenz wird als subsymbolisch bezeichnet, da Wissen nicht symbolisch abgebildet wird.
Bei neuronalen Netzen werden ,,Aspekte der Informationsverarbeitung in Nervensystemen,
die mit biologischer Intelligenz verbunden sind"
39
simuliert. Neuronale Netze sind allerdings
nur für bestimmte Formen der Entscheidungsunterstützung geeignet. Dazu gehören
beispielsweise eher die Mustererkennung und Signalverarbeitung, als dass sich neuronale
Netze in entscheidungsunterstützende wissensbasierte Systeme implementieren lassen.
40
Heute sind Expertensysteme vielfältig im praktischen Gebrauch. Einige Autoren vertreten
allerdings die Position, die Erwartungen bezüglich der Ausmaße des Einsatzes von
Expertensystemen in der Medizin, welche in den 1970ern mit ihrer Entwicklung in
Verbindung gebracht wurden, hätten sich bisher jedoch nicht erfüllt. Die meisten
Expertensysteme beschränken sich auf bestimmte Fachbereiche der Medizin oder sogar nur
auf bestimmte Krankheiten. Laut Frank Puppe liegt dies an dem Fehlen von kausalem unter
anderem physiologischen Wissen und entsprechenden Erklärungen. Dieser Mangel an breit
einsetzbaren Systemen sei Hauptgrund für den bisher relativ geringen Erfolg.
41
Derzeit wird
weiterhin an der Entwicklung und Verbesserung von Expertensystemen geforscht. So wurden
im Journal of innovation in health informatics beispielsweise erst im August 2015
Studienergebnisse zu einem Expertensystem speziell für chronische Schmerzpatienten
34
Vgl. Inthorn/Tabacchi/Seising 2015, S. 181.
35
Gamper/Steimann 1996: S. 32.
36
Ebd.
37
Vgl. Spreckelsen/Spitzer 2008, S. 12, Marckmann 2003, S. 51.
38
Vgl. Aljaaf et al. 2014, S. 137.
39
Spreckelsen/Spitzer 2008, S. 9.
40
Vgl. ebd.
41
Vgl. Puppe, Frank, Wissensbasierte Systeme in der Medizin, in: Künstliche Intelligenz 22 (1), 2008, S. 53.
9
veröffentlicht.
42
Darüber hinaus wird beispielsweise aktuell an der Verbesserung der Qualität
von CHICA (Child Health Improvement through Computer Automation) geforscht.
43
2.3) Ethische Fragestellungen im Zusammenhang mit medizinischen Expertensystemen
Wie alle technischen Innovationen bringen auch medizinische Expertensysteme einige
ethische Bedenken mit sich. Die Anwendung von medizinischen Expertensystemen bewegt
sich im Schnittstellenbereich der Medizinethik, Technikethik und Computerethik.
44
Im
Zentrum dieser Bedenken steht das Wohl des Patienten. Eine zentrale ethische Frage im
Zusammenhang mit Expertensystemen ist zunächst jene nach der Verantwortung,
insbesondere der Verantwortungszuschreibung.
45
Dies beruht auf der Annahme, dass jemand
die Verantwortung für insbesondere fehlerhafte - Ergebnisse des Systems übernehmen muss.
Dies könnten der Programmierer des Systems, der Anwender oder auch beide sein. Dabei ist
in Diskussion, ob Expertensysteme als Verantwortungssubjekte gelten können. In diesem
Zusammenhang wurde auch die Befürchtung geäußert, der Einsatz medizinischer
Expertensysteme könnte eine ,,Verwischung" der ärztlichen Verantwortung oder sogar eine
,,Verantwortungsverschiebung
vom Arzt auf die Systeme"
46
bedeuten. Die
Verantwortungsfrage steht in engem Zusammenhang mit der Frage, ob ein Expertensystem
ein moral agent sein kann. Diskutiert wird auch, ob ein Expertensystem die Autonomie des
Patienten gefährdet oder aber die Entscheidungsautonomie des Arztes infrage stellt.
47
Natürlich ist auch nicht außer Acht zu lassen, inwieweit bei der Nutzung von
Expertensystemen der Datenschutz und die Datensicherheit gewährleistet werden können.
48
All diese Fragen werden am Ende dieser Arbeit in der ethischen Bewertung von
Expertensystemen diskutiert. Darüber hinaus ist in Diskussion, inwieweit Expertensysteme
42
Vgl. Nair Kalpana Maria/Malaeekeh, Rahele/Schabort, Inge/Taenzer, Paul/Radhakrishnan, Arun/Günter,
Dale, A Clinical Decision Support System for Chronic Pain Management in Primary Care: Usability testing and
its relevance, in: Journal of innovation in health informatics 22(3), 2015, S. 329.
43
Vgl. Bauer, Nerissa S./Carroll, Aaron E./Saha, Chandon/Downs, Stephen M. (2015): Experience with
decision support system and comfort with topic predict clinicians' responses to alerts and reminders, in: Journal
of the American Medical Informatics Association 23(e1), 2015, S. 125.
44
Vgl. Marckmann 2003, S. 6.
45
Vgl. Inthorn/Tabacchi/Seising 2015, S. 184.
46
Marckmann 2003, S. 141.
47
Vgl. Ebd., S. 17, f.
48
Vgl. Marckmann 2003, S. 17.
10
ethisch gerechtfertigte Entscheidungen treffen können. Damit zusammen hängt die Frage,
inwiefern Expertensysteme bei ethischen Dilemmata hilfreich eingesetzt werden könnten.
Auch Inthorn et al. haben dies erst 2015 zu einer wichtigen Frage deklariert.
49
3) Ethik in der Medizin
3.1) Grundsätzliches zu ethischen Dilemmata in der Medizin
Die Medizin ist viel mehr als andere Disziplinen nicht denkbar ohne die Ethik. Das
ärztliche Handeln muss sich am Wohl des Patienten ausrichten, so hat bereits der Beruf des
Arztes einen Ethos in sich, wie er in keinem anderen Beruf zu finden ist. Die Berufspflichten
eines Arztes dem Patienten gegenüber wurden bereits im Eid des Hippokrates im 4.
Jahrhundert vor Christus niedergeschrieben. Nach dem Eid des Hippokrates verpflichtet sich
ein Arzt unter anderem, sein professionelles ,,Wissen.. immer nur zum Nutzen des Patienten,
niemals zu seinem Schaden"
50
anzuwenden.
51
Ethische Dilemmata treten bei medizinischen
Entscheidungen und ärztlichem Handeln regelmäßig auf. Das Wahren ethischer Prinzipien ist
im ärztlichen Handeln von sehr zentraler Bedeutung. Folglich nehmen ethische Dilemmata
auch bei der Anwendung von medizinischen Expertensystemen eine nicht unerhebliche Rolle
ein. Ein ethisches Dilemma zeichnet typischerweise aus, dass alle gegebenen
Handlungsoptionen mitunter auch negative Folgen mit sich bringen.
52
Grundsätzlich lässt sich
unterscheiden zwischen zwei Typen von moralischen oder ethischen Konflikten. Moralischer
Dissens sei von moralischen Konflikten zu differenzieren. Bei einem moralischen Konflikt
führen entweder die moralischen Vorstellungen, nach denen jemand lebt oder handelt zu
keinem eindeutigen Ergebnis oder es können nicht alle moralischen Verpflichtungen
gleichzeitig oder gleichermaßen erfüllt werden. Die Lösung sei in den meisten Fällen recht
offensichtlich, dennoch bleibe ein negatives Gefühl, dadurch dass nicht allen moralischen
Verpflichtungen gegenüber Rechnung getragen werden könnte. Als Beispiel hierfür nennen
Inthorn et al. eine Situation, in der jemand eine Verabredung mit einem Freund hat und zur
49
Vgl. Inthorn/Tabacchi/Seising 2015, S. 184.
50
Sass, Hans-Martin, Einführung. In: Ders. (Hrsg.): Medizin und Ethik, Stuttgart 1989, S. 5.
51
Vgl. Ebd.
52
Vgl. Inthorn/Tabacchi/Seising 2015, S. 184.
11
gleichen Zeit das Kind krank wird und zum Arzt muss. Obwohl es klar ist, dass die Gesundheit
des Kindes Vorrang hat, fühlt sich die Person wahrscheinlich schlecht, weil sie die
Verabredung absagen muss. Die Verpflichtung, die Verabredung einzuhalten, ist dadurch,
dass die Gesundheit Vorrang hat, jedoch nicht verfallen. Dies zeige sich daran, dass aus der
Situation weitere Verpflichtungen folgen, wie z. B. eine Entschuldigung und das Angebot
eines anderen Termins zur Verabredung.
53
Während also ein moralischer Konflikt einen intrapersonellen Konflikt aufgrund von
miteinander kollidierender moralischer Verpflichtungen oder Prinzipien bezeichnet, geht es
bei moralischem Dissens um einen Konflikt zwischen unterschiedlichen Personen, dieser ist
also interpersonell. Moralischer Dissens entsteht, wenn unterschiedliche an einer Situation
beteiligte Personen auf der Grundlage ihrer individuellen moralischen Positionen
verschiedene Lösungen bevorzugen, sowie dafür argumentieren. In dem Fall können
verschiedene ethische Grundpositionen, welche die Beteiligten vertreten, aufeinandertreffen.
Ungeachtet der unterschiedlichen ethischen Grundpositionen - wie Deontologie oder
Konsequentialismus - können aber auch bereits die Ansichten über die Ist-Situation
voneinander abweichen. Das Maß des Leids eines Patienten beispielsweise oder auch der
Wille eines Patienten können von unterschiedlichen Beteiligten unterschiedlich ausgelegt
werden. Moralischer Dissens kann zum Beispiel auch entstehen, wenn Verwandte und Ärzte
des Patienten sich darüber einig sind, dass es das Wichtigste ist, die Wünsche des Patienten zu
respektieren, die Auslegung einer möglichen Patientenverfügung kann aber ganz
unterschiedlich ausfallen. Aber auch eine Uneinigkeit darüber, welches Gewicht welchem
ethischen Prinzip bei der Abwägung zukommt, stellt einen moralischen Dissens dar.
54
Der bekannteste Ansatz der Medizinethik ist das Vier-Prinzipien-Modell nach
Beauchamp und Childress.
55
Dieses ist auch unter dem Schlagwort der prinzipienorientierten
Medizinethik bekannt.
56
Beauchamp und Childress deklarierten die vier Prinzipien Autonomie,
Fürsorge, Nichtschaden und Gerechtigkeit für als gleichermaßen wichtig. Diese seien die
53
Vgl. Inthorn/Tabacchi/Seising 2015, S. 185.
54
Vgl. ebd., S. 187.
55
Vgl. Inthorn/Tabacchi/Seising 2015, S. 186.; Inthorn, Julia, Medical Ethics, Fuzzy Logic and Shared
Decision Making, in: Seising, Rudolf/Tabacchi, Marco Elio (Hrsg.): Fuzziness and Medicine: Philosophical
Reflections and Application Systems in Health Care. A Companion Volume to Sadegh-Zadeh's Handbook of
Analytical Philosophy of Medicine, Berlin / Heidelberg 2013, S. 87.; Marckmann 2003, S. 12.
56
Vgl. Marckmann/Jox 2013, S. 442.
12
ethischen Prinzipien, welche bei moralischen Konflikten am häufigsten miteinander in
Konflikt stehen. Ein Beispiel ganz typischer Genese sei in diesem Zusammenhang ein Patient,
welcher sich zu den Zeugen Jehovas bekennt und deshalb eine medizinisch notwendige
Bluttransfusion ablehnt. Für den behandelnden Arzt zeigt sich hierin ein Konflikt zwischen
dem Respektieren der Autonomie des Patienten und der Fürsorgepflicht. In den meisten
europäischen Ländern würde an dieser Stelle der Autonomie des Patienten Vorrang gegeben.
57
Die vier Prinzipien müssen jedoch nicht zwangsläufig miteinander in Konflikt stehen, sondern
können sich auch gegenseitig stützen. Edmund Pellegrino beispielsweise deklariert die
Autonomie als notwendige Voraussetzung für das Fürsorgeprinzip. Denn um dem Patienten
das bestmögliche Wohl ermöglichen zu können, muss zunächst bekannt sein, was der Patient
selbst für sich als am wichtigsten erachtet.
58
Das Vier-Prinzipien-Modell wurde entwickelt,
um einen kleinsten gemeinsamen Nenner in der Medizinethik zu finden, auf dessen Grundlage
diskutiert werden kann. Denn die Pluralität der Wertvorstellungen und der damit verbundenen
ethischen Theorien und Positionen ist eines der Hauptprobleme der Medizinethik.
59
Diese
führt zu Debatten unter anderem über Letztbegründungen normativer Positionen, in welchen
es keine Aussicht auf Lösungen gibt. Beauchamp und Childress erachten eben diese vier
Prinzipien als gemeinsame Grundlage, als mit verschiedenen Moraltheorien vereinbare,
konsensfähige Prinzipien.
60
Inthorn et al. sehen das Vier-Prinzipien-Modell als ein heuristisches Rahmenwerk.
Hierin findet sich bereits ein erster Ansatz, ethische Entscheidungsmerkmale in
Expertensysteme zu integrieren. Da eben Expertensysteme auch mit Heuristiken arbeiten. Auf
Grundlage des Vier-Prinzipien-Modells als heuristisches Rahmenwerk lässt sich sodann
erkennen, dass unter jeder Kombinationsmöglichkeit der vier Prinzipien Konflikte entstehen
können. Als Beispiel für einen Konflikt zwischen der Autonomie des Patienten und dem
Prinzip des Nicht-Schadens nennen Inthorn et al. eine Situation, in der ein Patient den Wunsch
äußert, eine gesunde Gliedmaße entfernen zu lassen. So abstrakt es auch scheint, kommen
solche Situationen tatsächlich vor, wenn sie auch nicht dem typischen Praxisalltag
entsprechen. Häufiger kommen Konflikte zwischen der Autonomie des Patienten und dem
Gerechtigkeitsprinzip vor. Hier nennen Inthorn et al. als Beispiel die Problematik, dass Ärzte
57
Vgl. Inthorn/Tabacchi/Seising 2015, S. 186.
58
Vgl. Pellegrino, Edmund D./Thomasma, David C., For the Patient`s good: The Restoration of Beneficence in
Health Care, Oxford 1988, S. 1.
59
Vgl. Marckmann/Jox 2013, S. 442.
60
Vgl. Inthorn 2013, S. 88.; Marckmann/Jox 2013, S. 442, f.
13
häufig Probleme haben, ihre Zeit allen Patienten gegenüber gerecht aufzuteilen, während
einzelne Patienten eventuell einen erhöhten Bedarf an Zeitwidmung und Informationen
haben.
61
Ganz alltäglich sind Konflikte zwischen dem Fürsorgeprinzip und dem Prinzip des
Nicht-Schadens, wenn beispielsweise Nebenwirkungen und Heilungschancen eines für die
Therapie notwendigen Medikaments miteinander abgewägt werden müssen. Konflikte
zwischen dem Fürsorgeprinzip und dem Gerechtigkeitsprinzip hingegen entstehen aus
klassischen Verteilungsfragen hinsichtlich der Kosten einer Therapie, welche die Folgen mit
sich bringen, dass nicht allen Patienten die teuerste Therapie gewährleistet werden kann. Als
letztes Beispiel, stellvertretend für einen Konflikt zwischen dem Nicht-Schadens-Prinzip und
dem Gerechtigkeitsprinzip nennen Inthorn et al. Situationen, in denen beispielsweise
besondere Risikogruppen wie Schwangere nicht an klinischen Studien teilnehmen dürfen.
Dies hat für diese Gruppen allerdings die Konsequenz, dass die Therapiemöglichkeiten für
Schwangere somit nicht ausreichend getestet werden können.
62
3.2) Bedeutung des Faktors Zeit bei ethischen Dilemmata
Die Problematik, unter Nicht-Wissen und Unsicherheit handeln und Entscheidungen
treffen zu müssen, hängt insbesondere in der Medizin wesentlich von dem Zeitaspekt ab. Nicht
nur die Lebenszeit des Patienten ist begrenzt, gerade physiologische und pathologische
Prozesse laufen in einem bestimmten Zeitrahmen ab. Deshalb stehen oft nur begrenzte
Zeitfenster für erfolgreiches Handeln zur Verfügung.
63
Besonders schwierig ist es dann auch,
die ethischen Dimensionen von Entscheidungen in der Medizin in den Entscheidungsprozess
zu integrieren. Ethische Dilemmata in der Medizin unterscheiden sich wesentlich in Bezug auf
den Faktor Zeit, welche für eine Handlungsentscheidung bleibt.
Zunächst gibt es als typische Dilemmata in der Medizin Entscheidungen am
Lebensende, in denen über Leben und Tod entschieden werden muss. Es geht dabei darum, ob
beispielsweise ein Patient mithilfe künstlicher Mittel weiterhin am Leben gehalten werden
61
Inthorn/Tabacchi/Seising 2015, S. 186.
62
Ebd.
63
Vgl. Peter 2013, S. 117.
14
sollte. Dies sind langfristige Entscheidungen, in denen für ethische Bedenken und Diskussion
ausreichend Zeit ist. An zweiter Stelle stehen in der Medizin ganz häufige alltägliche
Dilemmata, wie beispielsweise das Abwägen vom Krankheitsleiden und den Nebenwirkungen
eines Medikaments. Typisch hierfür wäre ein bipolarer Patient, welcher allergisch ist gegen
das einzige verfügbare gut wirkende Medikament. Im Gegensatz zur ersten Konstellation stellt
sich hier die Frage nach der Lebensqualität.
In der Notfallmedizin hingegen ist zum Zeitpunkt des Ereignisses keine ethische
Diskussion mehr, sowie nur bedingtes Vordenken möglich. ,,Die Akut- und Notfallmedizin ist
durch zeitkritische Entscheidungen mit hoher Relevanz und entsprechendem Risikopotenzial
sowie durch eine sehr hohe Entscheidungsdichte pro Zeiteinheit gekennzeichnet."
64
In sehr
begrenzter Zeit wird eine Entscheidung getroffen und eine Handlung initiiert, die moralische
Konsequenzen nach sich zieht, die in der Regel nicht vorab diskutiert werden konnten. Für
Notfallsituationen ist auch charakteristisch, dass die Personen, welche in der konkreten
Situation zusammenarbeiten müssen zum ersten Mal aufeinandertreffen und weder Vertrauen
zueinander aufbauen konnten noch die Fähigkeiten des jeweils anderen einschätzen können.
Dies führt zu einer hohen Komplexität in medizinischen Notfallsituationen. Per definitionem
sind Notfallsituationen unvertraute Situationen, welche akute Gefühle von Stress, Angst und
Unsicherheit auslösen. Unter Umständen muss neben diesen Gefühlen in Notfallsituationen
zudem mit fehlenden oder miteinander in Konflikt stehenden Informationen umgegangen
werden. Nach der sogenannten threat-rigidity-Hypothese tendieren Menschen unter Stress,
Angst und psychischer Erregung dazu sich mehr auf interne Hypothesen zu verlassen und sich
auf dominante Signale zu fokussieren und somit gut-gelernte Antworten zu geben. Das
bedeutet, die Entscheidung in Notfallsituationen erfolgt nach dem erlernten Standard-Schema.
Ein vereinfachter Algorithmus wird im Gehirn abgerufen.
65
Wenn die Notfallsituation dann
nicht zu diesem unter Stress abgerufenem vereinfachtem Schema passt, kann dies die
Entscheidung unter Umständen ineffektiv werden lassen oder sogar die Notfallsituation
verschlimmern. Unter der stressbehafteten Notfallsituation misslingt es den
Entscheidungsträgern, die Handlungsalternativen angemessen zu identifizieren und alle
64
Wurmb, Thomas/Brederlau, Jörg, Patientenwille und Akutmedizin, in: Medizinische Klinik
Intensivmedizin und Notfallmedizin 11(2), 2016, S. 113.
65
Vgl. Vetter, Bernhard/Gasch, Bernd/Padosch, Stephan A., Medizinisches Handeln in komplexen
Notfallsituationen. Kompetent und erfolgreich entscheiden, kommunizieren und führen, in: Anaesthesist 64(4),
2015, S. 299.; Dittmar, Michael S./Bigalke, Marc/Schüttler, Jürgen/Graf, Bernhard M./Birkholz, Torsten,
Maßnahmen der Not- und Regelkompetenz. Eine systematische, medizin-organisatorische Betrachtung, in:
Notfall + Rettungsmedizin 17(3), S. 234.
15
Möglichkeiten zu überblicken. Insbesondere kann in Notfallsituationen allerdings auch häufig
das mit der Entscheidung verbundene Risiko nicht richtig eingeschätzt werden.
66
Um auf
Notfallsituationen besser vorbereitet zu sein, gibt es das sogenannte Notfallmanagement,
sowie eigens auf Notfallmedizin ausgerichtetes Risikomanagement. Notfallsituationen sind
meist vorhersehbar und bauen sich langsam auf. Ein unerwartetes, plötzliches Auftreten dieser
ist selten. Bartel van de Walle und Murray Turoff zufolge haben Notfallsituationen eine
Inkubationszeit, in welcher sich der noch unbemerkte Notfall aufbaut, was letztendlich zum
akuten Notfall führt.
67
Plötzlich eintretende Notfallsituationen in der Medizin sind Unfälle,
bei allem anderen ging eine Grunderkrankung bereits voraus. Da Patienten häufig in
Notfallsituationen nicht mehr ansprechbar sind, müssen die Mediziner sich unter Umständen
auch über die Entscheidung des Patienten hinwegsetzen. Um dies zu vermeiden, gibt es
mittlerweile Tools im Notfallmanagement der Medizin wie beispielsweise den Organspende-
Ausweis. Dahinter steht das Prinzip, ethische Bedenken folglich so weit wie möglich im
Voraus zu diskutieren, um auf mögliche Notfallsituationen vorbereitet zu sein. Zu Fragen
beispielsweise betrefflich Bluttransfusionen gibt es allerdings noch keinen derartigen
Ausweis. Aktuell wird deshalb die Einführung der Gesundheitskarte diskutiert, welche eben
all diese Patientendaten verwalten soll. Natürlich gibt es auch hierzu ethisch-moralische
Bedenken, welche in Kapitel 8) diskutiert werden.
4) Entscheidungen, Wissen und Risiko
Die Rolle vom Wissen und dessen Repräsentation ist nicht nur für die theoretische
Forschung, sondern auch für den effektiven Einsatz von Expertensystemen
68
und somit auch
für die Frage nach einem ethischen Umgang und die eventuelle Integration ethischer
Erwägungen in Expertensysteme bedeutsam. In diesem Kapitel wird der Zusammenhang von
Entscheidungen, Wissen, Komplexität, Risiko und Nicht-Wissen sowie folglich die
Konstellation des Handelns trotz Nicht-Wissen verdeutlicht.
66
Vgl. Van de Walle, Bartel/Turoff, Murray Decision Support for Emergency Situations, in: Burstein,
Frada/Holsapple, Clyde W. (Hrsg.): Handbook on Decision Support Systems 2. Variations, Berlin/Heidelberg
2008, S. 39, f.
67
Vgl. ebd., S. 41.
68
Vgl. Holsapple Clyde W., Decisions and Knowledge. In: Burstein, Frada/Holsapple, Clyde W. (Hrsg.):
Handbook on Decision Support Systems 1., Berlin/Heidelberg 2008, S. 21.
16
4.1) Der Entscheidungsprozess als Algorithmus
Allen Entscheidungen ist gemeinsam, dass sie eine Vermutung bezüglich der Zukunft
beinhalten. Der Entscheidungsprozess beginnt mit einer Einschätzung der gegenwärtigen
Situation. Es werden Überlegungen getroffen, mit welchen Handlungen der gewünschte
Zustand erreicht werden kann. Derartige Überlegungen enthalten viele implizite Annahmen.
69
Im Grunde kann ein jeder Entscheidungsprozess als ein Algorithmus aufgefasst werden.
70
Ein
Algorithmus ist eine endliche Menge von Regeln, die einen Arbeitsablauf für einen
bestimmten Typ von Problemen vorgeben.
71
Jeder Mensch verfügt über Algorithmen, welche
er sich im Laufe seines Lebens angeeignet hat und welche unbewusst abgerufen werden
können. Gleichzeitig sind Algorithmen das Rohmaterial der Computerprogrammierung.
72
John Danaher definiert Algorithmen als computerprogrammierte ,,step-by-step instructions"
73
,
mit welchen aus einem gegebenen Set von Inputs ein Output produziert wird.
74
Bei der
Entwicklung von Programmen hat man sich zunächst an einer Imitation der menschlichen
Denk- und Entscheidungsprozesse orientiert.
4.1.1) Entscheidungen und Komplexität
Die Welt, in welcher Entscheidungen getroffen werden müssen, wird zunehmend
komplexer. Dies ist mitunter bedingt durch eine Zunahme an Geschehnissen sowie einer
Zunahme an Vernetzungen dieser. Dadurch steigt nicht nur die Komplexität, sondern auch die
Menge von Entscheidungen, welche zu fällen sind.
75
Georg Marckmann und Ralf Jox zufolge
nimmt somit explizit auch die Komplexität ethischer Herausforderungen zu.
76
Durch die
Zunahme der Komplexität wird es immer schwieriger, die Ergebnisse von Handlungen und
69
Vgl. Bennet, Alex/Bennet, David, The Decision-Making Process in a Complex Situation, in: Burstein,
Frada/Holsapple, Clyde W. (Hrsg.): Handbook on Decision Support Systems 1., Berlin/Heidelberg 2008, S. 4,
f.
70
Vgl. Hill, Robin K., What an Algorithm is, in: Philosophy and Technology 29(1), 2015, S. 36.
71
Vgl. ebd., S. 37.
72
Vgl. Hill 2015, S. 36.
73
Danaher, John, The Threat of Algocracy: Reality, Resistance and Accomodation, in: Philosophy &
Technology 2016, S. 1.
74
Vgl. ebd.
75
Vgl. Holsapple 2008, S. 21.
76
Vgl. Marckmann/Jox 2013, S. 442.
17
Entscheidungen abzuschätzen. Dennoch muss der Entscheidungsprozess so effektiv wie
möglich gestaltet werden.
77
Komplexität bezeichnet den Zustand eines Systems, einer Situation oder einer
Organisation, welche zwar zu einem gewissen Grad über eine Ordnung verfügen, aber zu viele
Elemente oder Beziehungen enthalten, um diese mit simpler Analytik oder Logik zu
analysieren und zu verstehen. Eine komplexe Situation beinhaltet also multiple und auch sehr
diverse Verbindungen mit dynamischen und voneinander abhängigen Beziehungen,
Vorgängen und Prozessen. Während komplexe Situationen durchaus über Tendenzen und
Muster verfügen, sind diese oft in einer Art verwickelt, welche sie ununterscheidbar werden
lassen. Dazu gehören zeitliche Verzögerungen sowie fehlende Linearität. Während Absorber
und die Einflussnehmer noch definierbar, sowie das Verhalten beobachtbar sein mögen, weist
das umgehende Geschehen unerwartete Ereignisse auf. Vor diesem Gesamtbild ist das
Problem oder die Situation, welche eine Entscheidung verlangen, meist einmalig und noch nie
da gewesen.
78
Anton Lerf und Erwin Schuberth zufolge sind komplexe Systeme darüber
hinaus häufig instabil. Menschliche Eingriffe in Komplexe Systeme seien daher
,,grundsätzlich als prekär anzusehen"
79
. Nach Lerf und Schuberth stelle sich die Frage, ob es
überhaupt möglich sei, Strategien im Umgang mit komplexen Systemen zu entwickeln.
80
Komplexen Systemen sei bereits aufgrund der internen, nichtlinearen Dynamik ein unstetiger
Komplexitätszuwachs als auch spontaner ,,Komplexitätsabbau in chaotischen
Übergangszuständen"
81
inhärent.
82
Dem Komplexitätszuwachs und der damit verbundenen
zunehmenden Innovationsdynamik entgegengesetzt steht allerdings eine den Menschen
intrinsische ,,begrenzte Wahrnehmungsfähigkeit von neuen Entwicklungen und verzögerten
Wirkungen"
83
. Dies macht natürlich das Abschätzen von Folgen unter Komplexität
zunehmend schwierig.
77
Vgl. Bennet/Bennet 2008, S. 5.
78
Vgl. ebd.
79
Lerf, Anton/Schuberth, Erwin, Komplexe Systeme: Wo das Wissen der Naturwissenschaften an Grenzen
stößt, in: Böschen, Stefan/Schneider, Michael/Lerf, Anton (Hrsg.): Handeln trotz Nichtwissen. Vom Umgang
mit Chaos und Risiko in Politik, Industrie und Wissenschaft, Frankfurt/Main 2004, S. 212.
80
Vgl. ebd.
81
Lerf/Schuberth 2004, S. 230.
82
Vgl. ebd.
83
ebd.
18
4.1.2) Entscheidungen und Wissen
Wissen spielt eine wichtige Rolle bei der Entscheidungsfindung. Clyde W. Holsapple
formuliert es sehr treffend: ,,Knowledge is the stuff from which, and of which, decisions are
made."
84
Tatsächlich formt das Wissen eines Entscheidungsträgers dessen Entscheidungen
maßgeblich. Somit ist Wissen natürlich auch für die Entwicklung von Expertensystemen
relevant. Teilweise werden Expertensysteme sogar als ein Werkzeug des
Wissensmanagements betrachtet. Entscheidungsträger nutzen das ihnen vorhandene Wissen
für ihre Entscheidungen. Nicht nur die Komplexität nimmt stetig zu, sondern auch die Menge
an Wissen, welches für Entscheidungen zur Verfügung steht. Dies erschwert die
Entscheidungsfindung. Der Entscheidungsträger muss aus einer großen, diversen Menge an
Wissen das spezielle für seine Entscheidungssituation relevante Wissen herausfiltern. Dieses
Wissen muss zudem gewissen Qualitätsmerkmalen standhalten. Das vom Entscheidungsträger
ausgewählte Wissen kommt an mehreren Etappen des Entscheidungsprozesses zum Einsatz.
Dies führt nicht selten zur Bildung neuen Wissens. Der Verlauf des Entscheidungsprozesses
ist abhängig sowohl von den Präferenzen des Entscheidungsträgers,
Handlungseinschränkungen, sowie natürlich nicht zuletzt der Situation, unter welcher eine
Entscheidung getroffen werden muss, an sich.
85
4.2) Nicht-Wissen
Über die Figur des sogenannten Nicht-Wissens wird in den vergangenen Jahrzehnten
debattiert sowohl in der Wissenssoziologie, in der Wissenschaftssoziologie als auch
insbesondere im ,,Theoriekontext reflexiver Modernisierung"
86
. Claudia Peter fasst
verschiedene Bedeutungen des Begriffs Nicht-Wissen zusammen. Nach Knight und
Collingridge beziehe sich der Begriff des Nicht-Wissens primär auf Handlungs- und
Entscheidungsfolgen, welche ,,weder objektiv noch subjektiv abschätzbar, sondern
84
Holsapple 2008, S. 22.
85
Vgl. ebd, S. 21, ff.
86
Böschen, Stefan, Risikogenese. Metamorphosen von Wissen und Nicht-Wissen, in: Soziale Welt, 53(1),
2002, S. 68.
19
unbekannt"
87
sind. Nach der Definition von Ravetz bezeichne Nicht-Wissen hingegen
Komponenten, welche zum Entscheidungszeitpunkt nicht bekannt sind. Nach Peter Wehling
wiederum ist Nicht-Wissen ganz einfach ,,das Fehlen bzw. die Abwesenheit von Wissen"
88
.
Diese Arbeit beschränkt sich nicht auf eine dieser Begriffsdefinitionen. Sowohl das Nicht-
Wissen nach Knight und Collingridge, als auch nach Ravetz, sowie jenes der Definition von
Wehling wird betrachtet. Die oben genannten Autoren grenzen Nicht-Wissen und Unsicherheit
oder Ungewissheit begrifflich voneinander ab. Claudia Peter hingegen subsumiert Risiko,
Ungewissheit, Nicht-Wissen, und Unbestimmtheit dem Nicht-Wissen als verschiedene
,,Nichtwissensformen"
89
. Ähnlich hält es Ludger Heidbrink. Sein ,,Begriff des Unwissens
umfasst ... nicht weiter spezifizierte Formen der Ungewissheit und des Nichtwissens bei
Handlungsprozessen"
90
. Diese Arbeit lehnt sich dem Vorgehen von Peter und Heidbrink an
und behandelt folglich neben Nicht-Wissen auch Unsicherheit und Risiko als eine Form
dessen. ,,Wissenschaftlicher Wissensgewinn"
91
und folglich die mit der steigenden
Komplexität verbundene Zunahme der Menge an Wissen bedeuten nicht nur eine Reduktion
von Unwissenheit. Er bringt auch erst neue Formen von Nicht-Wissen und Unsicherheit
hervor. Unsicherheit und Nicht-Wissen bestimmen zunehmend das alltägliche Leben und
somit auch die Wissenschaft. Es ist wichtig, diese Entwicklung anzuerkennen, um
entsprechend mit ihr umgehen zu können. Martin Scheringer zufolge nehmen Wissenschaftler
sie teilweise noch immer nicht wahr und versuchen somit weiterhin mit klassischen
wissenschaftlichen Methoden Probleme anzugehen, welche diese Methoden nicht gewappnet
sind.
92
In der englischsprachigen Diskussion über Nicht-Wissen wird der Begriff ignorance
oder nonknowledge verwendet.
93
In der Literatur findet sich sowohl die Schreibweise Nicht-
Wissen als auch Nichtwissen. Der Einheitlichkeit halber wird im Laufe dieser Arbeit die
Schreibweise Nicht-Wissen angewandt. Ein grundlegendes Problem ist es, wie in Situationen,
in denen das Nicht-Wissen oder die Ungewissheit absolut nicht aufhebbar ist, dennoch
entschieden werden kann. Im Kontext des Nicht-Wissens-Begriff nach Knight und
Collingridge ist die zentrale Frage im Umgang mit Nicht-Wissen, welche Regeln für
87
Peter 2013, S. 117.
88
Ebd.
89
Ebd., S. 116.
90
Heidbrink, Ludger, Nichtwissen und Verantwortung: Zum Umgang mit nichtintendierten Handlungsfolgen,
in: Peter, Claudia/Funcke, Dorett (Hrsg.): Wissen an der Grenze: Zum Umgang mit Ungewissheit und
Unsicherheit in der modernen Medizin, Frankfurt 2013, S. 111.
91
Böschen/Wehling 2012, S. 317.
92
Vgl. Scheringer, Martin, Das Reichweiten-Konzept eine Methode zum Umgang mit Unsicherheit und
Nichtwissen in der Chemikalienbewertung, in: Böschen, Stefan/Schneider, Michael/Lerf, Anton (Hrsg.):
Handeln trotz Nichtwissen. Vom Umgang mit Chaos und Risiko in Politik, Industrie und Wissenschaft,
Frankfurt/Main 2004, S. 67.
93
Vgl. Böschen/Wehling 2012, S. 320.
Details
- Seiten
- Erscheinungsform
- Originalausgabe
- Erscheinungsjahr
- 2016
- ISBN (PDF)
- 9783961161287
- ISBN (Paperback)
- 9783961166282
- Dateigröße
- 1.5 MB
- Sprache
- Deutsch
- Institution / Hochschule
- Technische Universität München – Munich Center for Technology in Society
- Erscheinungsdatum
- 2017 (Mai)
- Note
- 1,7
- Schlagworte
- Endometriose Endometriosis Expert Systems Expertensysteme Medizin Philosophie der Medizin nonknowledge Nichtwissen revolution in medicine medizinische Informatik neu neueste Forschungsergebnisse Unsicherheit Risiko Gynäkologie Fuzzy-Logic ethische Prinzipien
- Produktsicherheit
- Diplom.de
