Gołota Szymon, Borkowska Alina. Neuropsychologiczna ocena procesów rozstrzygnięć moralnych = Neuropsychological assessment of moral responses processes= Neuropsychologiczna ocena procesów rozstrzygnięć moralnych. Journal of Health Sciences. 2014;4(15):53-62. DOI: 10.5281/zenodo.13741 ISSN 1429-9623 / 2300-665X. http://ojs.ukw.edu.pl/index.php/johs/article/view/2014%3b4%2815%29%3a53-62 http://journal.rsw.edu.pl/index.php/jhs/article/view/2014%3b4%2815%29%3a53-62 https://pbn.nauka.gov.pl/works/516683 http://dx.doi.org/10.5281/zenodo.13741 The journal has had 5 points in Ministry of Science and Higher Education of Poland parametric evaluation. Part B item 1089. (31.12.2014). The Author (s) 2014; This article is published with open access at Licensee Open Journal Systems of Radom University in Radom, Poland Open Access. This article is distributed under the terms of the Creative Commons Attribution Noncommercial License which permits any noncommercial use, distribution, and reproduction in any medium, provided the original author(s) and source are credited. This is an open access article licensed under the terms of the Creative Commons Attribution Non Commercial License (http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted, non commercial use, distribution and reproduction in any medium, provided the work is properly cited. This is an open access article licensed under the terms of the Creative Commons Attribution Non Commercial License (http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted, non commercial use, distribution and reproduction in any medium, provided the work is properly cited. Conflict of interest: None conflict declared. Received: 15.11.2014. Revised 05.12.2014. Accepted: 25.12.2014. Neuropsychologiczna ocena procesów rozstrzygnięć moralnych Neuropsychological assessment of moral responses processes Szymon Gołota 1, Alina Borkowska 1 1 Katedra i Zakład Neuropsychologii Klinicznej UMK Collegium Medicum w Bydgoszczy, Polska Słowa kluczowe: moralność, model dwuprocesowy, dylemat moralny, emocje, rozumowanie. Key words: morality, dual-process model, moral dilemma, emotion, reasoning. Streszczenie Współczesna wiedza pozwala na przyjęcie, że u podstaw rozstrzygnięć moralnych leżą czynniki poznawcze i emocjonalne. Jedną z koncepcji opisujących ich wzajemne interakcje jest Dwuprocesowy Model Sądów Moralnych Joshua Greene. Wyjaśnia on procesy zachodzące podczas dokonywania rozstrzygnięć w sytuacjach moralnie problemowych. Rozstrzygnięcia te mogą przyjmować formę sądów lub decyzji moralnych. Do ich obserwacji stosuje się krótkie opowiadania - dylematy moralne. W pracy przedstawiono podstawowe zagadnienia metodologii badań neuropsychologicznych z użyciem dylematów moralnych. Omówiono problemy związane z ich konstruowaniem oraz administrowaniem nimi. Przedstawiono możliwości pozyskania wyników interesujących z neuropsychologicznego punktu widzenia, w trakcie badań z użyciem dylematu moralnego, oraz ich interpretacji zgodnie z założeniami modelu proponowanego przez J. Greene. Summary Contemporary knowledge allows to assume that the basis for the moral decisions are cognitive and emotional factors. One of the concepts describing their interactions is dual-process theory of moral judgment by Joshua Greene. It explains that the processes occurring when responses to situations morally problematic. Responses these may take the form of moral judgments or decisions. Their observations are used short stories - moral dilemmas. This paper is an attempt to present the basic concepts of neuropsychological research methodology connected with moral dilemmas. The problems associated with their construction, and administration were discussed. Furthermore the possibilities of obtaining interesting neuropsychological results, in the field of a moral dilemma studies in the line of the J. Greene proposed by model where shown. 53
Wstęp Współcześnie dysponujemy dość szczegółową wiedzą na temat struktur mózgu związanych z moralnością [1]. Panuje także względna zgoda, co do tego, że w rozstrzygnięcia sytuacji moralnie problemowych wkład mają zarówno procesy racjonalne (wolniejsze, późniejsze ewolucyjnie) jak i emocjonalne (szybsze, wcześniejsze ewolucyjnie) [2]. Jednakże nie udało się dotąd, jednoznacznie ustalić ich przebiegu [3,4]. Jedno z możliwych wyjaśnień procesów leżących u podstaw rozstrzygnięć moralnych zaproponowane zostało przez Joshua Greene z Uniwersytetu Harvarda. W ramach Dwuprocesowego Modelu Sądów Moralnych przedstawił on argumenty na rzecz istnienia konfliktu emocje-poznanie. Twierdzi on, że sytuacja moralnie problemowa angażuje procesy emocjonalne, które rywalizują z procesami poznawczymi. Preferowane rozstrzygnięcie moralne zależy od tego, które z nich dominują [5]. Uznanym sposobem badania mechanizmów moralnych człowieka są obserwacje dokonywane w sytuacji dylematu. Dylematy moralne to krótkie opowiadania stawiające osobę badaną wobec konieczności rozstrzygnięcia trudnego problemu etycznego. Różnią się one od siebie zarówno strukturą jak i sposobem ich użycia w trakcie badania. Rozbieżności te wynikają z przyjętej perspektywy teoretycznej oraz celu badań. Stąd zupełnie inaczej zbudowane i interpretowane są dylematy, które stosował Lawrence Kohlberg niż te używane współcześnie, choćby przez Jonathana Haidta [6,7]. Niniejszy artykuł ma na celu zaprezentowanie podstawowych zagadnień metodologii badań z użyciem dylematów moralnych, zgodnie z założeniami przyjętymi przez J. Greene. Przedstawione zostaną w nim także możliwości zebrania danych wartościowych z neuropsychologicznego punktu widzenia oraz ich interpretacji, w ramach Dwuprocesowego Modelu Sądów Moralnych. 1. Konstrukcja dylematu moralnego J. Greene opierając się na rozważaniach etyków - głównie Philippy Foot i Judith Thomson - opracował zestaw dylematów moralnych celem przeprowadzenia badań neuroobrazowych z ich użyciem [8,9,10]. Były to krótkie opowiadania, w które stawiały osobę badaną wobec konieczności rozstrzygnięcia czy moralne jest podjęcie danego 54
działania, czy też wycofanie się z niego. Skutkiem obu rozwiązań było naruszenie normy moralnej. W formalny sposób sens dylematów moralnych użytych przez J. Greene można określić jako konflikt pomiędzy powinnością A i powinnością B, przy założeniu, że obie te powinności dotyczą tej samej normy moralnej n. Konflikt ten jest umiejscowiony w okolicznościach, które pozwalają jedynie na wybór pomiędzy A(n) i B(n) nie istnieje trzecia możliwość. Istota dylematu polega na przekonaniu, że należy spełnić A(n) i B(n), przy czym nie można zrealizować A(n) bez naruszenia B(n) oraz zrealizować B(n) bez naruszenia A(n) [11]. Rozstrzygnięcie dylematu moralnego może mieć formę decyzji lub sądu. Decyzję definiuje się, jako wybór jednej możliwości działania, spośród co najmniej dwóch opcji [12]. Jeśli uznamy, że moralność to zespół zwyczajów i wartości, które wyznaczają w kulturze danej społeczności kierunek postępowania to decydowanie moralne określić możemy, jako umiejętność odniesienia się do przyjętych norm i dokonania, na tej podstawie, wyboru właściwego sposobu postępowania [13]. Nie zawsze jednak okoliczności, w których pojawia się dylemat moralny wymuszają podjęcie decyzji. Zdarza się, że sytuacja wymaga jedynie wyrażenia osobistej opinii. Takie twierdzące zdanie zawierające stanowisko w danej kwestii moralnej nazywa się sądem moralnym. Sądy moralne są sądami wartościującymi (kryterium oceny stanowi przyjęty system norm) i odróżnia się je od sądów probabilistycznych (kryterium oceny stanowi szacowane prawdopodobieństwo sukcesu/porażki w różnych obszarach ryzyka) [12]. Korzystając z powyżej opisanej struktury formalnej można skonstruować dylemat moralny, użyteczny w badaniach neuropsychologicznych. Należy jednak zwrócić uwagę na stosowaną strukturę semantyczną. Metoda dylematu moralnego pozwala, bowiem na manipulowanie perspektywą, z której osoba badana rozstrzyga problem. Perspektywę zmienia sposób opisu wydarzeń (fabuła ujęta w pierwszej lub trzeciej osobie) oraz sposób zadania pytania (ocena zachowania innej osoby lub zadecydowanie o własnym zachowaniu). Odkryto, że zmiana perspektywy wiąże się z odmiennymi emocjami i generuje różne wzorce reakcji neuronalnej, przez co wpływa na ocenę sytuacji [14,15]. Ponadto przy konstruowaniu fabuły dylematu moralnego należy uwzględnić możliwość wystąpienia efektu obramowania. Istnieje prawdopodobieństwo, że w 55
zależności od użytych słów (np. podkreślenie faktu, że przez dane działanie zabity zostanie człowiek lub, że śmierć ta przyczyni się do ocalenia pięciu innych ludzi) zmieniać się będzie reprezentacja poznawcza dylematu, co może potencjalnie modyfikować sposób wydawania sądów i podejmowania decyzji [16,17]. W celu uniknięcia trudności związanych z konstruowaniem dylematu moralnego można skorzystać z oryginalnego zestawu dylematów skonstruowanych przez J. Greene. Autor opublikował zestawy dylematów w materiałach uzupełniających do swoich artykułów [8,18]. Ważne jest jednak odpowiednie tłumaczenie. Stwierdzono istnienie różnic w sądach moralnych zależnych od tego, czy treść dylematu przedstawiona została w sposób zabarwiony emocjonalnie, czy też opisana językiem chłodnym technicznym [19]. Należy, więc zwrócić uwagę na dobór słownictwa i dołożyć starań, by styl narracji był zgodny z oryginalną wersją. Ważne jest także odpowiednie sformułowanie pytania. W większości badań ujmuje się je w taki sposób, by odpowiedź można było sformatować dychotomicznie: tak-nie. W tym przypadku osoba badana podejmuje jednoznaczny sąd lub decyzję moralną. Zdecydowanie rzadziej stosuje się skale wielostopniowe. Wydaje się, że ich użycie może być zasadne w badaniach, nad ocenami moralnymi, których celem jest zmierzenie stopnia osobistej akceptacji rozstrzygnięć moralnych podejmowanych inne osoby [20]. 2. Administrowanie dylematem moralnym Badanie neuropsychologiczne z użyciem dylematu moralnego składa się z trzech etapów: (1) zapoznanie się z fabułą dylematu moralnego (zawiera ona opis sytuacji wraz z możliwymi opcjami wyboru); (2) zapoznanie się z treścią pytania, które odnosi się do przedstawionej sytuacji; (3) udzielenie odpowiedzi na zadane pytanie (rozstrzygnięcie dylematu) w formie sądu lub decyzji moralnej. Procedura ta jest powtarzana stosownie do ilości użytych w badaniu dylematów. Duże znaczenie dla właściwej odpowiedzi na postawione pytanie badawcze ma odpowiedni dobór dylematów. Pomocne może być oparcie się na rozróżnieniach J. Greene. W celach porównawczych obok dylematów moralnych zastosował on tzw. dylematy pozamoralne (ang. nonmoral dilemmas). Spełniają one warunki dylematu; ich treść jednak nie dotyczy problematyki moralnej (np. wybór pomiędzy trasą szybką, ale bez ciekawych krajobrazów a wolną z ładnymi widokami). Wśród dylematów moralnych wyróżnił on 56
dylematy nieosobiste opisują sytuację wyrządzenia krzywdy drugiemu człowiekowi na odległość, za pomocą urządzeń technicznych, i osobiste opisują sytuację skrzywdzenia bezpośrednio, własnoręcznie. Dylematy osobiste podzielił na dwa typy: łatwe krzywda wyrządzana jest błahego powodu np. z pobudek egoistycznych, i trudne krzywda wyrządzana jest w celu ratowania innych [18] (Rys. 1). DYLEMATY MORALNE POZAMORALNE OSOBISTE NIEOSOBISTE ŁATWE TRUDNE podział dylematów; możliwe porównania. Na podstawie: Grenne i wsp. 2004. Rysunek 1. Podział dylematów wraz z możliwościami porównań Joshua Greene. Przed przeprowadzeniem badania należy zadecydować o sposobie zaprezentowania treści dylematu. W swoim badaniu z 2001 roku J. Greene przedstawiał treść dylematów moralnych w formie bloków tekstu wyświetlanych na ekranie monitora. Tekst pojawiał się w następujący sposób: (1 ekran) opis sytuacji problemowej, (2 ekran) opis możliwości wyboru podjęcie działania i wycofanie się z działania wraz z ich konsekwencjami, (3 ekran) treść pytania [9]. Taki sposób prezentacji jest do tej pory najczęściej wybierany przez badaczy [20]. Z punktu widzenia pomiaru zmiennych neuropsychologicznych kluczowe znaczenie ma odcięcie treści dylematu (ekran 1 i 2) od treści pytania (ekran 3). Umożliwia to nie tylko zarejestrowanie typu odpowiedzi, ale także dokładne zmierzenie czasu potrzebnego osobie badanej na wyrażenie sądu lub podjęcie decyzji moralnej. Preferowana dokładność pomiaru to milisekundy. Jeśli jednak prowadzącemu badanie zależy wyłącznie na uzyskaniu informacji dotyczącej typu odpowiedzi (bez rejestrowania czasu), może przedstawić treść dylematów na piśmie i przeprowadzić badanie metodą papier-ołówek. 57
3. Interpretacja wyników Typ reakcji jest dychotomiczną zmienną jakościową, która wskazuje na deontologiczne lub utylitarne rozstrzygnięcie dylematu moralnego. Rozstrzygnięcie deontologiczne jest to sąd lub decyzja moralna wynikająca z przyjęcia wartości i intencji za podstawę rozstrzygnięcia dylematu. Osoba badana kieruje się uznanymi za normami, które stawia wyżej niż skutki wyboru. Klasycznym przykładem takiego rozwiązania jest powstrzymanie się od zabicia jednej osoby, nawet gdyby ta strata mogła uratować kilka innych osób. Filozoficznej argumentacji na korzyść tego typu decyzji lub sądu dostarczają teorie deontologiczne [21,22]. Rozstrzygnięcie utylitarne to sąd lub decyzja moralna, która jest wynikiem kierowania się skutkami podjętego wyboru. Osoba badana kalkuluje zyski i straty biorąc pod uwagę nie tylko efekt bezpośredni, ale także globalne zwiększenie lub redukcję dobra, szczęścia. Typowym przykładem takiego rozwiązania jest zdecydowanie się na zabicie jednej osoby w celu ratowania kilku innych. Na gruncie filozofii znajduje ono uzasadnienie w koncepcjach konekwencjalistycznych [23,24]. Greene zaproponował wyjaśnienie powyżej opisanych różnic pomiędzy typami reakcji w ramach Dwuprocesowego Modelu Sądów Moralnych (ryc. nr 2). Rozumowanie moralne Grzbietowo boczna kora przedczołowa, płacik ciemieniowy dolny Oparta na zasadach kontrola poznawcza Grzbietowo boczna kora przedczołowa DYLEMAT MORALNY Konflikt poznawczy przednia część kory zakrętu obręczy OCENA MORALNY Ocena intuicyjna Ciało migdałowate, bruzda skroniowa górna/skrzyżowanie skroniowo ciemieniowe Intuicyjna reakcja emocjonalna przyśrodkowa część kory przedczołowej, tylna część kory zakrętu obręczy/ skrzyżowanie skroniowo ciemieniowe Na podstawie: Grenne i wsp. 2004, 2008; Paxton i Greene, 2010. Rysunek 2. Procesy oceny moralnej wg Joshua Greene. 58
Zgodnie z tym modelem w sytuacji dylematu moralnego mamy do czynienia z pobudzeniem części mózgu odpowiadających za racjonalną analizę zysków i strat (grzbietowo-boczna kory przedczołowa oraz płacik ciemieniowy dolny). Równocześnie pobudzone zostają części mózgu związane z intuicją emocjonalną i poznaniem społecznym (ciało migdałowate, przyśrodkowa część kory przedczołowej, tylna części kory zakrętu obręczy i bruzda skroniowa górna wraz ze skrzyżowaniem skroniowo-ciemieniowym). Zachodzą, więc dwa równoległe, konkurencyjne wobec siebie procesy przetwarzania: poznawczy (analityczny) i emocjonalny (intuicyjny). Preferencje deontologiczne w rozwiązywaniu dylematów moralnych związane są z silniejszą aktywacją obszarów mózgu związanych z procesami emocjonalnymi. Podczas gdy tendencja do rozstrzygnięć utylitarnych świadczą o silniejszym zaangażowaniu obszarów mózgu związanych z procesami poznawczymi [25]. Za taką interpretacją przemawiają wyniki badań ujawniające, że większość ludzi podejmuje decyzje i sądy utylitarne w sytuacji, dylematu nieosobistego, wywołującego słabsze emocje. Natomiast w sytuacji dylematu osobistego, wywołującego silniejsze emocje, przewarzają rozstrzygnięcia deontologiczne [26]. Z kolei badania w grupach klinicznych pokazują, że osoby z uszkodzoną brzuszno-przyśrodkową korą przedczołową mają skłonność do utylitarnych rozstrzygnięć zarówno w sytuacjach dylematów nieosobistych jak i osobistych [27,28]. Czas reakcji jest zmienną ilościową. Określa ona czas od zapoznania się z treścią dylematu do zgłoszenia rozstrzygnięcia moralnego. Według J. Greene przebieg tych procesów emocjonalnych i poznawczych monitorowany jest przez mechanizmy kontroli poznawczej związanej z aktywacją przedniej części kory zakrętu obręczy (ryc. nr 2). Rozstrzygnięcie dylematu rozumiane jako proces dynamiczny. Wymaga on nie tylko oszacowania zysków i strat, ale także konieczności stłumienia negatywnych emocji wynikających z nieuchronnego naruszenia normy moralnej. Im silniejszy konflikt pomiędzy procesami emocjonalnymi a kalkulacyjnymi tym dłuższy czas potrzebny na rozstrzygnięcie dylematu. Wydłużenie czasu oznacza większą aktywację przedniej części kory zakrętu obręczy, która jest odpowiedzialna za wykrywanie błędów i monitorowanie konfliktów [29]. Osoby badane znacznie różnią się czasami potrzebnymi na udzielenie odpowiedzi w zależności od typu dylematu. Zaobserwowano tendencję do rozwiązania dylematów pozamoralnych i moralnych nieosobistych w czasie krótszym niż dylematy osobiste. 59
Najwięcej czasu wymaga decyzja lub sąd moralny w sytuacji dylematów osobistych trudnych. Oznacza to, że rozstrzygnięcia moralne wymagające osobistego zaangażowania się w wyrządzanie krzywdy, wywołują silny konflikt poznanie-emocje [18,30]. Zależności te nie dotyczą jednak psychopatów, którzy podejmują rozstrzygnięcia moralne w dylematach osobistych łatwych i trudnych z taką samą szybkością [31]. Zakończenie Zastosowanie dylematu w badaniach nad decyzjami moralnymi wymaga dużej świadomości metodologicznej. Nie każde opowiadanie, które zawiera w sobie problem moralny spełnia formalne i semantyczne kryteria dylematu nadającego się do badań neuropsychologicznych. Ponadto, właściwe przeprowadzenie badań tego typu możliwe jest tylko przy, prawidłowym administrowaniu dylematem moralnym. Niemniej jednak dzięki poprawnemu jego zastosowaniu można uzyskać cenne dane w postaci typów i czasów odpowiedzi w sytuacjach moralnie problemowych. Pozwalają one na neuropsychologiczne wnioskowanie o funkcjonowaniu mózgu w trakcie podejmowania decyzji i formułowania sądów moralnych. Szczególnie przydatny dla oceny neuropsychologicznej wydaje się być Dwuprocesowy Model Sądów Moralnych Greene. Nie jest to jednak jedyny możliwy sposób interpretacji danych. Fakt, że omawiane mechanizmy nie zostały dotąd jednoznacznie określone zachęca do ich dalszej eksploracji empirycznej. Bibliografia 1. Fumagalli, M., Priori, A. (2012). Functional and clinical neuroanatomy of morality. Brain, 135(7), 2006-2021. 2. De Neys, W., Glumicic, T. (2008). Conflict monitoring in dual process theories of thinking. Cognition, 106(3), 1248-1299. 3. Huebner, B., Dwyer, S., Hauser, M. (2009). The role of emotion in moral psychology. Trends in cognitive sciences, 13(1), 1-6. 4. Pascual, L., Rodrigues, P., Gallardo-Pujol, D. (2013). How does morality work in the brain? A functional and structural perspective of moral behavior. Frontiers in integrative neuroscience, 7. 5. Greene, J. D., Morelli, S. A., Lowenberg, K., Nystrom, L. E., Cohen, J. D. (2008). Cognitive load selectively interferes with utilitarian moral judgment. Cognition, 107(3), 1144-1154. 60
6. Colby, A., Kohlberg, L., Gibbs, J., Lieberman, M., Fischer, K., Saltzstein, H. D. (1983). A longitudinal study of moral judgment. Monographs of the society for research in child development, 1-124. 7. Haidt, J. (2001). The emotional dog and its rational tail: a social intuitionist approach to moral judgment. Psychological review, 108(4), 814. 8. Greene, J. D., Sommerville, R. B., Nystrom, L. E., Darley, J. M., Cohen, J. D. (2001). An fmri investigation of emotional engagement in moral judgment. Science, 293(5537), 2105-2108. 9. Foot, P. (1967). The problem of abortion and the doctrine of the double effect. Oxford Review, 5, 5-15. 10. Thomson, J. J. (1976). Killing, letting die, and the trolley problem. The Monist, 204-217. 11. Chyrowicz, B. (2008). O sytuacjach bez wyjścia w etyce: dylematy moralne, ich natura, rodzaje i sposoby rozstrzygania. Społeczny Instytut Wydawniczy Znak. 12. Nęcka, E., Orzechowski, J., Szymura, B. (2013). Psychologia poznawcza. Wydawnictwo Naukowe PWN. 13. Moll, J., Zahn, R., de Oliveira-Souza, R., Krueger, F., Grafman, J. (2005). The neural basis of human moral cognition. Nature Reviews Neuroscience, 6(10), 799-809. 14. Royzman, E. B., Baron, J. (2002). The preference for indirect harm. Social Justice Research, 15(2), 165-184. 15. Tassy, S., Oullier, O., Mancini, J., Wicker, B. (2013). Discrepancies between judgment and choice of action in moral dilemmas. Frontiers in psychology, 4. 16. Tversky, A., Kahneman, D. (1981). The framing of decisions and the psychology of choice. Science, 211(4481), 453-458. 17. Kahneman, D., Tversky, A. (1984). Choices, values, and frames. American psychologist, 39(4), 341. 18. Greene, J. D., Nystrom, L. E., Engell, A. D., Darley, J. M., Cohen, J. D. (2004). The neural bases of cognitive conflict and control in moral judgment. Neuron, 44(2), 389-400. 19. Borg, J. S., Hynes, C., Van Horn, J., Grafton, S., Sinnott-Armstrong, W. (2006). Consequences, action, and intention as factors in moral judgments: An fmri investigation. Journal of cognitive neuroscience, 18(5), 803-817. 20. Christensen, J. F., Gomila, A. (2012). Moral dilemmas in cognitive neuroscience of moral decision-making: a principled review. Neuroscience & Biobehavioral Reviews, 36(4), 1249-1264. 21. Kant, I. (2001). Uzasadnienie metafizyki moralności, Kęty. 22. Mill, J. S. (1959). Utylitaryzm. O wolności, Warszawa. 61
23. Hume, D. (1975). Badania dotyczące zasad moralności, Warszawa. 24. Pettit, P. (2002). Konsekwencjalizm,[w:] Przewodnik po etyce, red. Peter Singer, Ksia żka i Wiedza, Warszawa. 25. Greene, J., Haidt, J. (2002). How (and where) does moral judgment work?. Trends in cognitive sciences, 6(12), 517-523. 26. Hauser, M. D. (2006). Moral minds. New York. 27. Koenigs, M., Young, L., Adolphs, R., Tranel, D., Cushman, F., Hauser, M., Damasio, A. (2007). Damage to the prefrontal cortex increases utilitarian moral judgements. Nature, 446(7138), 908-911. 28. Greene, J. D. (2007). Why are VMPFC patients more utilitarian? A dual-process theory of moral judgment explains. Trends in cognitive sciences, 11(8), 322-323. 29. McClure, S. M., Botvinick, M. M., Yeung, N., Greene, J. D., & Cohen, J. D. (2007). Conflict monitoring in cognition-emotion competition. Handbook of emotion regulation, 204-226. 30. Paxton, J. M., Ungar, L., & Greene, J. D. (2012). Reflection and reasoning in moral judgment. Cognitive Science, 36(1), 163-177. 31. Dutton, K. (2012). The wisdom of psychopaths: What saints, spies, and serial killers can teach us about success. Macmillan. 62