eBook

Die Gesetze des Denkens

Wenn ich mich mit jemandem nicht über die Gesetze der Logik, der Wahrscheinlichkeitstheorie und der Entscheidungstheorie einigen kann, wird wohl auch eine Diskussion der Singularität mit ihm nicht viel bringen, da er am Ende argumentieren wird, dass menschliche Intelligenz auf magische Weise funktioniert oder dass eine Maschine bei steigender Intelligenz zwangsläufig wohlwollender wird, oder dass es einfach sei, genau zu bestimmen, was Menschen wollen oder ähnliche Torheiten. Wir sollten uns zuerst vergewissern, dass wir bei den Basics einer Meinung sind, bevor wir versuchen, in komplexeren Angelegenheiten übereinzustimmen.

Logik

Glücklicherweise gibt es nicht viele Menschen, die Logik grundsätzlich ablehnen. Genau wie in der Mathematik machen wir gegebenenfalls Fehler aufgrund unserer Ignoranz, doch sobald uns jemand einen Beweis für den Satz des Pythagoras oder die Ungültigkeit des Non Sequitur zeigt, stimmen wir überein. Mathematik und Logik sind deduktive Systeme, in welchen die Konklusion eines gültigen Arguments notwendigerweise aus den Prämissen folgt, wiederum basierend auf den Axiomen des Systems, das man verwendet: Zahlentheorie, Geometrie, Prädikatenlogik etc. (Natürlich kann man der Unsicherheit nicht vollkommen entgehen: Andrew Wiles’ berühmter Beweis von Fermats letztem Satz ist über 100 Seiten lang, also könnte ich mir, selbst wenn ich die komplette Arbeit eigenhändig durcharbeiten würde, nicht sicher sein, ob ich nicht einen Fehler übersehen hätte.)

Warum sollten wir unser Denken von den Gesetzen der Logik leiten lassen? Eigentlich sollte uns das nicht seltsam vorkommen. Die Gesetze der Logik sind in unsere Alltagsprache förmlich eingebettet. Wenn man mir sagt, dass ein Auto zu 100% rot und zur gleichen Zeit und in derselben Weise zu 100% blau ist, liegt das Problem nicht daran, dass man unter “verschiedenen Gesetzen der Logik operiert”, sondern eher dass man verschiedene Sprachen spricht. Wenn ich sage, dass ein Auto zu 100% rot ist, bedeutet das unter Anderem, dass es nicht zur gleichen Zeit auf dieselbe Art zu 100% blau sein kann. Wenn du dieser Aussage widersprichst, dann sprechen wir nicht dieselbe Sprache. Du sprichst eine Sprache, die viele der gleichen Laute und Schreibweisen wie meine verwendet, jedoch nicht dasselbe bedeutet.

Aber Logik ist ein System der Gewissheit, während in unserer Welt die Ungewissheit vorherrschend ist und man von Wahrscheinlichkeiten, nicht von Gewissheiten sprechen muss.

Wahrscheinlichkeitstheorie

Zeige einem Kind zuerst Religion und es wird große Probleme dabei haben, sich wieder von ihr zu lösen, selbst wenn es in Kontakt mit Wissenschaft kommt.
Zeige einem Kind Wissenschaft zuerst und es wird Religion als albern bewerten.

Aus diesem Grund werde ich die korrekte Theorie der Wahrscheinlichkeit zuerst erläutern und später die inkorrekte Variante erwähnen.

Was ist Wahrscheinlichkeit? Es ist ein Maß dafür, wie wahrscheinlich eine Behauptung der Wahrheit entspricht, und zwar auf Grundlage der Ansichten, die man bereits hat. Wie immer auch unsere Wahrscheinlichkeitstheorie beschaffen ist, sie sollte mit dem gesunden Menschenverstand übereinstimmen (z.B.: mit der Logik) und sie sollte in sich selbst konsistent sein (wenn man eine Wahrscheinlichkeit anhand von zwei verschiedenen Methoden berechnen kann, sollten beide die gleichen Ergebnisse liefern).

Mehrere Autoren haben gezeigt, dass die Axiome der Wahrscheinlichkeitstheorie von diesen Annahmen und der Logik abgeleitet werden können. In anderen Worten: Wahrscheinlichkeitstheorie ist einfach eine Erweiterung der Logik. Wenn du Logik akzeptierst und wenn du den oben genannten (sehr minimalen) Annahmen darüber, was Wahrscheinlichkeit ist, zustimmst, dann hast du, ob es dir nun bewusst ist oder nicht, die Wahrscheinlichkeitstheorie anerkannt.

Ein weiterer Grund die Wahrscheinlichkeitstheorie anzuerkennen, ist grob gesagt Folgendes: Angenommen, du hältst dich nicht an die Wahrscheinlichkeitstheorie und bist bereit, auf dieser Grundlage zu wetten, dann könnte jemand, der die Wahrscheinlichkeitstheorie verwendet, dir all dein Geld abnehmen. (Den Beweis findet man in den “Dutch Book”- Argumenten.)

Die vielleicht nützlichste Regel, die man aus den Axiomen der Wahrscheinlichkeitstheorie ableiten kann, ist das Bayestheorem, welches dir genau sagt, wie sich die Wahrscheinlichkeit einer Behauptung aufgrund neuer Indizien verändern sollte. (In der Kognitionswissenschaft der Rationalität sind viele kognitive Verzerrungen durch ihre Verletzungen des Bayestheorems oder der Logik definiert.) Wenn du nicht das Bayestheorem verwendest, um deine Ansichten zu berichtigen, dann verletzt du die Wahrscheinlichkeitstheorie (die, wie erwähnt, eine Erweiterung der Logik ist).

Natürlich ist das menschliche Gehirn zu langsam um den ganzen Tag explizite, bayessche Berechnungen durchzuführen. Du kannst aber mentale Heuristiken entwickeln, die besser darin sind, bayessche Berechnungen zu approximieren als viele unserer angeborenen Heuristiken.

Aber dies ist nicht der richtige Ort für ein Tutorium in Logik oder Wahrscheinlichkeitstheorie oder für ein Training in Rationalität. Ich will einfach nur die wichtigsten Hilfsmittel einführen, die wir verwenden werden, so dass ich später erklären kann, warum ich zu einer bestimmten Schlussfolgerung und nicht einer anderen im Hinblick auf die Singularität gekommen bin. Vielleicht willst du dennoch zumindest diese kurze Einführung in das Bayestheorem lesen, bevor wir fortfahren.

Schließlich schulde ich dir noch eine kurze Erklärung, warum der Frequentismus, die Theorie der Wahrscheinlichkeit, die du wahrscheinlich so wie ich in der Schule gelernt hast, falsch ist. Während der bayessche Wahrscheinlichkeitsbegriff Wahrscheinlichkeit als ein Maß für die Ungewissheit (der eigenen Ansichten) über die Welt ansieht, definiert der Frequentismus die Wahrscheinlichkeit eines Ereignisses als die “relative Häufigkeit, mit der es in einer großen Anzahl gleicher, wiederholter Experimente auftritt.” Ich werde nur zwei Probleme aus einer Liste von mindestens fünfzehn erwähnen, die sich aus dieser Sicht der Dinge ergeben:

  1. Frequentismus leitet sich nicht aus den Gesetzen der Logik ab, und ist nicht widerspruchsfrei. Zwei verschiedene frequentistische Methoden, mit denen man eine Wahrscheinlichkeit berechnen kann, können oft zu unterschiedlichen Antworten führen.
  2. Frequentismus beurteilt Wahrscheinlichkeit nicht nur anhand dessen, was wir wissen, sondern auch anhand einer langen Reihe von hypothetischen “Experimenten”, die wir vielleicht niemals beobachten können, und die nur vage definiert sind. Das bedeutet, dass der Frequentimus auf Empirismus verzichtet.

Wenn Frequentismus falsch ist, warum ist er dann so beliebt? Dafür gibt es viele Gründe, die in diesem Buch über das Bayestheorem besprochen werden. Wie auch immer, wenn ich über Wahrscheinlichkeitstheorie spreche, werde ich mich auf die bayessche Wahrscheinlichkeitstheorie beziehen.

Entscheidungstheorie

Ich habe erklärt, warum es Gesetze des Denkens im Bereich der epistemischen Rationalität (=wahre Ansichten erlangen) gibt, und ich habe auf einige detaillierte Tutorials hingewiesen. Aber wie kann es Gesetze des Denkens geben, die instrumentelle Rationalität betreffen (=optimal die eigenen Ziele erreichen)? Was wir wollen, ist doch subjektiv, und deshalb keinen Regeln unterworfen, oder?

Es stimmt, du kannst beliebig viele Zielen haben. Aber wenn es darum geht, diese Ziele optimal zu erreichen, dann gibt es in der Tat Regeln. Wenn du darüber nachdenkst, sollte es offensichtlich sein. Welche Ziele du auch hast, es gibt immer wahrlich dumme Wege, um diese zu erreichen. Wenn du etwas über die Welt in Erfahrung bringen willst, dann solltest du deinen Kopf nicht in den Sand stecken und dich weigern, dir die Welt auch nur anzusehen. Und wenn du etwas in dieser Welt erreichen willst, solltest du vermutlich nicht deinen ganzen Körper paralysieren, solange eine Lähmung nicht dein einziges Ziel ist.

Lass uns mehr ins Detail gehen. Entscheidungstheorie bedeutet das Wählen zwischen verschiedenen Handlungsmöglichkeiten, basierend darauf, wie sehr du dir die möglichen Resultate dieser Handlungen wünscht.

Wie funktioniert das? Wir können das, was du willst, mittels einer sogenannten Nützlichkeitsfunktion beschreiben, welche jedem möglichen Ereignis (oder einer “detaillierten Beschreibung einer möglichen Zukunft”) eine Zahl zuweist, die repräsentiert, wie sehr du dir dieses Ereignis wünscht. Vielleicht hat ein Löffel Eiscreme 40 “Utils” für dich, während der Tod deiner Tochter -274,000 Utils hat, und so weiter. Diese numerische Repräsentation von allem, das dir wichtig ist, ist deine Nützlichkeitsfunktion.

Wir können deine probabilistischen Ansichten und deine Nützlichkeitsfunktion kombinieren, um den Erwartungswert jeder möglichen Handlung zu berechnen. Der Erwartungswert einer Handlung ist der durchschnittliche Nutzen aller möglichen Konsequenzen dieser Handlung, gewichtet nach den Wahrscheinlichkeiten mit der diese Konsequenzen eintreten.

Angenommen, du gehst zusammen mit deiner Tochter neben einer Autobahn spazieren. Du kannst ein Eiscafe auf der anderen Seite der Autobahn sehen, aber du hast vor kurzem dein Bein verletzt und bist somit nicht in der Lage, die Autobahn zügig zu überqueren. Wenn du deine Tochter schickst, um dir Eis zu holen, gibt es nach deinem Kenntnisstand eine Wahrscheinlichkeit von 60%, dass du Eiscreme bekommst, eine Wahrscheinlichkeit von 5%, dass dein Kind von einem rasenden Auto getötet wird, und andere Wahrscheinlichkeiten für weitere Ereignisse.

Um den Erwartungwert zu berechnen, der sich ergibt, wenn du deine Tochter über die Autobahn schickst, multiplizieren wir den Nutzen des ersten Ereignisses mit seiner Wahrscheinlichkeit: 0.6 * 40 = 24. Dann addieren wir das Produkt des Nutzens und der Wahrscheinlichkeit des nächsten Ereignisses: 24 + (0.05 * -274,000) = -13,676. Wir wollen weiters annehmen, dass die Summe der Produkte der Nutzenwerte und Wahrscheinlichkeiten der anderen möglichen Ereignisse zusammen Null ergeben. Der Erwartungswert, der sich ergibt, wenn du deine Tochter über die Autobahn schickst ist damit sehr gering (wie wir aufgrund gesunden Menschenverstandes erwarten würden). Du solltest wahrscheinlich eine der anderen Handlungsmöglichkeiten wählen, beispielsweise deine Tochter nicht über die Autobahn zu schicken – oder eine Handlung mit einem noch größeren Erwartungswert.

Ein rationaler Akteur zielt darauf ab, seinen Erwartungswert zu maximieren, da er so im Durchschnitt das Optimum von dem erreicht, was er, abhängig von seinen Ansichten und Wünschen, will.

Es erscheint einleuchtend, dass ein rationaler Akteur seinen Erwartungswert maximieren sollte, aber warum ist dies der einzige rationale Weg um Dinge zu tun? Warum sollte man nicht versuchen, die schlimmsten Verluste zu minimieren? Warum sollte man nicht versuchen, die gewichtete Summe der dritten Potenz des möglichen Nutzens zu maximieren?

Die Begründung für das Prinzip, nach dem man den “Erwartungswert maximieren” soll, wurde in den 1940er Jahren von Von Neumann und Morgenstern zum ersten Mal formuliert. Kurz gesagt haben sie bewiesen, dass, unter der Annahme einiger Axiome über Präferenzen, ein Akteur nur dann konsistent gemäß den eigenen Präferenzen handeln kann, wenn er die Handlung wählt, die den Erwartungswert maximiert.

Was sind diese Axiome? Sie sind, genau wie die Axiome der Wahrscheinlichkeitstheorie, einfach und intuitiv einleuchtend. Eines ist zum Beispiel das “Axiom der Transitivität”, welches besagt, dass ein Akteur A gegenüber C vorziehen muss, falls er A gegenüber B vorzieht und B gegenüber C vorzieht. Dieses Axiom ist durch den Umstand motiviert, dass jemand, der non-transitive Präferenzen besitzt, um sein ganzes Geld betrogen werden kann, selbst dann, wenn er nur Tauschhandlungen vornimmt, die er bevorzugt.

Ich werde hier nicht auf die Details eingehen, da dieses Ergebnis weithin akzeptiert wird: Ein rationaler Akteur maximiert den Erwartungswert.

Unglücklicherweise sind Menschen keine rationalen Wesen. Wie wir im nächsten Post sehen werden, sind Menschen sogar wahnsinnig.