Was ist Ihre erste Erinnerung an einen philosophischen Gedanken?

Im Grundschulalter fragte ich meine Eltern, ob wir den Fliegen nicht wehtun, wenn wir auf sie einschlagen. Sie fliehen und wehren sich ja. Oder dürfte man auf die Nachbarskatzen auch einschlagen, wenn sie so klein wären wie Insekten?

Welchen Philosophen oder welche Philosophin hätten Sie gerne privat gekannt?

Shantideva, der im achten Jahrhundert als buddhistischer Mönch philosophierte und meinte: Glück und insbesondere Leid ist alles, was letztlich zählt, nichtmenschliche Wesen zählen genauso wie menschliche, radikaler Altruismus ist geboten, das Selbst eine Illusion, ebenso der freie Wille, wie wir ihn intuitiv verstehen. Diese Positionen fordern einen heraus. Wie lebt jemand, der wirklich so denkt? Überzeugt bin ich einzig, dass wir das ethische Gewicht des menschlichen wie nichtmenschlichen Leids stark unterschätzen und daran auch einiges ändern könnten.

Hilft Expertise in Ethik, ein besserer Mensch zu werden?

Mir scheint, kritisch-systematisches Nachdenken über Ethik helfe oft dabei, besser zu handeln – wenn nicht uns selbst, dann anderen. Oft erst künftigen Generationen: Nicht wenige Kritiker der Sklaverei zum Beispiel waren selbst Sklavenhalter. Gleichwohl hat ihre Kritik uns mit Verzögerung gesellschaftlich vorangebracht. 

Kritik an der Sklaverei gibt es auch ohne Philosophie. Wofür genau wird das Nachdenken über Ethik gebraucht?

Vor dem Nachdenken ist oft unklar, worin gutes oder gerechtes Handeln überhaupt besteht. Manchmal entdeckt die ethische Reflexion auch ganz neue Fragenkomplexe, die uns intuitiv entgangen waren, ohne die wir aber gar nicht hinreichend bestimmen können, was es überhaupt bedeutet, die Welt für ihre Bewohner besser oder gerechter zu gestalten. Das gilt etwa für Fragen der Populationsethik: Kann es gut oder gerecht sein, wenn wir so handeln, dass die Bewohner der Welt im Durchschnitt oder absolut gesehen glücklicher werden, während die Zahl der Leidenden aber auch ansteigt? Vielleicht war dies der Effekt der industriellen Revolution. Wenn man neben den Menschen auch die Tiere berücksichtigt, überwiegt das Leid inzwischen wohl massiv. Heute stehen wir in verschiedenen Kontexten vor Entscheidungen, die entsprechende Abwägungen erfordern. 

Woran arbeiten Sie gerade?

An einem Buch zur moralischen Aggregation – kann man Individuen bzw. ihre Interessen, Ansprüche und Gründe aufsummieren oder ist in Konfliktfällen anders zu verfahren? Außerdem arbeite ich an Artikeln zu ethisch-politischen Problemen der KI, der Genomik und der Gesundheitsökonomie.

Können Sie ein paar Anwendungsfelder für das Problem des Aggregierens nennen?

Wenn man Ansprüche über Individuen hinweg aufsummieren kann und sollte, hat das zum Beispiel Implikationen für die Programmierung selbstfahrender Autos in Unfallszenarien oder für die Vergabe knapper Spenderorgane. Manche Patienten benötigen ein Herz und eine Lunge zugleich. Rettet man sie, lässt man zwei andere sterben, die je ein Organ benötigen. Sollte in solchen Fällen jeweils die größere Patientenzahl gerettet werden, als geringeres Übel? Oder sollte ein unparteiliches Zufallsverfahren stattfinden, das jedem Patienten die gleiche Rettungschance zukommen lässt? Das Aggregationsproblem wirft auch die Frage auf, ob wir die hunderten Millionen Menschen, die an den Folgen extremer Armut leiden, nicht viel höher gewichten sollten, als wir dies gegenwärtig tun. Dieselbe Frage stellt sich für die Milliarden Tiere, die jährlich geschlachtet werden, und für die womöglich noch viel zahlreicheren künftigen Generationen.

In Berkeley sind Sie am Puls des Silicon Valley. Wie schätzen Sie die aktuelle KI-Entwicklung ein?

Es gibt einigen Hype – und einigen Antihype und Antialarmismus, der auch gefährlich sein kann. Man denke etwa an den Januar 2020, als fast alle deutschen Expertenstimmen (im Widerspruch zu den ostasiatischen und manchen amerikanischen) meinten, es drohe nichts Schlimmes. In der KI-Forschung sind beispiellose Entwicklungen im Gang, mit denen selbst im Valley vor fünf Jahren kaum jemand gerechnet hat.

Welche Entwicklung sollte uns am meisten beunruhigen?

Es ist nicht auszuschließen, dass der menschliche kognitive Output in vielen wirtschaftlichen und wissenschaftlich-technischen Bereichen funktional bald egalisiert und übertroffen wird. Umfragen zeigen, dass eine Mehrzahl der führenden KI-Forschenden dieses Szenario in den kommenden Jahren für mindestens 10 Prozent wahrscheinlich hält (das gilt auch für jene, die akademisch tätig sind und keine industriellen Interessenbindungen haben). Ethisch-politisch wurden die entsprechenden Systemrisiken noch kaum reflektiert.

Worauf kommt es Ihrer Ansicht nach besonders an, wenn man für die Öffentlichkeit schreibt?

Das hängt vom jeweils verfolgten Ziel ab. Wenn öffentliche Philosophie zum Beispiel die demokratische Public Policy mitprägen soll, dann muss sie unter anderem hinreichend schnell sein. Die Eule der Minerva fliegt zu spät, wenn sie erst dann erkenntnistheoretischen und ethischen Input zum Pandemierisiko liefert, wenn es schon zugeschlagen hat. Originalität ist hier weniger wichtig als in explorativen Forschungskontexten. Akkuratheit dagegen ist wichtiger, denn philosophisch (oder empirisch) fehlerhafte Public Policy kann ins Auge gehen. 

Was ist Ihr Lieblingszitat?

In the beginning, the Universe was created. This has made a lot of people very angry and been widely regarded as a bad move.

Douglas Adams!