Kürzlich berichtete The New York Times über Treffen des Anthropic-Mitgründers Christopher Olah mit religiösen Würdenträgern. Das Unternehmen suchte Rat, wie sich Claude in moralischer Hinsicht „gut“ machen ließe, und bat sie, der Frage nachzugehen, ob KI-Modelle ein Bewusstsein haben könnten. Diese Episode führte den Anhängern des effektiven Altruismus einmal mehr vor Augen, dass die erklärte Absicht, Gutes zu tun, nicht immer mit gutem Handeln gleichzusetzen ist.
Olah gehört zu den führenden Forschern, die zu verstehen versuchen, was im Inneren neuronaler Netze geschieht. Er beschreibt seine Arbeit anhand des Bildes eines Rankgitters im Garten: Ingenieure bauen das Gerüst und schaffen die Voraussetzungen, doch dann wächst daran etwas empor. In gewisser Weise ist er ein mathematischer Gärtner.
