Récemment, The New York Times a rendu compte des rencontres de Christopher Olah, cofondateur d’Anthropic, avec des responsables religieux. L’entreprise leur a demandé conseil pour rendre Claude moralement “bon” et les a invités à réfléchir à la possibilité que les modèles d’IA soient conscients. Cet épisode a rappelé une fois de plus aux adeptes de l’altruisme efficace qu’afficher l’intention de faire le bien ne revient pas toujours à le faire.
Olah est l’un des principaux chercheurs qui tentent de comprendre ce qui se passe à l’intérieur des réseaux de neurones. Pour décrire son travail, il recourt à la métaphore du treillage dans un jardin : les ingénieurs bâtissent la structure et créent les conditions propices, mais quelque chose pousse ensuite le long de celle-ci. Il est, en quelque sorte, un jardinier des mathématiques.
