Recientemente, The New York Times informó sobre las reuniones de Christopher Olah, cofundador de Anthropic, con líderes religiosos. La empresa buscaba asesoramiento para hacer que Claude fuera moralmente “bueno” y les pidió que reflexionaran sobre la posibilidad de que los modelos de IA tuvieran conciencia. El episodio volvió a recordar a los partidarios del altruismo eficaz que declarar la intención de hacer el bien no siempre equivale a hacerlo.
Olah es uno de los principales investigadores que tratan de comprender qué ocurre dentro de las redes neuronales. Describe su trabajo mediante la metáfora de una celosía de jardín: los ingenieros construyen la estructura y crean las condiciones, pero después algo crece junto a ella. Es, en cierto modo, un jardinero matemático.
