Plus tard, Arthur s’est marié puis s’est établi à Donnybrook, une ville dans une région productrice de fruits dans le sud-ouest de l’Australie-Occidentale. Les habitants le surnommaient « Vieux fou 1914 ! » en raison de sa proclamation zélée des prophéties bibliques qui attiraient l’attention sur cette annéed. Leurs moqueries ont cessé lorsque la Première Guerre mondiale a éclaté. Propriétaire d’un magasin, Arthur prêchait à ses clients. Dans sa vitrine, il mettait des publications bibliques bien en vue. Il y avait placé un écriteau qui proposait la somme de 100 livres à quiconque réussirait à prouver la Trinité, un dogme contraire aux Écritures qu’Arthur rejetait fermement. Jamais personne n’a gagné cet argent !

La maison des Williams accueillait un groupe d’étude de la Bible, et les fidèles de Donnybrook y tenaient leurs offices. Plus tard, Arthur a construit une Salle du Royaume (lieu de culte) en ville ; c’était l’une des premières d’Australie-Occidentale. À près de 80 ans, il enfilait un costume, nouait sa cravate, sellait Doll, son vieux cheval, et s’en allait prêcher dans tout le district de Donnybrook.