Les Delines terminaient les sessions de Mr. Luck & Ms. Doom lorsque Willy a introduit un morceau intitulé « Walking With His Sleeves Down ». Amy l'a appris au piano et nous l'avons enregistré en live. Sa version était saisissante mais la chanson ne collait pas tout à fait à l'album, alors ils l'ont mise de côté, tout comme « The Reckless Life », « Dilaudid Diane » (présente dans leurs récents rappels) et « Jumping off in Madras ». La chanson fonctionnait sonorement mais là encore, ce n'était pas tout à fait juste sur le plan des paroles et, une fois l'album terminé, Willy n'a pas pu arrêter d'écrire des chansons pour elle. L'épidémie d'opioïdes aux États-Unis, avec des milliers de jeunes secoués par la dépendance vivant sous des tentes, dans la rue, dans de vieilles voitures et camping-cars, a influencé Luck and Doom, mais encore plus avec The Set Up.