Het huis waarin Willem II in Tilburg woonde, indertijd het ‘oude paleis’ genoemd, stond aan het begin (de noordkant) van wat indertijd de Nieuwe Dijk heette en tegenwoordig de Bisschop Zwijsenstraat is. Iets preciezer: in de buurt van de huidige fontein voor het Paleis Raadhuis. Omdat het ‘oude paleis’ in verval was geraakt, werd het in 1873 afgebroken, maar niet voor dat de Tilburgse fotograaf Van Beurden de sterfkamer gefotografeerd had. De inrichting van de sterfkamer bevindt zich tegenwoordig in Rijksmuseum Paleis Het Loo in Apeldoorn, en in het Koninklijk Stalgebouw en het Koninklijk Huisarchief in Den Haag. In 1874 werd de vijfentwingtigste sterfdag van de koning in Tilburg herdacht door de oprichting van een gedenknaald, ongeveer op de plaats waar de koninklijke woning zich had bevonden. De naald werd ontworpen door Hendrik van Tulder en het beeldhouwwerk werd uitgevoerd door Jozef Geefs. De onthulling vond plaats in aanwezigheid van prins Hendrik (zoon van Willem II). De totale kosten beliepen bijna 10.000 gulden. In 1884 ontving de gemeente Tilburg van prinses Sophia (dochter van Willem II) een bedrag van 800 gulden. Met de rente van dit bedrag werd de gemeente geacht de gedenknaald ‘voortdurend in goeden staat onderhouden’. In mei 1933 werd het monument 12 meter in westelijke richting verplaatst in verband met een reconstructie van het stratenplan. Op die nieuwe plek heeft het tot maart 1968 gestaan.