Cette expression se trouve dès le XVIIe siècle chez Madame de Sévigné, mais son sens originel n'était pas le même. Elle signifiait auparavant "ne pas vivre longtemps". Aujourd'hui, "ne pas faire de vieux os" dans le sens de "mourir jeune" n'est presque plus employé, ayant été remplacé par la signification actuelle : ne pas rester longtemps dans un lieu.