Alton Glenn Miller sinh ngày 01/03/1904 tại Clarinda, bang Iowa. Gia đình ông sau đó chuyển đến Nebraska, rồi Missouri và cuối cùng là Fort Morgan, Colorado. Thời gian sống ở North Platte, Nebraska, Glenn bắt đầu làm quen với âm nhạc khi bố của ông mang về nhà cây đàn mandolin, Glenn sau đó đổi cây đàn này để lấy chiếc kèn trombon cũ kĩ, méo mó và luyện tập bất cứ khi nào có thể.