Morgan bắt đầu dấn thân vào ngành ngân hàng năm 1857 tại chi nhánh của cha ông ở London. Năm 1858, Morgan đến New York và làm việc cho Ngân hàng Duncan, Sherman & Company. Từ năm 1860-1864, ông làm đại diện cho Công ty J.Pierpont Morgan & Company của cha ông tại New York.