1819 yılında, kalabalık bir tüccar ailesinin üçüncü çocuğu olarak New York’ta doğdu. Küçük yaşta geçirdiği kızıl hastalığı yüzünden, görme yetisinin önemli bir bölümünü kalıcı olarak kaybetti. New York’ta başladığı ilkokul eğitimine 1930’dan itibaren Albany’de devam etti. Melville on iki yaşındayken, babası önce iflas etti, sonra hayatını kaybetti. Annesi varlıklı akrabalarından aldığı yardımlarla ailenin geçimini sağlamaya çalıştı. Melville okulu bırakarak tarım işçiliği, banka memurluğu, öğretmenlik gibi işlerde çalışmaya başladı. 1838’de New York’ta bulunan Lansingburgh Akademisi’nde mühendislik öğrenimi gördü. Ertesi yıl New York’tan Liverpool’a giden bir ticaret gemisinde çalışmaya başladı. 1841’de bir balina avı gemisiyle sefere çıktı. Yolculuk sırasında gemiyi terk ederek Markiz Adaları’nda üç hafta boyunca Typee yerlileriyle yaşadı. 1843’te ABD donanmasına katıldı ve ertesi yıl Boston’a geldi. 1845’te, Typee: Polinezya Hayatına Bir Bakış adlı kitabını tamamladı. 1846 yılında yayımlanan eser büyük ilgi gördü. 1847’de yayımlanan Omoo’yla birlikte Melville, bir yazar ve bir maceracı olarak bir anda şöhret kazandı. 1847 yılında Elizabeth Shaw ile evlendi ve üç sene sonra, Massachussetts’ten bir çiftlik satın aldı. Burada geçirdiği yıllarda Redburn: His First Voyage (Redburn’ün İlk Seyahati) ve White-Jacket’ı (Beyaz Ceket) tamamladı, Mardi and the Voyage Thither’ın (Mardi ve Oraya Seyahat) büyük bir kısmını yazdı, aynı zamanda çeşitli dergilere makale, şiir ve kısa öyküler yazmaya başladı. 1849’da yayımlanan Mardi and the Voyage Thither okurları için büyük bir hayal kırıklığı oldu. 1851’de en çok bilinen romanı Moby Dick yayımlandı. Yazar bu eserini ortaya çıkarırken çok sıkı çalışmış olsa da, 1840’larda yakaladığı ilgiyi ve ünü tekrar kazanamadı. Moby Dick ya da ilk yayımlandığı zamanki ismiyle Beyaz Balina, ancak yazarın ölümünden otuz sene sonra başyapıt olarak değerlendirilerek birçok dile çevrilecekti. Melville bu tarihten itibaren yirmi yıl boyunca Pierre, ya da, Belirsizlikler (1852), Israel Potter (1855), The Piazza Tales (Piazza Öyküleri, 1856), The Confidence-Man (Sağlam Adam, 1857) adlı kitaplarını yayımladı. 1863’te New York’a taşındı. 1866’dan itibaren on dokuz sene boyunca New York rıhtımında gümrük müfettişi olarak çalıştıktan sonra 1885’te emekli oldu. 1891’de New York’taki evinde kalp krizi sonucu hayatını kaybetti ve New York Bronx’ta bulunan Woodlawn Mezarlığı’na defnedildi. Ölmeden önce üzerinde çalıştığı Billy Budd, 1924’te yayımlandı.