Calvin Klein sinh ra trong một gia đình nhập cư Hungary gốc Do Thái và từ nhỏ đã có niềm đam mê thời trang. Sau khi tốt nghiệp Học viện Công nghiệp thời trang New York vào năm 20 tuổi, ông mở công ty riêng để có thể thỏa sức thiết kế những mẫu thời trang độc đáo.

Ông theo học việc tại Dan Millstein, một nhà sản xuất thời trang công nghiệp vào năm 1962, và sau đó trải qua năm năm thiết kế tại cửa hàng New York khác. Năm 1968, ông thành lập công ty đầu tiên của mình với một người bạn thời thơ ấu, Barry K. Schwartz. Năm 1973, tên tuổi của ông mới thực sự được biết đến trong ngành thời trang của nước Mỹ. Klein nhanh chóng trở thành con cưng của làng thời trang ưu tú New York ngay cả trước khi thành công với sự ra mắt của dòng quần jean đầu tiên của mình. Klein ngay lập tức được công nhận tài năng sau khi trình diễn BST lần đầu tại Tuần lễ thời trang New York. Klein được ca ngợi là một Yves Saint Laurent mới, và nổi tiếng với dòng thời trang đơn giản, thanh lịch theo phong cách minimalism.

Năm 1974, Klein thiết kế mẫu quần jean bó sát, nhanh chóng trở thành mặt hàng nổi bật nhất, thu về 200,000 đô doanh số bán hàng chỉ trong tuần đầu tiên. Trong cùng năm đó Klein cũng đã trở thành nhà thiết kế đầu tiên nhận giải nhà thiết kế nổi bật của cả dòng thời trang nam và nữ của CFDA. Năm 1983, Klein đã được đưa vào Danh sách mặc đẹp nhất quốc tế. Cũng trong năm 1981, 1983 và 1993, ông đã nhận được giải thưởng danh giá từ Hội đồng thời trang thiết kế của Mỹ.

Từ năm 1980 đến 2003, Calvin Klein liên tiếp cho ra những bộ sưu tập làm rúng động làng thời trang với biểu tượng gợi tình đầy quyến rũ. Cho đến nay ở tuổi 70, Calvin Klein đã trở thành một trong những nhà thiết kế thời trang có ảnh hưởng và thành công nhất trên thế giới.