Jim Marshall naît le 3 février 1936 à Chicago, d'un père peintre en bâtiment et d'une mère salariée dans une blanchisserie. La famille déménage rapidement à San Francisco. Enfant, il prend ses premières photos avec un Kodak Brownie. À 23 ans, il acquiert son premier appareil, un Leica M2. Il photographie alors les artistes et les musiciens qui se produisent dans un San Francisco en pleine effervescence.