Джон Болдуин (John Baldwin) родился 3 января 1946 года в Сид-капе, графство Кент. Его отец был профессиональным музыкантом — пианистом и аранжировщиком, в прошлом работал с большими джазовыми оркестрами. Джон Пол начал учиться музыке с трех лет, прошел курс углубленного изучения теории музыки и гармонии.
Вскоре он стал регулярно играть на органе в местной протестантской церкви. Поскольку мальчик показал себя талантливым музыкантом, отец периодически привлекал его к выступлениям (в виде семейного дуэта) на вечеринках, свадьбах и т. д. Через какое-то время Джона особо заинтересовали басовые партии аранжировок, и он до максимума выкручивал регулятор басового тембра на радиоприемнике, внимательно вслушиваясь в басовые ходы, которые потом старательно имитировал. В 13 лет мальчик уговорил отца купить ему бас-гитару, овладеть которой в свете уже имеющихся у него музыкальных знаний было не так уж сложно…
Джон Болдуин поступил в христианский колледж, находившийся в Блэкенхите. Надо заметить, что вырос он в весьма религиозной семье, был приверженцем семейных ценностей, и это нашло свое отражение во время некоторых событии, происходивших в «Led Zeppelin».