Võ Tòng xuất thân từ huyện Thanh Hà, phủ Đông Bình, tỉnh Sơn Đông. Từ nhỏ mồ côi cha mẹ và được anh ruột là Võ Đại Lang nuôi dạy.