Nguyễn Huỳnh Đức sinh năm 1748 tại trấn Định Tường (nay là thành phố Tân An, Long An). Ông vốn người họ Huỳnh tên Tường Đức, sau theo phò chúa Nguyễn lập nhiều công lớn, được ban họ của vua.

Theo sách "Việt sử giai thoại", là con võ tướng, Huỳnh Đức có cha và ông nội đều theo nhà Nguyễn, được phong cai đội. Ông được sử cũ mô tả là "dung mạo khôi ngô, khoẻ mạnh hơn người, ai cũng coi là hổ tướng".

Ông cùng Lê Văn Duyệt, Nguyễn Văn Trương, Đỗ Thành Nhơn, Trương Tấn Bửu được người đời suy tôn là "Ngũ hổ tướng Gia Định".

Ban đầu, ông là tướng của Đỗ Thành Nhơn, thủ lĩnh quân Đông Sơn ở Gia Định. Sau này, Đỗ Thành Nhơn bị hại, Nguyễn Huỳnh Đức vẫn được tin dùng. Sách "Đại Nam chính biên liệt truyện" chép rằng khi vua tôi nhà Nguyễn phải bỏ chạy vì bị quân Tây Sơn đánh cho thua tan tác ở Sài Gòn, Nguyễn Huỳnh Đức vẫn chạy theo cứu giá.

Vua muốn lội lên bờ để tránh, nhưng Nguyễn Huỳnh Đức nghĩ rằng sông ấy có nhiều cá sấu rất nguy hiểm, cố xin Nguyễn Ánh bình tĩnh để xem hư thực thế nào. Sau nhìn kĩ mới biết, đó chỉ là đàn cò trắng đang đậu trên cây dọc bờ sông.

Vừa sợ bị truy kích vừa mệt mỏi, giữa đêm vua gối đầu vào đùi Huỳnh Đức ngủ. Hổ tướng cứ thế xua muỗi suốt đêm cho vua vừa canh chừng động tĩnh. Gia Long sau đó khen Nguyễn Huỳnh Đức là người có lòng trung quân.

Năm 1783, Nguyễn Huỳnh Đức thua trận, bị quân Tây Sơn bắt cùng 500 thuộc hạ. Quang Trung - Nguyễn Huệ thấy ông khỏe mạnh, muốn thu dùng nhưng ông chỉ một lòng với Nguyễn Ánh, luôn nuôi ý trốn về.

Thời gian lưu lại doanh trại của Nguyễn Huệ, do nhớ thương chủ cũ nên trong lòng ông thường phẫn uất. Một đêm mơ ngủ, Nguyễn Huỳnh Đức quát mắng Nguyễn Huệ rất to. Quân tướng giận, muốn đem giết nhưng vị anh hùng áo vải cho là lời trong giấc ngủ, không nỡ bắt tội.

Nguyễn Huệ còn cho nhiều châu ngọc, muốn tỏ sự hậu đãi để lôi kéo nhưng Huỳnh Đức vẫn không suy chuyển. Ông lập lời thề với Quang Trung rằng, chỉ giúp đánh họ Trịnh chứ không quay giáo đánh chúa Nguyễn. Vị anh hùng Tây Sơn vì thế càng mến tài trung nghĩa của ông.

Ba năm sau, Quang Trung - Nguyễn Huệ dẫn quân ra Bắc đánh họ Trịnh, đưa Nguyễn Huỳnh Đức theo. Khi về, ông được để lại giữ đất Nghệ An cùng tướng trấn thủ Nguyễn Văn Duệ. Người này vốn là thuộc hạ của Nguyễn Nhạc nên không thích ở dưới quyền của Nguyễn Huệ.

Nguyễn Huỳnh Đức nhân đó lập mưu bảo Nguyễn Văn Duệ theo đường tắt trong rừng lẻn về Quy Nhơn với Nhạc. Duệ tin lời, đem hơn 5.000 quân theo đường rừng vào Nam. Khi đi, Duệ sai ông đi trước mở đường. Được hơn mười ngày, Nguyễn Huỳnh Đức cho người đến tạ ơn Nguyễn Văn Duệ rồi đưa thuộc hạ sang hướng khác, tránh Duệ mang quân truy đuổi.

Suốt chặng đường rừng hiểm trở, mất nhiều thời gian nên lương cạn, quân sĩ phải ăn lá cây. Sau cùng ông đến được Xiêm La (Thái Lan) nhưng bấy giờ, Nguyễn Ánh đã mang quân về lại Gia Định.

Thấy ông là mãnh tướng, vua Xiêm La muốn giữ lại, Nguyễn Huỳnh Đức thề là thà chết chứ không chịu, nhân đó lại kể nỗi gian nan đi tìm chủ, khiến khí uất ngùn ngụt bốc lên mà thổ ra một hòn máu. Vua Xiêm La thấy không thể ép buộc được, cũng trọng mà cấp thuyền cho về.

Tìm về được với Nguyễn Ánh, năm 1799, ông được thăng chức Chưởng quản Hữu quân dinh, ra đánh lấy được Phan Rí. Ông cũng dẫn quân tham chiến trận Thị Nại, chiếm thành Quy Nhơn giúp Nguyễn Ánh xoay chuyển cục diện chiến trường. Sau khi chiếm được Phú Xuân, Nguyễn Ánh giao ông trấn giữ thành Quy Nhơn.

Khi Ánh lên ngôi, Nguyễn Huỳnh Đức được phong Quận công. Năm 1810, ông được làm Tổng trấn Bắc thành kiêm Khâm sai Chưởng tiền quân. Sáu năm sau, ông làm Tổng trấn Gia Định cùng với Hiệp Tổng trấn Trịnh Hoài Đức, cai quản toàn miền Nam.