Lý lịch chính thức của ông nói cha mẹ ông là nông dân Tày. Trong một buổi phỏng vấn, Nông Đức Mạnh nói cha ông là Nông Văn Lai và mẹ ông là Hoàng Thị Nhị. Ông sinh ngày 11 tháng 9 năm 1940 ở xã Cường Lợi, huyện Na Rì, tỉnh Bắc Kạn, tham gia hoạt động cách mạng năm 1958, rồi vào Đảng Cộng sản Việt Nam ngày 5 tháng 7 năm 1963.
Từ năm 1958 đến năm 1961, ông học trường Trung cấp Nông lâm Trung ương Hà Nội. Hai năm sau đó, ông là công nhân lâm nghiệp, kỹ thuật viên điều tra rừng Ty Lâm nghiệp Bắc Kạn, sau đó là đội phó đội khai thác gỗ Bạch Thông.
Ông du học tại Học viện Lâm nghiệp Leningrad (nay là Sankt-Peterburg) (Liên Xô) trong giai đoạn 1966 đến 1971. Lý lịch chính thức cho biết ông đang học thì cha mất, nhưng không về chịu tang được. Năm 1972, ông về nước và làm phó ban thanh tra Ty lâm nghiệp tỉnh Bắc Thái (nay tách thành hai tỉnh Bắc Kạn và Thái Nguyên) trong một năm tiếp theo. Từ năm 1973 đến năm 1974, ông làm giám đốc Lâm trường Phú Lương (Bắc Thái).
Ông bắt đầu con đường chính trị với hai năm học, từ 1974 đến 1976, ở Trường Đảng Cao cấp Nguyễn Ái Quốc. Từ năm 1976 đến năm 1980, ông là tỉnh ủy viên, phó trưởng Ty Lâm nghiệp tỉnh Bắc Thái, kiêm chủ nhiệm công ty xây dựng lâm nghiệp rồi trưởng Ty Lâm nghiệp tỉnh Bắc Thái. Ba năm tiếp theo, ông làm tỉnh ủy viên, phó chủ tịch Ủy ban Nhân dân tỉnh Bắc Thái.
Năm 1984, ông đảm nhiệm chức vụ phó bí thư Tỉnh ủy, chủ tịch Ủy ban Nhân dân tỉnh Bắc Thái, cho đến tháng 10 năm 1986. Từ tháng 11 năm 1986 đến tháng 2 năm 1989, ông là bí thư Tỉnh ủy Bắc Thái.
Tại Đại hội đại biểu toàn quốc lần thứ VI của Đảng Cộng sản Việt Nam, ông được bầu làm ủy viên dự khuyết Ban Chấp hành Trung ương Đảng. Tháng 3 năm 1989, tại Hội nghị lần thứ 6 Ban Chấp hành Trung ương (khóa VI), Nông Đức Mạnh được bầu làm ủy viên chính thức Ban Chấp hành Trung ương Đảng. (Xem thêm tại Nguyễn Văn Chi, phần viết cho tháng 12 năm 1986). Tháng 8 cùng năm, ông được phân công làm trưởng Ban Dân tộc Trung ương. Đến tháng 11 năm này, ông được bầu bổ sung đại biểu Quốc hội khóa VIII và được bầu làm phó chủ tịch Hội đồng Dân tộc của Quốc hội.
Tháng 6 năm 1991, tại Đại hội đại biểu toàn quốc lần thứ VII của Đảng Cộng sản Việt Nam, Nông Đức Mạnh được bầu vào Ban Chấp hành Trung ương Đảng và được Trung ương bầu vào Bộ Chính trị.
Tháng 9 năm 1992, ông được bầu làm Chủ tịch Quốc hội khóa IX.
Tháng 6 năm 1996, ông làm ủy viên Bộ Chính trị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa VIII. Tháng 9 năm 1997, ông tiếp tục được bầu làm Chủ tịch Quốc hội khóa X. Tháng 1 năm 1998, ông được phân công làm Thường vụ Bộ Chính trị.
Tháng 4 năm 2001, tại Đại hội Đại biểu toàn quốc lần thứ IX của Đảng, ông được bầu vào Ban Chấp hành Trung ương Đảng, được Ban Chấp hành Trung ương bầu làm Tổng Bí thư Ban Chấp hành Trung ương Đảng.
Tháng 4 năm 2006, ông được bầu lại làm Tổng bí thư, tại Đại hội Đại biểu toàn quốc lần thứ X của Đảng.
Con trai đầu của ông là Nông Quốc Tuấn, Ông Nông Quốc Tuấn giữ chức Phó Bí thư Tỉnh uỷ Bắc Giang
Tin đồn
Con của Hồ Chí Minh
Có tin đồn cha đẻ của Nông Đức Mạnh là Hồ Chí Minh, chứ không phải Nông Văn Lai.
Tháng 4 năm 2001 sau khi ông Nông Đức Mạnh nhậm chức Tổng Bí thư, tại cuộc họp báo sau khi đại hội Đảng bế mạc, một phóng viên của tờ San Jose Mercury News đã đề nghị ông khẳng định tin đồn nói rằng ông là con của Hồ Chí Minh. Ông trả lời: “Ở Việt Nam ai cũng là con cháu Bác Hồ.”
Sau đó, năm 2002, trong cuộc phỏng vấn đầu tiên ông dành cho đại diện báo chí nước ngoài thường trú tại Việt Nam, phóng viên tờ tuần báo Time Asia đã quay lại chủ đề trên và đề nghị ông khẳng định tin đồn. Ông phủ nhận điều này và nói không hiểu được tại sao tin đồn vẫn tồn tại. Ông nói rằng ở Việt Nam ai cũng là con cháu của Hồ Chí Minh và mọi người xem ông Hồ Chí Minh như một người cha. Khi phóng viên hỏi về tên cha mẹ ông thì Nông Đức Mạnh nói cha mình là Nông Văn Lai và mẹ là Hoàng Thị Nhị.
Mẹ là Nông Thị Trưng
Mặc dù thân mẫu của Nông Đức Mạnh là Hoàng Thị Nhị, theo như chính ông nói, tạp chí Thế Giới Mới có ghi trong một chú thích rằng mẹ đẻ của ông là Nông Thị Trưng.
Nông Thị Trưng, tên thật là Nông Thị Ngát, đã có thời gian làm giao liên cho “Già Thu” (bí danh của Hồ Chí Minh) trong khoảng 8 tháng từ năm 1941 đến năm 1942. Tên Trưng của bà do “Già Thu” đặt, có ý muốn bà noi gương Trưng Trắc, Trưng Nhị. Chồng bà là một cán bộ Việt Minh cùng hoạt động những năm 1930, đã mất năm 1986. Bà có bốn người con trai và một người con gái. Bà đã từng làm chánh án Toà án nhân dân tỉnh Cao Bằng và đã mất.
Tuy nhiên, người ta nghi ngờ rằng tin đồn này cũng như nhiều tin thất thiệt khác, là do phía chống đối với Đảng Cộng sản Việt Nam đưa ra để nhằm bôi nhọ Hồ Chí Minh cũng như Đảng Cộng Sản Việt Nam.