Vào cuối thập niên 90 của thế kỷ trước, khi đường lối đổi mới của Đảng bắt đầu phát huy tác dụng tới toàn bộ đời sống kinh tế - xã hội của đất nước, nguồn vốn đầu tư trực tiếp và gián tiếp từ nước ngoài vào Việt Nam gia tăng mạnh mẽ. Đứng trước yêu cầu của nền kinh tế thị trường cần phải có những doanh nghiệp xây dựng mạnh, có nguồn lực tập trung cả về quy mô quản lý và cơ cấu tổ chức để đủ sức đảm nhận các công việc trong tình hình mới, hợp tác để tạo sức cạnh tranh giữa các doanh nghiệp lớn trong nước với nhau, đặc biệt là cạnh tranh với các doanh nghiệp nước ngoài.
Thời điểm này, tại Bộ Công nghiệp nay là Bộ Công Thương và các đơn vị trong Ngành đang tồn tại nhiều doanh nghiệp xây lắp quy mô nhỏ, cơ cấu tổ chức phân tán, dàn trải. Đứng trước thực tế đó, nhằm thực hiện mục tiêu thống nhất ngành nghề xây dựng công nghiệp và phát suy sức mạnh tổng hợp, tiên phong trong việc thi công các công trình của Ngành trong giai đoạn mới, Lãnh đạo Bộ Công nghiệp đã có chủ trương thành lập một Tổng công ty chuyên ngành về Xây dựng công nghiệp.
Từ chủ trương đó, ngày 15 tháng 9 năm 1998, Thủ tướng Chính phủ đã ký Quyết định số 74/1998/QĐ-TTg về việc phê duyệt phương án thành lập Tổng công ty Xây dựng công nghiệp Việt Nam theo đề nghị của Bộ trưởng Bộ Công nghiệp. Tiếp đó, ngày 22 tháng 9 năm 1998, Bộ trưởng Bộ Công nghiệp đã ký Quyết định số 63/1998/QĐ-BCN chính thức thành lập Tổng công ty Xây dựng công nghiệp Việt Nam trên cơ sở hợp nhất các đơn vị xây lắp thuộc Tổng công ty Điện lực Việt Nam, Tổng công ty Hóa chất Việt Nam, Tổng công ty Thép Việt Nam và các Công ty xây dựng chuyên ngành thuộc ngành Công nghiệp Việt Nam.
Bộ trưởng Bộ Công nghiệp Đặng Vũ Chư chúc mừng Ban Lãnh đạo Tổng công ty trong Lễ ra mắt năm 1998
Tổng công ty Xây dựng công nghiệp Việt Nam được thành lập đến nay gần 20 năm, nhưng thực tế nhiều đơn vị thành viên thuộc Tổng công ty đã có truyền thống trên nửa thế kỷ xây dựng và phát triển, đó là những lực lượng CBCNV và người lao động đã tham gia thi công và hoàn thành hàng nghìn công trình công nghiệp, điện, cơ khí, hoá chất, công trình dân dụng, hạ tầng cơ sở, thủy lợi, giao thông… đóng góp to lớn vào quá trình đấu tranh giải phóng dân tộc, tái thiết đất nước và sự nghiệp công nghiệp hoá, hiện đại hoá sau này.
Các công trình lớn, tiêu biểu có thể kể như: Công trình Nhà máy Gang thép Thái Nguyên, Mỏ Thiếc Cao Bằng, Mỏ Thiếc Quỳ Hợp - Nghệ An, Nhà máy Suppe phốt phát và Hoá chất Lâm Thao; Nhà máy Apatít Lào Cai; Nhà máy Phân đạm và Hoá chất Hà Bắc; Nhà máy Hoá chất Việt Trì; Nhà máy dệt Nam Định, Dệt Việt Trì; Nhà máy giấy Bãi Bằng, Giấy Hoàng Văn Thụ; Các Nhà máy thuộc Công ty Sữa Việt Nam; Tổ hợp Cao su - Xà phòng - Thuốc là Hà Nội, Nhà máy Cơ khí Trần Hưng Đạo, Nhà máy Cơ khí Hà Nội, Nhà máy Trung đại tu ôtô – máy kéo Cẩm Phả… Đặc biệt là hàng nghìn km đường dây và trạm điện từ 110 kV đến 500 kV trải dài trên khắp chiều dài đất nước, trong đó có hệ thống đường dây siêu cao áp 500 kV Bắc - Nam được các Công ty xây lắp đường dây và trạm điện chuyên ngành thi công hoàn thành đúng tiến độ vào những năm đầu của thập niên 90, đưa dòng điện từ Hoà Bình vào miền Nam thân yêu, nối huyết mạch điện 2 miền đất nước, góp phần to lớn vào công cuộc điện khí hoá, hiện đại hoá đất nước.
Trải qua trên 50 năm xây dựng và phát triển, lực lượng Xây lắp công nghiệp đã được tôi luyện và trưởng thành trong bom rơi đạn nổ của cuộc chiến tranh chống Đế quốc Mỹ xâm lược; trong khó khăn, gian khổ của thời kỳ bao cấp; đến những năm tháng thử lửa, cạnh tranh khốc liệt của cơ chế thị trường và hội nhập kinh tế như ngày nay. Các nhóm đơn vị chuyên ngành như: Xây lắp điện; Xây lắp công nghiệp và dân dụng; Xây lắp hóa chất; Chế tạo thiết bị cơ khí; Sản xuất công nghiệp… đã ổn định về tổ chức, từng bước phát huy được vai trò và ưu thế trên thị trường, sau khi được hợp nhất về Tổng công ty lại càng có cơ hội để tăng cường sự hợp tác, chia sẻ, hỗ trợ nhau, cộng với một thị trường truyền thống có sẵn đã là những tiền đề thuận lợi để Tổng công ty Xây dựng công nghiệp Việt Nam duy trì sự ổn định và phát triển ngay từ những năm đầu thành lập.
Sau gần 20 năm xây dựng và phát triển, được sự quan tâm tạo điều kiện của Đảng, Nhà nước, Chính phủ, của Cơ quan chủ quản là Bộ Công nghiệp nay là Bộ Công Thương cùng các Bộ, Ban ngành Trung ương và các địa phương, sự ủng hộ, tin tưởng và hợp tác của các đơn vị, đối tác trong và ngoài ngành, sự đoàn kết và nhất trí từ Lãnh đạo Tổng công ty đến toàn thể CBCNV các đơn vị thành viên, vị thế của Tổng công ty đã được nâng cao một bước trên thị trường xây lắp cả nước. Các chỉ tiêu kế hoạch hàng năm đều được hoàn thành và hoàn thành vượt mức.
Quá trình hình thành và phát triển Tổng công ty Xây dựng công nghiệp Việt Nam nay là Tổng công ty cổ phần Xây dựng công nghiệp Việt Nam có thể chia thành các giai đoạn:
