Trước yêu cầu cấp bách của nhiệm vụ, Thành đội quyết định rút 3 đại đội bộ đội địa phương huyện, gồm: Đại đội 7, Đại đội 25, Đại đội 3, du kích các xã của huyện Củ Chi; một số cán bộ, chiến sĩ ở các cơ quan, đơn vị và bộ đội địa phương thành lập thêm một trung đoàn để tham gia chiến dịch giải phóng Sài Gòn-Gia Định. Vì lẽ đó, Trung đoàn Gia Định 2 đã được thành lập ngày 14-4-1975 trên quê hương Củ Chi “Đất thép thành đồng” và được gọi với cái tên thân thương “Trung đoàn Củ Chi đất thép”. Khi mới thành lập, đơn vị có 768 cán bộ, chiến sĩ, biên chế thành 3 tiểu đoàn, 3 cơ quan và 4 đơn vị trực thuộc: Đại đội Trinh sát, Đại đội Cối, Đại đội Thông tin, Đội Nữ du kích)
Với hầu hết cán bộ, chiến sĩ là con em của huyện Củ Chi, Trung đoàn Gia Định 2 đã phát huy truyền thống cách mạng của nhân dân và lực lượng vũ trang “Đất thép” là “Kiên cường bám trụ, tự lực, tự cường, chiến đấu sáng tạo, thắng lợi vẻ vang”. Đơn vị đã dũng cảm chiến đấu, tiêu diệt và bắt sống hàng nghìn tên địch, hoàn thành xuất sắc nhiệm vụ được giao, cùng các đơn vị bạn đánh địch ở trục đường 15, giải phóng đồn Tổng Khôn, bót Chợ Tân Thạnh Đông, thị trấn Hóc Môn, thành Quan 5, quân trường Quang Trung, đánh chiếm Tòa hành chính tỉnh Gia Định... Thành tích và chiến công oanh liệt của Trung đoàn Gia Định 2 đã góp phần xứng đáng vào thắng lợi của cuộc kháng chiến chống đế quốc Mỹ xâm lược, giải phóng hoàn toàn miền Nam, thống nhất đất nước.
Những ngày đầu giải phóng, Trung đoàn Gia Định 2 đã hoàn thành xuất sắc nhiệm vụ quân quản, truy quét tàn quân địch, tham gia xây dựng và bảo vệ chính quyền cách mạng, khắc phục hậu quả chiến tranh, tham gia chiến dịch X1 (cải tạo hạ sĩ quan, binh sĩ quân đội Sài Gòn) và X2 (cải tạo tư sản mại bản). Khi chiến tranh biên giới xảy ra, trung đoàn nhận nhiệm vụ chiến đấu ở biên giới Tây Nam của Tổ quốc và bảo vệ vững chắc tuyến biên giới Việt Nam-Campuchia-Lào kéo dài từ các tỉnh Tây Nguyên đến các tỉnh: Bình Phước, Tây Ninh, Long An, Đồng Tháp, An Giang và Hà Tiên.
Sau khi hoàn thành nhiệm vụ chiến đấu bảo vệ biên giới Tây Nam, Trung đoàn Gia Định 2 tiếp tục làm nhiệm vụ quốc tế tại Campuchia. Cán bộ, chiến sĩ của đơn vị đã trải khắp vùng biên giới Tây Bắc nước bạn, chiến đấu ở những địa bàn nóng bỏng nhất là: Pailin, Mohon, Cầu Cháy, Caomelai, Tracong Krao, Phum Kốp, Mỏ Vẹt, Poipet, Đăngcum, Ampin, núi Hồng... Trong thời gian làm nhiệm vụ quốc tế, dù đứng trong đội hình Đoàn 72 hay trong đội hình Sư đoàn 5, chiến đấu độc lập hay chiến đấu tập trung, đơn vị luôn hoàn thành xuất sắc mọi nhiệm vụ được giao, góp phần bồi đắp thêm tình đoàn kết chiến đấu chống kẻ thù chung của hai dân tộc Việt Nam-Campuchia.
Tính từ ngày 14-4-1975 cho đến khi có quyết định giải thể vào ngày 18-6-1984, Trung đoàn Gia Định 2 đã mang nhiều phiên hiệu, như: Trung đoàn Gia Định 2, Trung đoàn 2 Công an nhân dân vũ trang, Trung đoàn 688 (Bộ đội Biên phòng trực thuộc Mặt trận 479). Đơn vị luôn hoàn thành xuất sắc mọi nhiệm vụ được giao và trưởng thành về mọi mặt. Trung đoàn Gia Định 2 cũng trở thành một trong những đơn vị vũ trang có lịch sử xây dựng và chiến đấu khá đặc biệt, độc đáo so với các đơn vị vũ trang khác.
Những năm chiến đấu bảo vệ Tổ quốc và làm nhiệm vụ quốc tế, hàng trăm cán bộ, chiến sĩ của đơn vị đã ngã xuống, hay hy sinh một phần xương máu cho độc lập, tự do.
Hơn 9 năm xây dựng, chiến đấu và trưởng thành, nhiều cán bộ, chiến sĩ của trung đoàn đã trở thành những cán bộ lãnh đạo, chỉ huy cao cấp của quân đội; nhiều đồng chí sau khi rời quân ngũ đã trở thành những doanh nhân thành đạt, những cán bộ địa phương gương mẫu.
Thời gian hơn 9 năm không phải là dài so với lịch sử phát triển của các đơn vị trong Quân đội nhân dân Việt Nam và Công an nhân dân, nhưng Trung đoàn Gia Định 2 đã xây dựng nên một truyền thống quý báu của đơn vị mình, đó là: “Sẵn sàng nhận và hoàn thành mọi nhiệm vụ được giao, kiên cường chịu đựng mọi khó khăn gian khổ, chủ động, mưu trí, dũng cảm, sáng tạo trong chiến đấu”. Năm tháng rồi sẽ qua đi, nhưng truyền thống vẻ vang của “Trung đoàn Củ Chi đất thép” sẽ còn đọng mãi trong trái tim và niềm tự hào của đồng bào, đồng chí ở “TP Hồ Chí Minh rực rỡ tên vàng” và của cả “Miền Nam thành đồng Tổ quốc”. Đó là động lực để khơi dậy ý chí phấn đấu, sự quyết tâm để chúng ta thực hiện tốt mục tiêu xây dựng miền Nam, xây dựng đất nước Việt Nam ngày càng hùng cường.
Thiếu tướng NGUYỄN VĂN NAM, Tư lệnh Bộ tư lệnh TP Hồ Chí Minh