Với tinh thần và quyết tâm thực hiện Nghị quyết của Bộ Chính trị và Chỉ thị của Quân Trung ương, Quân ủy và Bộ Tư lệnh Miền đã khẩn trương tiến hành công tác chuẩn bị chiến dịch. Trung đoàn 1, Trung đoàn 2 bộ binh và các tiểu đoàn trợ chiến lần lượt tập trung về chiến khu Đ; các đơn vị đều được bổ sung quân số, trang bị, được huấn luyện thêm về kỹ thuật, chiến thuật, thi đua quyết tâm đánh giặc lập công. Một số đoàn cán bộ đi nghiên cứu chuẩn bị chiến trường ở hai tỉnh Bà Rịa, Long Khánh và các huyện phía nam tỉnh Bình Thuận. Do lực lượng tham gia chiến dịch dự kiến gần một vạn và thời gian chiến đấu dài, nên nhu cầu về lương thực, đạn dược rất lớn.
Các đoàn hậu cần của ta đã tập trung lực lượng, phương tiện, khẩn trương vận chuyển súng đạn, lương thực từ các căn cứ địa xuống khu vực tập kết chiến dịch. Nhiều cán bộ hậu cần tỏa về các địa phương cùng các hội đồng cung cấp tỉnh, huyện thu mua lương thực, thực phẩm trong dân. Thậm chí, có lực lượng đi sâu vào vùng địch chiếm đóng, vượt qua sự kiểm soát gắt gao của địch để mua gạo, thuốc tây chuyển về các địa điểm quy định bằng nhiều loại phương tiện như xe lam, xe đò, xe bò, xuồng và cả gùi bộ.
Cán bộ binh vận móc nối với một số sĩ quan ngụy, dùng xe nhà binh chở gạo từ Sài Gòn, Bà Rịa ra vùng giải phóng. Mạng lưới quân y dã chiến được tổ chức dựa vào các bệnh xá của tỉnh, huyện. Các đoàn vận tải xây dựng chuẩn bị bến bãi ở Phước Chí, Lộc An để tiếp nhận vũ khí, đạn dược từ miền Bắc chuyển vào. Chỉ trong khoảng hai tháng công tác chuẩn bị hậu cần chiến dịch cơ bản hoàn thành.
Trong khi chiến dịch đang được chuẩn bị khẩn trương, nhiều trận tiến công phối hợp của các đơn vị biệt động, pháo binh vẫn diễn ra nhằm tạo thể tác chiến. Ta đánh vào các căn cứ của địch như khách sạn Caraven, Brin, rạp Kinh Đô, sân Dạ Cầu là những nơi tập trung nhiều sĩ quan và nhân viên kỹ thuật Mỹ; hoặc đánh chìm tàu chở máy bay Cađơ, tập kích sân bay Tân Sơn Nhất, đánh kho xăng Nhà Bè, sân bay Biên Hòa,... gây cho địch nhiều tổn thất lớn về người và phương tiện chiến tranh, làm đảo lộn các kế hoạch hành quân càn quét của địch.
Đặc biệt, trận đánh của chiến sĩ biệt động Nguyễn Văn Trỗi đặt mìn ở cầu Công Lý nhằm giết Bộ trưởng Quốc phòng Mắc Namara tuy không thành nhưng đã làm chấn động dư luận. Những đòn tiến công đó của các lực lượng vũ trang giải phóng đã tạo thuận lợi cho chiến trường miền Đông Nam Bộ chuẩn bị ra quân đánh lớn, tiêu diệt chủ lực ngụy.
Địa bàn tác chiến chủ yếu của chiến dịch Bình Giã gồm các tỉnh Bà Rịa, Long Khánh, Bình Thuận, trải rộng trên diện tích gần 500km2. Đây là vị trí quan trọng của địch, vì nếu Bình Giã bị diệt, chi khu Đức Thạnh và đường 2 bị uy hiếp, thì Bà Rịa sẽ bị chia cắt khỏi Long Khánh và đường 1 - khu vực phòng ngự có tầm chiến lược của chúng - sẽ mất hiệu lực. Ngoài ra, Bình Giã là ấp chiến lược có tới hơn 400 gia đình giáo dân di cư, trong đó hầu hết là gia đình binh sĩ, sĩ quan ngụy thuộc lực lượng biệt động và thủy quân lục chiến. Vì vậy, khi Bình Giã bị tiến công, địch buộc phải điều lực lượng tổng dự bị đến ứng cứu, ta có điều kiện đánh diệt viện ngoài công sự.
Hướng chủ yếu của chiến dịch được xác định là Bà Rịa - Long Khánh; hai hướng phối hợp là Nhơn Trạch, Long Thành (Biên Hoà) và Hoài Đức, Tánh Linh (Bình Thuận). Lực lượng tham gia chiến dịch có Trung đoàn 1, Trung đoàn 2 và Đoàn 80 pháo binh (gồm bốn tiểu đoàn) của bộ đội miền; Tiểu đoàn 500 và Tiểu đoàn 800 chủ lực của Quân khu miền Đông; Tiểu đoàn 186 chủ lực của Quân khu VI; Đại đội 445 bộ đội địa phương Bà Rịa, cùng các lực lượng địa phương huyện và du kích các xã trên địa bàn chiến dịch. Tổng quân số lên tới trên dưới 7.000 người.
Ngày 2 tháng 12 năm 1964, chiến dịch Bình Giã bắt đầu bằng cuộc tiến công của Đại đội 445 bộ đội địa phương Bà Rịa vào lực lượng địch ở trong ấp chiến lược Bình Giã (thuộc chi khu quân sự Đức Thạnh, Bà Rịa). Pháo binh miền tập kích chi khu quân sự Đức Thạnh. Bị tiến công, địch vội dùng máy bay trực thăng đổ Tiểu đoàn 38 biệt động xuống Tây Nam Đức Thạnh nhằm giải vây và khôi phục ấp Bình Giã. Do lực lượng ta ít, địch phản kích quyết liệt, nên trận mở màn ở Bình Giã không thành công. Tuy nhiên, ta vẫn giữ vững quyết tâm, đồng thời điều chỉnh, bố trí lại đội hình và tiếp tục tiến công Bình Giã để thực hiện mục tiêu diệt viện.
Ngày 9 tháng 12, trước sức ép của ta ở Bình Giã, địch phải huy động Chi đoàn 3 thiết giáp (thuộc Trung đoàn 1) theo đường 2 lên giải toả. Trung đoàn 2 của ta ém quân ở núi Nghệ, cách đường 8km, đã tiến hành đánh vận động kết hợp với chia cắt đội hình địch, diệt gọn Chi đoàn thiết giáp, phá hủy 14 xe M113. Nhiều cán bộ, chiến sĩ chiến đấu rất dũng cảm. Đợt một của chiến dịch kết thúc, tinh thần chiến đấu của bộ đội lên cao. Tại bến Lộc An, 44 tấn vũ khí từ miền Bắc đưa vào được tiếp nhận kịp thời để bổ sung trang bị cho các đơn vị tham gia chiến dịch. Và điều quan trọng là ta đã nắm được quy luật hoạt động, cách tổ chức hành quân giải tỏa bằng đường bộ, đường không của địch. Đó là những cơ sở để ta tiếp tục tạo thế nhử địch đến những khu vực lựa chọn, đánh những trận tiêu diệt có ý nghĩa then chốt của chiến dịch.
Đêm 27 tháng 12, đợt hai của chiến dịch bắt đầu. Đại đội 445 được tăng cường thêm một đại đội của Trung đoàn 1 tiến công ấp chiến lược Bình Giã lần thứ hai. Bộ đội ta chiếm được ấp và xây dựng trận địa bám trụ đánh địch phản kích. Ngày 28 tháng 12, địch huy động 24 máy bay lên thẳng vũ trang yểm trợ cho 50 máy bay trực thăng đổ quân của Tiểu đoàn 30 biệt động xuống Tây Nam Đức Thạnh và Tiểu đoàn 33 biệt động xuống Đông Bắc ấp chiến lược Bình Giã. Trung đoàn 1 kịp thời xuất quân tiêu diệt một bộ phận Tiểu đoàn 30 của địch, buộc số còn lại chạy về Đức Thạnh.
Chiều 28, Trung đoàn 1 tạo thế bao vây diệt gọn Tiểu đoàn 33 ngụy và bắn rơi 18 máy bay. Phán đoán địch tiếp tục tăng viện, Bộ Chỉ huy chiến dịch lệnh cho Trung đoàn 1 di chuyển sẵn sàng đón địch. Ngày 30 tháng 12, địch đổ Tiểu đoàn 4 lính thủy đánh bộ xuống tham chiến; đây là lực lượng tổng dự bị chiến lược của địch, rất thiện chiến và cực kỳ hung hãn. Trận đánh vận động kết hợp với bao vây diệt địch của Trung đoàn 1 diễn ra rất ác liệt. Ta và địch giành nhau từng mô đất. Các đơn vị của ta mưu trí chia cắt địch thành nhiều cụm nhỏ để tiêu diệt. Đến 18 giờ, ta tiêu diệt hoàn toàn Tiểu đoàn 4 gồm 600 tên, thu toàn bộ vũ khí. Đây là lần đầu tiên lực lượng vũ trang giải phóng diệt gọn một tiểu đoàn thuộc lực lượng dự bị mạnh của địch.
