Sự khác biệt giữa Trung Quốc và Việt Nam về Campuchia và Hoàng Sa đã không thể hàn gắn và làm cho Hoàng Văn Hoan không còn có thể đóng vai trò trung gian thành công. Lê Duẩn và các đồng chí kết luận họ không còn cần ông nữa. Những liên lạc của ông với Bắc Kinh nay bị xem là rủi ro an ninh. Năm 1976 khi quan hệ Việt Nam – Trung Quốc xấu đi và không thể hàn gắn về vấn đề Campuchia và Hoàng Sa, khi đó Hoàng Văn Hoan theo đường lối Mao Trạch Đông, hoàn toàn ủng hộ phái bảo thủ tại Trung Quốc nên năm 1976, ông bị loại ra khỏi Ban Chấp hành Trung ương Đảng. Năm 1979, khi xung đột Việt – Campuchia và Việt – Trung lan rộng thành chiến tranh, vị trí của Hoan càng trở nên bấp bênh. Ngày 11/6/1979, lấy cớ sang Cộng hòa Dân chủ Đức để chữa bệnh, với sự giúp sức của tình báo Trung Quốc, ông đã bỏ trốn tại sân bay Karachi (Pakistan) rồi sang Bắc Kinh. Truyền thông Việt Nam lúc đó đã so sánh Hoàng Văn Hoan với Lê Chiêu Thống, Trần Ích Tắc. Đó là thời điểm quan hệ Việt – Trung căng thẳng khi Trung Quốc xua quân xâm lược Việt Nam hồi đầu năm. Không lâu sau, nhà nước Việt Nam lần lượt hủy bỏ các chức vụ và xóa Đảng tịch Đảng cộng sản Việt Nam của Hoan. Ngày 26 tháng 6 năm 1980, Việt Nam tuyên bố xử tử hình vắng mặt Hoàng Văn Hoan.