Các đội bóng thi nhau ra đời, trong đội hình là người Việt, người Hoa, người Âu và Phi. Bóng đá đất Cảng vươn mình khỏi không gian hẹp khi mở đường xuyên Việt vào thi đấu phương nam đầu những năm 1930. Cuộc cạnh tranh bóng đá giữa người Việt, người Hoa với người Tây đã cho ra đời Hội túc cầu giáo Hải Phòng năm 1951-1952 và ra đời đội bóng Voi Vàng Miền Biển nổi tiếng cả Đông Dương. Voi Vàng Miền Biển không chỉ là niềm tự hào của người Hải Phòng, mà chính là bước khởi đầu một truyền thống tốt đẹp cho bóng đá Hải Phòng.
Năm 1955, Hải Phòng giải phóng. Nhiều công trình thể thao - văn hoá được xây dựng mới. Nhiều sân bóng đá thời Pháp thuộc được tu sửa như Máy Tơ, bãi Sông Lấp, Máy Đèn, sân nổi tiếng Bô-nan...tạo điều kiện cho phong trào bóng đá phát triển. 10 năm sau giải phóng, Hải Phòng có 495 đội bóng đá chân đất, chân giầy. Gọi chân đất, chân giầy là sự phân biệt đẳng cấp của các đội. Và trong thời điểm này, xuất hiện hàng loạt các đội bóng chân giày tên tuổi, hùng mạnh trên sân cỏ nước nhà mang mầu xanh áo thợ là Cảng Hải Phòng, Sông Cấm, Xi măng Hải Phòng, Công an Hải Phòng, Điện lực Hải Phòng... Trận đấu còn đọng mãi với người Hải Phòng là trận thắng đậm của đội Hải Phòng trước đội Trần Hưng Đạo (Hà Nội) 13-0 vào chiều 30-9-1956. Trong đội hình Hải Phòng ngày ấy là những tên tuổi lớn, có công đóng góp xây dựng bóng đá Hải Phòng sau này …
Phát huy truyền thống Voi Vàng Miền Biển, 5 đội bóng tiêu biểu của thành phố Hải Phòng là Cảng, Điện, Xi măng, Sông Cấm và Công an đã mang về thành phố nhiều chiến công và thành tích vang dội. Cầu thủ của các đội bóng này đưa bóng đá Hải Phòng sáng bừng như phượng vĩ với những tên tuổi được phong hàm quái kiệt và thiết lập lối chơi đặc trưng riêng Hải Phòng để trở thành trường phái "bóng đá cá sấu". Bóng đá Hải Phòng thập kỷ từ 1968 đến 1993 bóng đá Hải Phòng thăng hoa với hàng loạt đội bóng tên tuổi như Điện, Xi măng, Cảng, Công An mà đỉnh cao là có 7 đội trên tổng số 15 đội tham gia giải A1 toàn quốc. Đây là giai đoạn rực rỡ nhất của bóng đá Hải Phòng với 5 chức vô địch của đội bóng Công An Hải Phòng tiền thân của đội bóng đá Xi măng Hải Phòng ngày nay.
Trải qua bao năm tháng thăng trầm, bao khó khăn trong cuộc sống đời thường, các đội bóng lẫy lừng danh tiếng của Hải Phòng giải tán, bóng đá đỉnh cao Hải Phòng còn mỗi một đội Công an Hải Phòng, nên hễ "hắt hơi sổ mũi" là cả thành phố lo. Đội bóng chưa phát huy được truyền thống Voi Vàng Miền Biển, chưa xứng đáng với Huân chương lao động mà nhà nước trao tặng. Công an Hải Phải từng vô địch miền Bắc, từng đoạt cúp Quốc gia, từng dự cúp C2 châu Á. Nhưng đội cứ quen bài ca trụ hạng và 2 lần xuống hạng trong vòng 8 năm. Thấy không còn phù hợp với bóng đá chuyên nghiệp, Công an thành phố quyết định chuyển giao đội bóng về Sở TDTT Hải Phòng năm 2002.
Trong sự quản lý của Sở TDTT, một đội bóng mới ra đời Thép Việt Úc - Hải Phòng. Nhưng đội bóng cũng không đạt được thành tích tốt vì cơ chế bó. Sau 14 loạt trận đấu tại giải bóng đá chuyên nghiệp Quốc gia Kinh Đô năm 2004, dưới sự dẫn dắt của huấn luyện viên trưởng Trần Văn Phúc, đội Thép Việt úc Hải Phòng thua 10 trận, thắng 3 trận và hoà 1 trận mới có trong tay 10 điểm và tạm đứng thứ 9 của bảng tổng sắp. Trong trận đấu chiều 25/4 trên sân Hàng Đẫy gặp đội chủ nhà Thể Công để thất thủ với tỉ số 1 - 2, đây là trận thua thứ 6 liên tiếp.
Đến năm 2005, bóng đá Hải Phòng có nhà tài trợ mới, đồng nghĩa với một tên gọi mới Mitssustar Hải Phòng (hay Mitssustar Haier Hải Phòng). Mitsustar Haier Hải Phòng đã có những thành tích ấn tượng mùa giải 2005 và đã đăng quang Siêu cúp 2005 sau khi thắng GĐTLA 2-1. Đây có thể xem là một bất ngờ đầu tiên ở mùa bóng 2006 bởi trước trận đấu, GĐTLA được đặt ở cửa trên và đội bóng của HLV Calisto cũng từng đè bẹp Hải Phòng đến 5-0 trong trận chung kết Cúp QG 2005.
Tuy nhiên trong mùa giải bóng đá Vô địch Quốc gia Eurowindow - năm 2006, thì Mitsustar Haier Hải Phòng lại thi đấu không thành công và xếp thứ mười hai chung cuộc phải thi đấu play-off để trụ hạng. Nhưng đội đã không trụ hạng thành công và phải xuống thi đấu ở giải hạng nhất ở mùa bóng 2006-2007.
Năm 2007, thi đấu ở giải hạng nhất, các cầu thủ Mitssustar Haier Hải Phòng khoác trên mình cái tên mới là Vạn Hoa Hải Phòng. Dưới sự chỉ huy của HLV Alberto (Bzaxin) Hải Phòng đã có nhiều thay đổi,Vạn Hoa Hải Phòng đã có một mùa giải quá thành công. Kết thúc giải hạng nhất họ xếp thứ 2 và thăng hạng thành công, “trở lại đúng vị trí của mình” tại giải V-League 2008.
Và từ 16/10/2007 niềm hi vọng, tự hào của người đất Cảng, Vạn Hoa Hải Phòng chính thức đổi tên thành Xi măng Hải Phòng. Như vậy, Xi măng Hải Phòng sẽ thi đấu tại V_League 2008 với sự dẫn dắt của HLV Vương Tiến Dũng, và mục tiêu của CLB tại V_League 2008 là lọt vào top 6 đội mạnh nhất giải.
Những chặng đường phát triển của đội Công an Hải Phòng – tiền thân của đội bóng Xi măng Hải Phòng ngày nay
+ Năm 1968 và 1970: Đoạt chức vô địch hạng A miền Bắc
+ Năm 1992: Vào tứ kết giải Bóng đá hạng mạnh quốc gia và thi đấu trận chung kết với Đà Nẵng trên sân Chi Lăng đoạt Huy chương Bạc.
+ Năm 1993: Bị xuống hạng A1
+ Năm 1995: Lại lên thi đấu giải bóng đá hạng mạnh quốc gia. Đồng thời đoạt Cup và Huy chương vàng Đại hội TDTT Thành phố lần thứ III.
+ Năm 2001: Thi đấu ở giải Bóng đá Chuyên nghiệp quốc gia nhưng thi đấu không thành công và bị xuống hạng A1.
+ Năm 2002: Bị xuống hạng A1. Công an Thành phố chuyển Đội Bóng về Sở TDTT quản lý.