Được thành lập từ năm 1998, trường TH số 2 Phú Bài được tách ra từ trường cấp 1 Phú Bài. CSVC thiếu thốn, đội ngũ giáo viên đa số lớn tuổi. Hơn 15 năm qua, với sự nỗ lực vươn lên của đội ngũ thầy cô giáo và học sinh, sự chỉ đạo, giúp đỡ tận tình của các cấp lãnh đạo địa phương và ngành giáo dục, đến nay, trường TH số 2 Phú Bài có thể tự hào là đơn vị cấp tiểu học dẫn đầu toàn thị xã. Năm 2006, trường được công nhận trường đạt chuẩn quốc gia mức độ 1, tháng 2/2013 được UBND tỉnh ra quyết định công nhận trường đạt chuẩn quốc gia mức độ 2, là trường TH đầu tiên của thị xã đạt được danh hiệu này. Hiện nay, trường là 1 trong 2 đơn vị có các lớp chất lượng cao của thị xã và là đơn vị dẫn đầu trong thành tích học sinh giỏi của thị xã 3 năm liền, từ 2010 đến 2013. Năm học mới 2013 - 2014, trường TH số 2 Phú Bài có 575 học sinh các cấp theo học, trong đó có 129 học sinh lớp 1. Ngày khai giảng năm học mới, thầy và trò nhà trường TH số 2 Phú Bài quyết tâm hoàn thành xuất sắc nhiệm vụ đề ra, giữ vững danh hiệu trường đạt chuẩn quốc gia mức độ 2.