高雄市立圖書館成立於民國43年，服務據點遍佈各行政區，除提供書刊閱覽及資訊檢索等服務外，更兼負推廣書香之重任，近年來更積極充實館藏、改善閱讀空間、提供各項便民措施及規劃各年齡層閱讀活動。

舊總館於民國70年完成，原規劃用途為民眾活動中心，僅供應自修室、閱報服務及辦理各類藝文展演活動，無法提供完整圖書借閱、參考諮詢服務，尤其讀者需求孔急之閱覽區、期刊區均付之闕如，難以發揮直轄市圖書總館功能；因而，迭有民眾建議應盡速新建圖書總館，以滿足其資訊、閱讀之需求。

計劃興建正值高雄縣市合併之際，依據97年底統計資料，合併後縣市人口約277萬人，圖書館館舍計61所。館藏冊數約319萬冊，館員含行政，臨時、約聘僱人員等，合計283位。高雄縣尚未設置總館，其鄉鎮圖書館業務之輔導，仰賴文化局圖書資訊科負責；縣市合併後，整體圖書暨數位資源、人力配置、各館特色、業務發展、偏遠民眾及多元族群資訊、縣市圖書資訊服務網建置等需求之滿足，均需由強而有力之總館統籌規劃與推動，以提供大高雄民眾更完善之圖書資訊服務，平衡城鄉圖書資源和數位落差。

民國99年，高雄市政府計畫為市民打造一座經典卓越的新總圖書館，突破傳統僅限國內建築師資格的方案甄選，特別採用國際建築設計競圖方式，藉此吸引來自歐、美…等國世界各地的設計菁英參與競標，歷經四個多月激烈的兩階段設計評選，最終本案以「樹中有書，書中有樹」的文化地標，贏得所有評審委員一致青睞，以全數票選通過榮獲第一名。