Bosettingen i Harstad-distriktet går tilbake til eldre steinalder. Bjarkøy og Trondenes var viktige politiske sentra fra slutten av vikingtiden og i middelalderen og dette området var et av landsdelens befolkningstyngdepunkt.
Trondenes kirke fra 1400-tallet er verdens nordligste steinkirke fra middelalderen og den står på et av Hålogalands tidligste og viktigste kirkesteder.
Utviklingen av Harstad til et bysenter kom som følge av beliggenheten og samferdselsmønsteret opp gjennom tidene. Sjøen var den gamle samferdselsåren, og Damskipsbåtene hadde anløp på Sandtorg og på Trondenes. I 1844 ble Trondenes erstattet av Harstadhamn, og dette igjen erstattet av Harstadsjøen i 1848. Dette var første steg mot Harstad som by.
Trondenes kommunes grenser etter formannskapsloven av 1937 omfattet Skånland, Sandtorg og Trondenes. I 1893 ble tettstedet Harstad skilt ut fra Trondenes som egen kommune. Stortinget vedtok ved lov av 09.06.1903 at Harstad skulle være egen bykommune fra 01.01.1904, og grensene ble litt videre enn kommunegrensene fastsatt i 1893. Disse grensene hadde Harstad helt fram til 1964. Trondenes, Sandtorg og Skånland var en kommune til 1926, men ble da delt i tre kommuner.
Fra 01.01.64 ble Trondens, Sandtorg og Harstad slått sammen til en kommune med navnet Harstad og med bystatus.
Harstad by feiret 100-årsjubileum i 2004.