Zgrada Arheološkog muzeja Istre (AMI) smještena je unutar povijesne jezgre Pule, na istočnoj padini glavnog gradskog brežuljka, na čijem se vrhu uzdiže mletačka utvrda iz 17. stoljeća. Muzej zauzima prostor nekadašnje Državne njemačke gimnazije, izgrađene tijekom austrougarske vladavine u Puli. Projektirao ju je arhitekt Natale Tommasi 1890. godine. Arhitektonski, zgrada je primjer historicističkog stila s naglašenim simetričnim pročeljem, visokim prozorima i jednostavnom dekoracijom. Godine 1930. prenamijenjena je i u nju je smješten tadašnji Kraljevski muzej (Regio Museo dell’Istria), nasljednik Gradskog muzeja (Museo Civico) osnovanog 1902. godine. Od 1947. ustanovu poznajemo pod današnjim nazivom - Arheološki muzej Istre.
Zgrada muzeja nalazi se na prostoru iznimno bogatom arheološkim slojevima, što je simbolično povezuje s njezinom primarnom namjenom - istraživanjem i očuvanjem istarske baštine. U prapovijesti se na ovome mjestu nalazila željeznodobna histarska gradina, a današnja zgrada podignuta je iznad ostataka histarske kuće s očuvanim podnicama i ognjištima. U neposrednoj blizini otkrivena je i žarna nekropola iz istog razdoblja.
U antičko doba, područje na kojem se danas nalazi zgrada AMI-ja bilo je unutar gradskih bedema rimske kolonije Pole, u blizini Dvojnih vrata, na mjestu nekadašnjeg trijema, kao integralnog dijela Malog rimskog kazališta, i domusa, čiji su temeljni zidovi i danas vidljivi u njezinu okolišu.