L'edificio del Museo Archeologico dell'Istria (AMI) si trova nel centro storico di Pola, sul versante orientale della collina principale della città, sulla cui cima si erge la fortezza veneziana del XVII secolo. 

Il museo occupa lo spazio dell'ex Ginnasio statale tedesco, costruito durante il dominio austro-ungarico a Pola. Fu progettato dall'architetto Natale Tommasi nel 1890. Architettonicamente, l'edificio è un esempio di stile storicista con una facciata simmetrica pronunciata, finestre alte e decorazioni semplici. Nel 1930, fu riconvertito e ospitò l'allora Regio Museo dell'Istria, successore del Museo Civico fondato nel 1902. Dal 1947, l'istituzione è conosciuta con il suo nome attuale - Museo Archeologico dell'Istria.

L'edificio del museo si trova in un'area estremamente ricca di strati archeologici, il che lo collega simbolicamente alla sua funzione primaria - la ricerca e la conservazione del patrimonio istriano. In epoca preistorica, in questo luogo si trovava un castelliere istrio dell'età del ferro, e l'attuale edificio è stato eretto sopra i resti di una casa istriana con pavimenti e focolari conservati. Nelle immediate vicinanze è stata scoperta anche una necropoli a incinerazione dello stesso periodo.

In epoca antica, l'area in cui si trova oggi l'edificio dell'AMI  era all'interno delle mura della colonia romana di Pola, vicino alla Porta Gemina, nel luogo dell'ex portico, come parte integrante del Piccolo Teatro Romano, e di un domus, le cui mura di fondazione sono ancora visibili nei suoi dintorni.