Amihai Mazar est le neveu de l'archéologue Benjamin Mazar et l'oncle d'Eilat Mazar, elle aussi archéologue. Il participe dans sa jeunesse aux fouilles de Beït-Shéarim, Ramat-Rachel et Ein Gedi. Après la fin de son service militaire, en 1963, il entreprend des études d'archéologie et d'histoire juive à l'université hébraïque de Jérusalem. Pendant ses études, il participe aux fouilles d'Achziv et de Tel Shiqmonah. Après la Guerre des Six Jours, il participe également aux fouilles du quartier juif de la vieille ville de Jérusalem. Il obtient son doctorat en 1977 pour son travail sur les fouilles de Tel Qasile, plus particulièrement sur les sanctuaires du site et sur les rituels religieux en terre d'Israël du XIIe au Xe siècle av. J.-C..
Il dirige ensuite d'importants chantiers de fouilles, notamment à :
Il est maître de conférences à l'Université hébraïque à partir de 1982, puis professeur depuis 1994. Il occupe la chaire d'archéologie de la terre d'Israël Eleazar Sukenik. Il a été directeur de l'Institut d'archéologie de l'université et membre de la Direction des antiquités d'Israël.
Bien que l'expression archéologie biblique soit encore utilisée pour nommer son domaine de recherche, Amihai Mazar ne travaille pas une pioche dans une main et la Bible dans l'autre : il utilise les méthodes scientifiques propres à l'archéologie telles qu'elles sont pratiquées dans les autres pays. Il accorde, notamment, une attention particulière aux récentes datations par le carbone 14. Ses centres d'intérêt sont :
