Le porte del muro orientale sono attigue alla Malmesbury House e all'antico palazzo episcopale, un edificio isolato, costruito intorno al 1220, che attualmente ospita la Scuola della cattedrale.