일본 감옥은 일본 행정부의 명령으로 1929년과1930년 사이에 지어졌습니다. 이전의 죄수들은 독일 통치하에 지어진 작은 구금 시설에 감금되었습니다. 1920년대 후반, 급격히 늘어나는 인구로 인하여 더 이상 수용 인을 감당할 수 없게 되었습니다. 두 수감동의 벽 그리고 인접한 행정부 건물은 나무와 양철로 된 지붕을 가진 콘크리트 건축물 이었습니다. 초기의 감옥은 나무와 양철로 된 치안 울타리로 둘러 쌓여 있었습니다. 조금 뒤(아마 전쟁 시작 후), 치안 울타리의 한 부분이 콘크리트 벽으로 대체되었습니다. 감옥의 바로 남쪽은 화장터와 묘지가 있는Hongan-ji(혼간 불교 신전)가 있었습니다. 사원의 한쪽 콘크리트 문 기둥은 여전히 남아있습니다. 제 2차 세계대전 중 두 미국인 비행사가 감옥에 수감되어있었습니다. 두 비행사 모두 폭격으로 사망하여 임시로Hongan-ji묘지에 묻혔습니다. 비록 신빙성과 결정적인 증거도 없지만 인기 있는 이야기 중 하나는 유명한 미국인 여비행사Amelia Earhart가 1937년 세계일주 비행 중 실종된 후 이 감옥에 수감되었었다는 것입니다.