일본 근대 서양화의 아버지로 불리는 구로다 세이키(黑田淸輝)는 다이쇼(大正) 13년(1924)에 생을 마감하며 유산의 일부가 미술 장려 사업을 위해 쓰일 것을 유언했습니다. 그의 뜻을 받들어 쇼와(昭和) 3년(1928)에 준공한 것이 ‘구로다 기념관’입니다. 관내에는 그의 유족들로부터 기증 받은 유작을 전시하여 그를 기리는 ‘구로다 기념실’이 있습니다. 쇼와 5년(1930)에는 본 기념관에 미술에 관한 학술적 조사연구와 연구자료의 수집을 목적으로 현재의 도쿄문화재연구소의 전신인 ‘미술연구소’가 설치되었습니다. 이후 오랜 기간 미술연구소가 이곳에서 일본ㆍ동양미술에 관한 조사연구 업무를 수행해오다가, 헤이세이(平成) 12년(2000)에 지금의 신청사가 완공되어 연구소가 이전됨에 따라 기념관을 재활용하게 되었습니다. 특히 본 건물은 쇼와 초기의 미술관 건축(오카다 신이치로 (岡田信一郞) 설계)에 있어 중요한 의미를 갖는 건축물입니다. 2층을 중심으로 한 복원공사를 거쳐 헤이세이 13년(2001) 9월에 새로운 모습으로 문을 열었고, 헤이세이 14년(2002)에는 국가등록 유형문화재에 지정되었습니다.
헤이세이 19년(2007) 4월 1일에는 독립행정법인 문화재연구소와 독립행정법인 국립박물관이 통합되어 독립행정법인 국립문화재기구가 새롭게 설치되었습니다. 이에 따른 조직개편에 의하여 구로다기념관은 도쿄국립박물관에 소속되었습니다.
헤이세이 24년(2012) 4월부터는 내진 보강을 중심으로 한 개수 공사를 위해 폐관되었다가, 헤이세이 27년(2015) 1월 2일에 새롭게 리뉴얼 오픈하였습니다.