O Arquivo da Deputación xorde ao mesmo tempo que a institución, non obstante a primeira noticia certa da súa existencia témola no “Regulamento interior das dependencias da Deputación Provincial da Coruña” de 1889, que nos seus artigos 64 ao 71 establecía as súas funcións. Así mesmo consta en 1888 o nomeamento como arquiveiro-bibliotecario de Bernardo Barreiro de Vázquez Varela e o de Manuel Murguía en 1909 .

A sede do Arquivo sufriu diversos traslados a través do tempo:  durante o século XIX e primeira metade do XX, o Arquivo acompañou á institución polos diversos edificios da cidade coruñesa que esta ocupou, entre eles o edificio do Teatro Rosalía de Castro. Nas décadas dos anos 60 e máis 70, a documentación foi depositada no Pazo de Mariñán.

Dende 1985 o Arquivo atópase na rúa Archer Milton Huntington. A partir desta data inícianse os traballos de descrición documental que continúan na actualidade.

Hoxe en día o Arquivo desta Deputación Provincial constitúe unha Sección que depende orgánicamente da Secretaría Xeral.