Os capitães-generais contavam com um secretário, cuja função era redigir e organizar os papéis que circulavam entre Brasil e Portugal, encarregando-se da expedição, da tramitação e do registro de toda a documentação produzida e recebida pelo governador da capitania. Para efeito de controle, os secretários de governo separavam a documentação em papéis avulsos e livros de registro. O primeiro conjunto era agrupado em maços compostos por diversos tipos documentais, produzidos por autoridades da metrópole e da colônia, e também por particulares, solicitando mercês ou terras, ou ainda recorrendo de alguma injustiça. Os livros, por sua vez, guardavam a correspondência recebida, além de registros de provisões, patentes, sesmarias, e cópias da correspondência expedida pelos capitães-generais, evitando o extravio e dando suporte à administração. Assim nasceu e cresceu o arquivo da Secretaria do Governo da Capitania.
No momento da extinção da Capitania de São Paulo, em 1748, os documentos produzidos até então foram recolhidos e lacrados em arcas. Uma parte foi encaminhada para o Rio de Janeiro, e outra, entregue ao governador da Praça de Santos, já que este mandatário militar e o vice-rei do Rio de Janeiro eram oficialmente os novos administradores da capitania extinta. Em 1765, quando da restauração de São Paulo, o governador Luís Antônio de Sousa Botelho Mourão reuniu toda a documentação que foi possível arrecadar, e organizou o arquivo da Secretaria do Governo. Ele ficava no antigo colégio dos jesuítas, que fora adaptado para sediar o governo recém-restaurado.
A arca de documentos era um instrumento essencial dos arquivos, muito comum entre os séculos XIV e XVIII. As Ordenações Filipinas obrigavam todas as Câmaras Municipais e Juizados a ter arcas de três chaves para guardar seus documentos. As secretarias de governo também usavam arcas que, com o passar do tempo, tornaram-se insuficientes diante do processo cumulativo de documentos. Assim, a arca foi substituída pelos armários e estes, mais tarde, por depósitos edificados.