Pular para conteúdo

Energia Elétrica (ONS)

O desafio

O ONS publica seus dados abertos em um catálogo CKAN que aponta para um bucket S3 público. Os diretórios e os nomes dos arquivos mudaram com o tempo, alguns conjuntos têm uma faixa anual antiga e uma faixa mensal recente, e há dezenas de conjuntos em oito áreas. O ons-fetcher mantém o catálogo declarativo, detecta mudanças na fonte com discover e converte o acervo para o lake.

Pacotes

Ferramenta O que faz
ons-fetcher Coleta 23 conjuntos R1 dos 87 catalogados (carga, hidrologia, geração, preços, intercâmbio, cadastros) e converte para Parquet particionado por ano e mes.

Próximos passos