BlogGovernança

Data warehouse, data lake e lakehouse: o que são, as diferenças e qual usar

Data warehouse, data lake e data lakehouse: o que são, as diferenças na prática e por que a arquitetura de dados não conserta dado ruim sem governança.

Paulo Cordeiro10 min de leitura

Toda empresa que começa a levar dados a sério esbarra na mesma pergunta prática: onde é que esses dados vão morar? Data warehouse, data lake e, mais recentemente, o data lakehouse são as três respostas que o mercado dá para isso. Os nomes parecem coisa de engenheiro, mas a decisão entre eles influencia diretamente relatório que fecha ou não fecha, IA que decide bem ou decide errado e projeto que entrega no prazo ou vira retrabalho. Quem trabalha com governança, cadastro, compras ou qualquer área que consome informação precisa entender essa diferença, mesmo sem ser da área técnica.

Vou explicar cada um em linguagem de negócio, mostrar quando faz sentido usar cada abordagem, citar as ferramentas que dominam o mercado e, principalmente, mostrar o ponto que quase ninguém comenta: nenhuma dessas arquiteturas conserta dado ruim. Elas só mudam o lugar onde o problema aparece.

O que é um data warehouse

Um data warehouse é um repositório central que reúne dados já organizados, tratados e prontos para análise. Pense nele como um armazém bem arrumado, onde cada caixa tem etiqueta, cada prateleira tem um propósito e você sabe exatamente onde achar o que procura. O dado entra depois de passar por uma esteira de limpeza e padronização, então quando chega lá já está no formato certo.

Esse modelo trabalha com o que se chama de schema on write, ou seja, a estrutura é definida antes de o dado ser gravado. Na prática, isso significa que alguém decidiu com antecedência que a tabela de vendas tem estas colunas, com estes tipos, seguindo estas regras. A informação bruta que vem do ERP, do CRM ou de uma planilha passa por um processo de ETL, sigla para extrair, transformar e carregar, e só entra no warehouse depois de transformada.

O data warehouse foi feito para responder perguntas de negócio com consistência. É a base de relatórios gerenciais, painéis de BI, fechamento financeiro e análises históricas. Quando o diretor pergunta quanto a empresa vendeu por região no último trimestre, é o warehouse que responde de forma confiável. O preço dessa confiabilidade é a rigidez: mudar a estrutura dá trabalho, e ele não foi pensado para guardar qualquer tipo de dado, só o que já está modelado.

O que é um data lake

Um data lake é o oposto na forma de pensar. Em vez de arrumar tudo antes de guardar, ele recebe o dado do jeito que ele vem: estruturado, semiestruturado ou totalmente bruto. Planilha, log de sistema, imagem, áudio, texto de e-mail, arquivo de sensor de máquina, tudo cabe. A imagem do lago ajuda: você joga a água de várias fontes ali dentro e ela fica disponível para quem quiser pescar depois.

Aqui a lógica é schema on read. A estrutura só é aplicada no momento em que alguém vai usar o dado, não na hora de guardar. Isso dá uma flexibilidade enorme e um custo de armazenamento baixo, porque não existe a esteira pesada de transformação na entrada. O processo típico é o ELT, extrair, carregar e depois transformar, invertendo a ordem do warehouse. Você primeiro coloca tudo dentro e trata quando precisar.

O data lake nasceu para dar conta do volume e da variedade que o warehouse não aguentava, principalmente para ciência de dados, machine learning e análises exploratórias. O problema é que flexibilidade sem disciplina cobra caro. Um data lake sem governança vira o que o mercado apelidou de data swamp, o pântano de dados: tudo entra, ninguém sabe o que tem, e o dado deixa de ser útil porque ninguém confia nele nem consegue achar o que precisa. Isso acontece muito nas empresas que compraram a tecnologia achando que ela resolveria a bagunça sozinha.

Data warehouse e data lake: as diferenças na prática

A diferença essencial está em quando o dado é organizado. No warehouse, antes de entrar. No lake, na hora de usar. Isso desdobra em quase tudo o mais. O warehouse guarda dado tratado, estruturado, caro por gigabyte, e serve bem para relatório e BI com respostas consistentes. O lake guarda dado bruto de qualquer tipo, barato por gigabyte, e serve bem para exploração, ciência de dados e treinamento de modelos.

Na vida real das empresas médias e grandes, a pergunta raramente é um ou outro. É comum ver os dois convivendo: o lake recebe o volume bruto de várias fontes, e uma parte desse dado, depois de tratada, é levada para o warehouse para alimentar os relatórios oficiais. Quem já participou de um projeto de dados sabe que essa arquitetura em duas camadas funciona, mas gera duplicação, custo de manter dois ambientes e o risco clássico de o número do painel não bater com o número da exploração. E aí mora o problema que o lakehouse veio tentar resolver.

O que é um data lakehouse e por que virou o padrão

O data lakehouse é a tentativa de juntar o melhor dos dois mundos em uma arquitetura só. Ele guarda o dado bruto e de qualquer formato, como o lake, mas adiciona por cima uma camada que traz estrutura, controle e confiabilidade parecidos com os do warehouse. A ideia é ter a flexibilidade e o custo baixo do lake com a consistência e a capacidade de análise do warehouse, sem manter dois ambientes separados.

O que tornou isso possível foram os formatos de tabela abertos, como Delta Lake, Apache Iceberg e Apache Hudi. Sem entrar no detalhe técnico, eles permitem que o dado guardado de forma barata no armazenamento se comporte como uma tabela organizada, com controle de versão, transações confiáveis e regras claras. É essa camada que transforma um depósito de arquivos em algo que a empresa consegue governar.

Nos últimos anos, o lakehouse deixou de ser tendência e virou o modelo dominante das grandes plataformas de dados. Ele é hoje a aposta principal de Databricks, Snowflake e Microsoft Fabric, que disputam esse mercado. Para quem é de negócio, a mensagem é simples: a discussão de warehouse contra lake está sendo substituída por uma arquitetura única que promete servir os dois usos. Mas promessa de tecnologia, como sempre, depende de execução.

Onde os dados mestres entram nessa história

Aqui está o ponto que raramente aparece nos comparativos técnicos, e que faz toda a diferença. Warehouse, lake e lakehouse são decisões sobre onde e como guardar o dado. Nenhum deles decide se o dado é bom. Se o mesmo fornecedor está cadastrado três vezes com nomes diferentes, ele vai estar duplicado no warehouse, duplicado no lake e duplicado no lakehouse. A arquitetura mais moderna do mundo não junta esses três registros sozinha.

É isso que separa a infraestrutura de dados da governança de dados. A plataforma organiza a estrutura, mas os dados mestres, os cadastros de clientes, fornecedores, materiais e produtos, precisam de definição, dono, regra e qualidade para valerem alguma coisa. Já vi empresa investir pesado em uma plataforma nova de dados e continuar com o relatório que não fecha, porque cada área ainda entende cliente de um jeito e o cadastro que alimenta a plataforma continua sujo. O dado ruim só mudou de endereço, agora ele mora em um lugar mais caro e mais bonito.

Isso vale em dobro para inteligência artificial. Todo mundo quer usar o lakehouse para treinar modelos e aplicar IA. Só que IA não melhora dado ruim por mágica. Se materiais estão duplicados e fornecedores estão mal classificados, a IA vai apenas acelerar decisões erradas com mais confiança. O Master Data Management é a camada que garante que o dado mestre que abastece qualquer uma dessas arquiteturas seja único, correto e confiável. Sem isso, você constrói um armazém impecável para guardar mercadoria estragada.

Quais ferramentas o mercado usa

Do lado dos data warehouses, os nomes mais comuns são o Snowflake, o Amazon Redshift, o Google BigQuery e o Azure Synapse, além do Teradata em ambientes mais tradicionais. São plataformas maduras, muito usadas para BI corporativo e análise estruturada.

Para data lake, a base costuma ser o armazenamento de objetos das nuvens, como o Amazon S3, o Azure Data Lake Storage e o Google Cloud Storage, muitas vezes com o legado do ecossistema Hadoop em empresas mais antigas. O dado fica ali, barato, e as ferramentas de processamento leem a partir dele.

No território do lakehouse, a disputa hoje é dominada por três plataformas: Databricks, que popularizou o conceito e o formato Delta Lake, Snowflake, que evoluiu do warehouse para abraçar dados abertos, e Microsoft Fabric, a aposta integrada da Microsoft que unifica ingestão, armazenamento e análise. A escolha entre elas depende do contexto de cada empresa, do que já existe de nuvem e de time, e não de qual é a melhor no papel.

Vale lembrar que essas plataformas resolvem armazenamento e processamento. A camada de governança, catálogo, qualidade e dados mestres é complementar, com ferramentas específicas para cada função. Confundir uma coisa com a outra é um erro que custa caro em projeto.

Como aprender e construir carreira nessa área

Para quem quer entrar nesse mundo, o caminho não começa pela ferramenta, começa pelo conceito. Antes de aprender a operar Databricks ou Snowflake, vale entender modelagem de dados, o que é um dado estruturado, como funciona um processo de carga e por que qualidade e governança existem. Ferramenta muda a cada ano, fundamento não.

Um bom roteiro passa por três frentes: os fundamentos de gestão de dados, onde referências como o DAMA-DMBOK e a certificação CDMP ajudam a organizar o pensamento; a parte técnica de arquitetura, com SQL bem dominado e prática nas plataformas de nuvem; e, o que mais falta no mercado, a visão de negócio, a capacidade de ligar o dado ao impacto em compras, vendas, finanças e operação. Profissional que domina os três se torna raro e valioso.

As oportunidades

A demanda por quem entende de arquitetura e governança de dados vem crescendo de forma consistente, empurrada pela pressão de usar IA com responsabilidade. Toda empresa quer aplicar inteligência artificial, e todas estão descobrindo que não dá para fazer isso sobre uma base desorganizada. Isso abre espaço para papéis como engenheiro de dados, arquiteto de dados, especialista em qualidade, data steward e gestor de dados mestres.

O ponto interessante para quem está começando é que sobra gente sabendo apertar botão em ferramenta e falta gente que entende por que o dado precisa ser confiável e como fazer isso acontecer na prática. É exatamente nesse espaço, entre a tecnologia e o negócio, que estão as melhores oportunidades de carreira em dados hoje.

Principais dúvidas

Qual é a diferença entre data warehouse e data lake? O data warehouse guarda dados já tratados e estruturados, organizados antes de entrar, e serve para relatórios e BI. O data lake guarda dados brutos de qualquer formato, organizados só na hora de usar, e serve para exploração e ciência de dados. A diferença central é o momento em que o dado é estruturado.

O data lakehouse substitui o data warehouse? Em muitos casos ele unifica os dois usos em uma arquitetura só, reduzindo a necessidade de manter ambientes separados. Mas não é uma troca automática. Empresas com um warehouse maduro e estável seguem usando o que funciona, e a migração é uma decisão de contexto, não de moda.

Preciso ter os dois, warehouse e lake? Depende do volume e da variedade de dados da empresa. Muitas organizações operam os dois em camadas, com o lake recebendo o bruto e o warehouse servindo o dado tratado. O lakehouse surgiu justamente para reduzir essa duplicação.

Data lake e data lakehouse são a mesma coisa? Não. O lake é o depósito de dados brutos. O lakehouse adiciona sobre esse depósito uma camada de estrutura e controle que traz confiabilidade de warehouse. O lakehouse é uma evolução do lake, não um sinônimo.

Essas plataformas resolvem a qualidade dos dados? Não sozinhas. Elas resolvem onde guardar e como processar. A qualidade, a padronização e a unicidade dos dados mestres dependem de governança e de disciplina, e continuam sendo responsabilidade da empresa, não da ferramenta.

MDM Academy

A MDM Academy é a escola de governança e dados mestres da 4MDG, criada para formar profissionais que entendem dado de verdade, não só a ferramenta da vez. A proposta é unir fundamento, prática e visão de negócio, ensinando desde os conceitos de governança e qualidade até como os dados mestres sustentam qualquer arquitetura, seja warehouse, lake ou lakehouse. É o tipo de formação que prepara para o que o mercado realmente pede: gente que liga o dado ao resultado da empresa.

Se você quer construir carreira em uma área em alta e aprender com quem vive projetos reais de dados no dia a dia, vale conhecer a MDM Academy e entrar no Clube dos Dados, onde compartilhamos conteúdo, troca e prática sobre governança e dados mestres.

Conclusão

Escolher entre data warehouse, data lake e lakehouse é uma decisão importante de arquitetura, e o lakehouse tem boas razões para ser hoje a aposta principal do mercado. Mas a lição que fica de quase trinta anos de projetos é sempre a mesma: a tecnologia decide onde o dado mora, nunca se ele é bom. Você pode ter a plataforma mais moderna do mundo e continuar com o relatório que não fecha, a compra errada e a IA que decide mal, se os dados mestres que alimentam tudo isso estiverem sujos.

O ponto é esse. Antes de discutir qual arquitetura adotar, vale perguntar se a empresa confia nos próprios dados. Porque, no fim, não é o armazém que faz a diferença. É a qualidade daquilo que você guarda dentro dele.

Quer se tornar um especialista em governança de dados? Fale agora com nossos especialistas e conheça a MDM Academy

Quero ser um aluno

Ao submeter seu e-mail, você concorda com a política de privacidade da MDM Academy | 4MDG.

Fale com um especialista