DatriseETL com IA

Conector de origem

Conector Google Cloud Storage

Integração do Google Cloud Storage com bancos de dados, warehouses e ferramentas de BI

Armazenamento de objetos para arquivos e exportações no GCP. A Datrise captura entidades do Google Cloud Storage como buckets, objetos, prefixos, metadados de objetos, gerações e classes de armazenamento, e entrega modelos normalizados e tipados para reporting em warehouse, atribuicao e fluxos de IA.

A Cloud Storage JSON API v1 autentica com service account, OAuth 2.0, as cargas incrementais usam updated (object metadata timestamp) or generation number, e o fornecedor limita a buckets initially support roughly 1,000 object writes/sec and 5,000 object reads/sec before autoscaling further, but writes to any single object name are capped at 1 write per second.

Dos 6 objetos, 6 sincronizam com upsert por chave primária e 0 como fluxos append-only, então cada execução incremental move só o que mudou desde a última marca d'água. Cada objeto chega na própria tabela (por exemplo `google_cloud_storage_f_buckets`) com esquema derivado da API do Google Cloud Storage, não de um CSV, em qualquer um dos 43 destinos suportados.

A Datrise está em acesso antecipado: escolha um destino abaixo para ver o pipeline do Google Cloud Storage e entre na lista de espera para receber o conector com onboarding guiado.

Sync incrementalMapeamento orientado a schema43 destinos disponíveis

Quais dados do Google Cloud Storage a Datrise extrai

Cada objeto chega na própria tabela tipada. O modo de sync deriva do objeto: objetos de histórico fazem append, o restante faz upsert.

ObjetoTabela de destinoModo de sync
bucketsgoogle_cloud_storage_f_bucketsUpsert por chave primária, incremental por updated-at
objectsgoogle_cloud_storage_f_objectsUpsert por chave primária, incremental por updated-at
prefixesgoogle_cloud_storage_f_prefixesUpsert por chave primária, incremental por updated-at
object metadatagoogle_cloud_storage_f_object_metadataUpsert por chave primária, incremental por updated-at
generationsgoogle_cloud_storage_f_generationsUpsert por chave primária, incremental por updated-at
storage classesgoogle_cloud_storage_f_storage_classesUpsert por chave primária, incremental por updated-at

API do Google Cloud Storage: fatos de configuração do conector

Verificado na documentação do fornecedor em 2026-09-02. Valores desconhecidos ficam em branco, não são inventados.

APICloud Storage JSON API v1
Autenticaçãoservice account, OAuth 2.0 — Requests carry an OAuth 2.0 Bearer access token, typically minted from an attached or key-based service account; HMAC keys are also available for S3-compatible XML API access.
Paginaçãotoken — `objects.list` returns up to 1,000 combined `items`/`prefixes` per page (`maxResults`); follow the returned `nextPageToken` until it is absent to get the full listing.
Limite de requisiçõesbuckets initially support roughly 1,000 object writes/sec and 5,000 object reads/sec before autoscaling further, but writes to any single object name are capped at 1 write per second
Cursor incrementalupdated (object metadata timestamp) or generation number — There is no server-side 'modified since' filter on `objects.list`; incremental pulls filter the per-object `updated` timestamp client-side, or consume Pub/Sub notifications for near-real-time capture instead of relisting.
WebhooksSim — Pub/Sub notifications (OBJECT_FINALIZE, OBJECT_METADATA_UPDATE, OBJECT_DELETE, OBJECT_ARCHIVE, OBJECT_INITIALIZE)
Exportação em massaSim — Storage Transfer Service / `gcloud storage` bulk copy-out
Detecção de exclusõesSim — requires Object Versioning enabled; each object change is tracked by its `generation` number and a real DELETE is observable via a Pub/Sub `OBJECT_DELETE` (or `OBJECT_ARCHIVE` for a version becoming noncurrent) notification

Referência oficial da API

Compare isto com todas as outras APIs documentadas

Destinos populares para Google Cloud Storage

Escolha um destino abaixo para abrir a pagina de pipeline pronta.

  • A
    Airtable

    Destino de planilha relacional para equipes de operações e go-to-market.

    Ver pipeline
  • A
    Amazon Athena

    SQL serverless sobre tabelas do data lake no S3.

    Ver pipeline
  • A
    Amazon DynamoDB

    Banco key-value e documental serverless na AWS.

    Ver pipeline
  • A
    Amazon QuickSight

    BI serverless na AWS com SPICE e analytics embutido.

    Ver pipeline
  • A
    Amazon Redshift

    Warehouse em escala petabyte na AWS com Spectrum.

    Ver pipeline
  • A
    Amazon S3 Data Lake

    Zona de landing em object storage para parquet e snapshots.

    Ver pipeline
  • A
    Apache Superset

    BI open source para exploração SQL, gráficos e publicação de dashboards.

    Ver pipeline
  • A
    Arquivos CSV

    Destino de arquivos planos para exports e compartilhamento leve.

    Ver pipeline
  • A
    Azure Data Lake Storage

    Armazenamento ADLS Gen2 para cargas analíticas.

    Ver pipeline

Perguntas sobre o conector Google Cloud Storage

Quais dados do Google Cloud Storage o conector extrai?
6 objetos: buckets, objects, prefixes, object metadata, generations e storage classes. Cada um vai para a própria tabela com tipos preservados; objetos com histórico (0) são carregados como append-only.
A integração do Google Cloud Storage é incremental?
Sim. Depois da carga inicial completa, cada execução lê só os registros alterados desde a última marca d'água (updated-at ou timestamp do evento) e aplica upsert ou append conforme o objeto.
Para onde posso carregar os dados do Google Cloud Storage?
Para 43 destinos: bancos relacionais, warehouses, data lakes, planilhas e ferramentas de BI. Cada par Google Cloud Storage → destino tem a própria página com o mapeamento de objetos para tabelas.

Outras fontes de

Outras fontes da mesma categoria, cada uma com a própria página de conector.

Acesso antecipado

Lance seu pipeline de Google Cloud Storage com onboarding guiado

Entre na lista de espera para ter acesso prioritário às integrações de Google Cloud Storage com setup guiado, mapeamento orientado a schema e sync incremental de nível produção.