Google BigQuery:如何手动添加分区

     2023-03-24     55

关键词:

【中文标题】Google BigQuery:如何手动添加分区【英文标题】:Google BigQuery: How to add partition manually 【发布时间】:2017-05-17 21:58:28 【问题描述】:

我有一个每日分区表,其中一个分区包含 1000 万行。我想将昨天的数据从 10 个 csv 文件(每个文件包含 100 万行)中再添加 1000 万行到另一个分区中。我必须手动创建昨天的分区然后将数据加载到其中吗?我该怎么做?有什么方法可以使用“BQ load”命令直接将以前的日期记录加载到预先存在的表中?

【问题讨论】:

“每日分区表,单个分区保存 10M 行”是什么意思?你的意思是每个分区每天大约有 1000 万行? 是的,克里斯...到目前为止,我已经创建了一个带有今天日期 (20170517) 的分区,并从 GCS 加载了 10M 条记录。我必须对昨天的 csv 文件重复此操作。我希望,我必须先创建 20170516 分区,然后我才能从 GCS 加载它。 【参考方案1】:

你不需要做任何特别的事情,只需指定tablename$partitiontime作为加载命令的目的地,即

bq --time_partitioning_type=DAY --source_format=CSV
  'dataset.tbl$20170516' /tmp/file.csv

【讨论】:

感谢 Mosha Pasumansky...这解决了我的问题。感谢您的帮助。 @BhavikDesai - 那么你应该投票并接受他的回答。

如何在 Google 大查询的时间分区表中添加新列

...列【英文标题】:Howtoaddnewcolumnsintime-partitionedtablesinGooglebigquery【发布时间】:2016-10-1410:23:32【问题描述】:我尝试在BigQuery时间分区表中添加新列。我使用bq命令行工具(不是API),因为我使用TalendforBigData进行加载。在普通表中... 查看详情

如何在 BigQuery 的 C# 中重述分区?

】如何在BigQuery的C#中重述分区?【英文标题】:HowdoIrestateapartitioninC#inBigQuery?【发布时间】:2016-08-1714:48:46【问题描述】:我在BigQuery中有一个名为“rawdata”的未分区表。那张桌子变得很大,我想对它进行分区。我没有找到对原... 查看详情

如何在 bigquery 中创建分区表

】如何在bigquery中创建分区表【英文标题】:HowdoIcreateapartitionedtableinbigquery【发布时间】:2016-06-0214:11:16【问题描述】:Google最近在BigQuery中宣布了partitionedtables,它具有许多优势。但是,我没有找到有关如何创建此类表的文档。... 查看详情

按日期时间 Google BigQuery 分区

】按日期时间GoogleBigQuery分区【英文标题】:PartitionbydatetimeGoogleBigQuery【发布时间】:2019-03-0609:31:23【问题描述】:情况:我想在GoogleBigQuery表上加载~5B记录。我有一个名为“date_time”的字段,它描述了记录日期时间(从2012年到... 查看详情

BigQuery 无法修改分区表架构

】BigQuery无法修改分区表架构【英文标题】:BigQueryCannotModifyPartitionedTableSchema【发布时间】:2018-09-2701:56:09【问题描述】:根据BigQuery文档,我尝试通过添加字段来修改表的架构。有问题的表是一个分区片(按天分区)。我计划... 查看详情

Google Bigquery API:如何将结果查询添加到表中?

】GoogleBigqueryAPI:如何将结果查询添加到表中?【英文标题】:GoogleBigqueryAPI:HowtoaddresultquerytoTable?【发布时间】:2016-06-2109:04:38【问题描述】:我已经阅读了一些关于这个主题的介绍,但是这段代码没有运行。我在项目中创建了... 查看详情

如何为 Google Bigquery 表创建季度分区 [重复]

】如何为GoogleBigquery表创建季度分区[重复]【英文标题】:HowtocreateaquarterlypartitionsforaGoogleBigqueryTable[duplicate]【发布时间】:2019-09-2515:49:32【问题描述】:我正在尝试针对TPCH数据集中的表LINEITEM加载TPCHDATA。我需要针对该表创建季... 查看详情

Google Bigquery:Spark - 不兼容的表分区规范

】GoogleBigquery:Spark-不兼容的表分区规范【英文标题】:GoogleBigquery:Spark-Incompatibletablepartitioningspecification【发布时间】:2017-01-0911:42:05【问题描述】:从未分区的临时表向按天分区的最终表提交复制作业时,我收到了原因:java.io... 查看详情

Google Bigquery:复制日期分区表所需的分区规范

】GoogleBigquery:复制日期分区表所需的分区规范【英文标题】:GoogleBigquery:Partitioningspecificationneededforcopyingdatepartitionedtable【发布时间】:2017-06-1610:06:59【问题描述】:注意:这几乎与thisquestion重复,区别在于在这种情况下,源表... 查看详情

如何在 Google BigQuery 中进行表操作?

】如何在GoogleBigQuery中进行表操作?【英文标题】:HowtodotableoperationsinGoogleBigQuery?【发布时间】:2016-03-1517:40:03【问题描述】:想要一些关于如何在GoogleBigQuery中处理表操作(重命名列)的建议。目前,我有一个包装器来执行此... 查看详情

为啥 Google BigQuery 在使用视图时没有正确使用分区日期

】为啥GoogleBigQuery在使用视图时没有正确使用分区日期【英文标题】:WhyGoogleBigQuerydoesn\'tusepartitiondatecorrectlywhenusingviews为什么GoogleBigQuery在使用视图时没有正确使用分区日期【发布时间】:2016-12-1917:56:24【问题描述】:我有一个... 查看详情

从 SQL 查询向 BigQuery 表添加多个分区列

】从SQL查询向BigQuery表添加多个分区列【英文标题】:AddingmultiplepartitionedcolumnstoBigQuerytablefromSQLquery【发布时间】:2020-07-1400:17:22【问题描述】:我一直在尝试向BigQuery表添加多个分区列,但它似乎只占用一个字段,即使我在查询... 查看详情

向分区 BigQuery 表添加数据和查询

】向分区BigQuery表添加数据和查询【英文标题】:AddingdatatoandqueryingapartitionedBigQuerytable【发布时间】:2016-07-1418:33:37【问题描述】:在BigQuery中,我正在制作一个分区数据表(按小时分区),当数据进入其中时,结果似乎没有_PART... 查看详情

Google BigQuery - 将通配符表查询与日期分区表一起使用?

】GoogleBigQuery-将通配符表查询与日期分区表一起使用?【英文标题】:GoogleBigQuery-Usingwildcardtablequerywithdatepartitionedtable?【发布时间】:2016-10-0606:27:02【问题描述】:我正在尝试使用通配符表函数来查询一堆日期分区表。这个查询... 查看详情

如何在 Google BigQuery 中管理架构迁移

】如何在GoogleBigQuery中管理架构迁移【英文标题】:HowtomanageschemamigrationsinGoogleBigQuery【发布时间】:2018-08-1405:07:57【问题描述】:如何管理GoogleBigQuery的架构迁移,我们过去使用过Liquibase和Flyway。我们可以使用什么样的工具来管... 查看详情

BigQuery 日期分区视图

】BigQuery日期分区视图【英文标题】:BigQueryDate-PartitionedViews【发布时间】:2017-06-2713:37:48【问题描述】:BigQuery允许您创建日期分区表:https://cloud.google.com/bigquery/docs/creating-partitioned-tables我希望能够在日期分区表之上创建视图,... 查看详情

BigQuery 分区表

】BigQuery分区表【英文标题】:BigQueryPartitiontable【发布时间】:2016-09-1101:03:34【问题描述】:如何在BigqueryWebUI中创建。我知道我们可以从gcloud和api创建。我搜索了webUI,但找不到从WebUI创建分区表的任何选项。谢谢,【问题讨论... 查看详情

如何在气流中配置 Google Cloud BigQuery

】如何在气流中配置GoogleCloudBigQuery【英文标题】:HowtoconfigureGoogleCloudBigQueryinairflow【发布时间】:2021-09-1515:44:05【问题描述】:我正在尝试在我的ApacheAirflow中添加一个连接以连接到谷歌云,以便使用BigQueryHook,目前,我的服务... 查看详情