Mysql
 sql >> Baza danych >  >> RDS >> Mysql

Jak przekonwertować tabelę SQL o pojemności 500 GB na Apache Parquet?

W tym celu można użyć Apache Spark:

1.load your table from mysql via jdbc
2.save it as a parquet file

Przykład:

from pyspark.sql import SparkSession
spark = SparkSession.builder.getOrCreate()
df = spark.read.jdbc("YOUR_MYSQL_JDBC_CONN_STRING",  "YOUR_TABLE",properties={"user": "YOUR_USER", "password": "YOUR_PASSWORD"})
df.write.parquet("YOUR_HDFS_FILE")


  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. Jak pobrać dane z binarnego pliku dziennika i wstawić do żądanej tabeli w MySQL?

  2. Wybierz część z pola MySQL Blob.

  3. MySQL SELECT n rekordów na podstawie GROUP BY

  4. DateTimeField otrzymał naiwną datę i godzinę

  5. Nie znaleziono kolumny doktryny:1054 Nieznana kolumna „s.features” na „liście pól”