|
|
|
|
| import datasets |
| import pyarrow |
|
|
| def test_local_hf_match( |
| dataset_tag, |
| split): |
| print(f"For dataset '{dataset_tag}' and split '{split}' testing if local and remote ids match ...") |
| ids_hf = datasets.load_dataset( |
| path = "maom/MegaScale", |
| name = dataset_tag, |
| data_dir = dataset_tag, |
| cache_dir = "/scratch/maom_root/maom0/maom", |
| keep_in_memory = True).data[split].select(['id']).to_pandas() |
| ids_local = pyarrow.parquet.read_table( |
| source = f"intermediate/{dataset_tag}_{split}.parquet", |
| columns = ["id"]).to_pandas() |
| assert ids_local.equals(ids_hf) |
| |
|
|
| test_local_hf_match("dataset1", "train") |
| test_local_hf_match("dataset2", "train") |
| test_local_hf_match("dataset3", "train") |
|
|
| test_local_hf_match("dataset3_single", "train") |
| test_local_hf_match("dataset3_single", "val") |
| test_local_hf_match("dataset3_single", "test") |
|
|
| test_local_hf_match("dataset3_single_cv", "train_0") |
| test_local_hf_match("dataset3_single_cv", "train_1") |
| test_local_hf_match("dataset3_single_cv", "train_2") |
| test_local_hf_match("dataset3_single_cv", "train_3") |
| test_local_hf_match("dataset3_single_cv", "train_4") |
|
|
| test_local_hf_match("dataset3_single_cv", "val_0") |
| test_local_hf_match("dataset3_single_cv", "val_1") |
| test_local_hf_match("dataset3_single_cv", "val_2") |
| test_local_hf_match("dataset3_single_cv", "val_3") |
| test_local_hf_match("dataset3_single_cv", "val_4") |
|
|
| test_local_hf_match("dataset3_single_cv", "test_0") |
| test_local_hf_match("dataset3_single_cv", "test_1") |
| test_local_hf_match("dataset3_single_cv", "test_2") |
| test_local_hf_match("dataset3_single_cv", "test_3") |
| test_local_hf_match("dataset3_single_cv", "test_4") |
|
|
