# Gros Volume
VOTRE /bulk
Le point de terminaison permet aux clients de récupérer des données en masse à l'aide d'une liste d'ID de demande (RID). Cette opération prend en charge la récupération efficace des données pour les grands ensembles de données et fournit une option permettant de supprimer automatiquement les éléments récupérés du stockage après la récupération.
# Paramètres
Envoyer un objet JSON avec les propriétés suivantes :
rids
(obligatoire) : un tableau de RID pour les données que vous souhaitez récupérer.auto_delete
(facultatif) : un paramètre booléen qui, lorsqu'il est défini surtrue
, supprimera automatiquement les éléments récupérés du stockage après leur récupération. La valeur par défaut estfalse
, ce qui signifie que les éléments ne seront pas supprimés sauf demande explicite.
# Requêter
Pour récupérer et supprimer automatiquement les données de trois RID :
curl -X POST 'https://api.crawlbase.com/storage/bulk?token=_USER_TOKEN_' \
-H 'Content-Type: application/json' \
-d '{ "rids": ["RID1","RID2","RID3"], "auto_delete": true }'
# Réponse
La réponse est un tableau JSON d'objets, chacun représentant les données d'un RID. Notez que le body
Le champ est codé en base64 et compressé avec gzip. Vous devrez le décoder en base64 puis le décompresser avec gzip pour récupérer le contenu d'origine.
[
{
"stored_at": "2021-03-01T14:22:58+02:00",
"original_status": 200,
"pc_status": 200,
"rid": "RID1",
"url": "URL1",
"body": "BODY1"
},
{
"stored_at": "2021-03-01T14:30:51+02:00",
"original_status": 200,
"pc_status": 200,
"rid": "RID2",
"url": "URL2",
"body": "BODY2"
}
]
# Remarques.
Pour une utilisation efficace de la /bulk
API, veuillez prendre note de ce qui suit :
Le nombre maximal de RID pouvant être traités par demande est de 100. Si plus de 100 RID sont envoyés, seuls les 100 premiers seront traités.
VOTRE
auto_delete
Cette fonctionnalité est particulièrement utile pour maintenir l'efficacité du stockage et gérer le cycle de vie des données sans nécessiter de demandes de suppression distinctes. Utilisez cette fonctionnalité judicieusement pour éviter toute perte de données involontaire.