Achat en détaxe d'un pro

Bonjour,

Nous sommes une société de VAD et nous livrons exclusivement en France. Un client a validé sa commande sur notre site (il s'agit d'un client PRO résidant en Nouvelle Calédonie). La livraison s'est faite en France donc le client a payé la TVA à 20% et a reçu une facture à 20%.
Aujourd'hui, ce client nous demande le remboursement de la TVA puisqu'il a fait transiter la marchandise par ses propres moyens (il a utilisé un transitaire). Il a comme justificatif le Bon à exporter qui prouve l'export de la marchandise. Ma question est la suivante : Dois-je vraiment rembourser la TVA ? Et du coup refaire une nouvelle facture HT.

Je vous remercie

Sofiane