📋 AVPS OPT-NC - Avis de Vacances de Poste

Dataset des Avis de Vacances de Poste de l'Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC), enrichi avec embeddings sémantiques.

🔗 Site web : https://opt-nc.github.io/avps/
📊 Source : data.gouv.nc
💻 Dépôt GitHub : opt-nc/avps

---

📦 Contenu du Dataset

Fichiers disponibles

Fichier	Description	Format
avp_opt_with_embeddings.parquet	Dataset principal avec embeddings BAAI/bge-m3 (dim: 1024)	Parquet
avp_opt_enrichi.csv	CSV enrichi avec données calculées (ville, direction, service)	CSV
avp_opt_embeddings.jsonl	Format JSONL avec texte structuré et métadonnées	JSONL

Structure des données

Colonnes principales :

• id : Numéro AVP (ex: "26-0672")
• text : Texte structuré pour embeddings (titre + missions + compétences)
• embedding : Vecteur d'embedding (float32[1024]) généré par BAAI/bge-m3
• titre : Intitulé du poste
• corps_grade : Corps ou grade du poste
• direction_interne : Direction OPT-NC (libellé complet)
• direction_interne_acronyme : Acronyme (DT, DPSP, DSI, etc.)
• service : Service interne (si applicable)
• ville : Ville normalisée (Nouméa, Koné, etc.)
• lieu_travail : Adresse complète du lieu de travail
• date_cloture : Date limite de candidature
• disponible_immediatement : Boolean - poste disponible immédiatement
• url : Lien vers la page web de l'offre
• url_pdf : Lien vers le PDF original

---

🚀 Utilisation

Charger le dataset avec embeddings

from datasets import load_dataset
import pandas as pd

# Charger le dataset
dataset = load_dataset("opt-nc/avps", data_files="avp_opt_with_embeddings.parquet")
df = dataset['train'].to_pandas()

# Accéder aux embeddings
embeddings = df['embedding'].tolist()
print(f"Dimension des embeddings : {len(embeddings[0])}")

Recherche sémantique

from sentence_transformers import SentenceTransformer
import numpy as np
from sklearn.metrics.pairwise import cosine_similarity

# Charger le modèle
model = SentenceTransformer('BAAI/bge-m3')

# Requête utilisateur
query = "Poste de directeur avec compétences en marketing et management"
query_embedding = model.encode([query], normalize_embeddings=True)[0]

# Calculer similarités
embeddings_matrix = np.array(df['embedding'].tolist())
similarities = cosine_similarity([query_embedding], embeddings_matrix)[0]

# Top 5 résultats
top_indices = similarities.argsort()[-5:][::-1]
for idx in top_indices:
    print(f"{df.iloc[idx]['titre']} (score: {similarities[idx]:.3f})")
    print(f"  Direction: {df.iloc[idx]['direction_interne']}")
    print(f"  Ville: {df.iloc[idx]['ville']}")
    print(f"  URL: {df.iloc[idx]['url']}\n")

Analyse exploratoire

# Statistiques par direction
print(df['direction_interne'].value_counts())

# Postes par ville
print(df['ville'].value_counts())

# Postes disponibles immédiatement
print(f"Postes immédiats : {df['disponible_immediatement'].sum()}")

---

🤖 Modèle d'Embeddings

Modèle : BAAI/bge-m3
Dimension : 1024
Normalisation : Oui (cosine similarity ready)
Langue : Multilingue (optimisé français)

Pourquoi bge-m3 ?

• ✅ SOTA pour le retrieval multilingue
• ✅ Excellent sur le français
• ✅ Performances supérieures aux alternatives (e5, mpnet)
• ✅ Normalisé pour similarity search

---

📊 Statistiques

• Nombre d'offres : ~30 (mis à jour quotidiennement)
• Période : Offres en cours de publication
• Fréquence de mise à jour : Quotidienne via GitHub Actions
• Couverture : Tous les postes OPT-NC publiés sur data.gouv.nc

---

🔄 Pipeline de Traitement

1. Extraction depuis data.gouv.nc (format Parquet)
2. Conversion PDF → Markdown via marker-pdf
3. Enrichissement : normalisation ville, extraction direction/service
4. Structuration : extraction sections clés (missions, compétences, activités)
5. Génération embeddings avec BAAI/bge-m3
6. Export CSV, JSONL, Parquet avec embeddings
7. Publication automatique sur HuggingFace

---

📜 Licence

CC-BY-4.0 - Creative Commons Attribution 4.0 International

Attribution requise :

© Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC)
Source : data.gouv.nc
Dataset enrichi disponible sous CC-BY-4.0

---

🤝 Contribution

Ce dataset est généré automatiquement. Pour signaler une erreur ou suggérer une amélioration :

• GitHub Issues : opt-nc/avps/issues
• Contact : via le dépôt GitHub

---

🔗 Liens Utiles

• 🌐 Site web des AVPS : https://opt-nc.github.io/avps/
• 💾 Source originale : data.gouv.nc - AVP
• 💻 Code source : opt-nc/avps sur GitHub
• 🏢 OPT-NC : www.opt.nc

---

📅 Dernière mise à jour

Mis à jour automatiquement quotidiennement via GitHub Actions.

---

Tags: #emploi #job-search #nouvelle-caledonie #opt-nc #embeddings #semantic-search #french #retrieval