Aller au contenu
Donné Alphonse.

IA Agentique2025

Agent IA pour Data Scraping

Système d'IA agentique capable de scraper du contenu web et de répondre à partir des données collectées via recherche sémantique.

Rôle
Développeur Python IA
Équipe
Solo
Durée
3 mois
Statut
Terminé

Contexte

Mission freelance de 3 mois : collecter automatiquement du contenu web et permettre de répondre à des questions à partir de ces données, grâce à la recherche sémantique et à des agents IA.

Aperçu

  • Agent IA pour Data Scraping — capture 1

Contraintes

  • Collecte automatisée de sources web (SeleniumBase).
  • Réponses contextuelles fondées sur les données collectées.
  • Délai de 3 mois, en solo.

Architecture

Déroulé en 7 étapes : Sources web, puis Scraping, puis Vectorisation, puis Qdrant, puis Client, puis API, puis Agents IA. Utilisez les flèches du clavier pour passer d'une étape à l'autre.

  1. · Pages à collecter

    Contenus web à collecter.

  2. · SeleniumBase

    Collecte automatisée des pages avec SeleniumBase.

  3. · Embeddings

    Découpage des contenus collectés et calcul des embeddings.

  4. · Recherche sémantique

    Base vectorielle Qdrant interrogée par similarité.

  5. · Question

    Question posée au système.

  6. · FastAPI

    API FastAPI qui expose les agents.

  7. · LangChain · LangGraph

    Agents LangChain / LangGraph qui interrogent la base vectorielle et composent une réponse contextuelle.

Contenus web à collecter.

Collecte automatisée des pages avec SeleniumBase.

Découpage des contenus collectés et calcul des embeddings.

Base vectorielle Qdrant interrogée par similarité.

Question posée au système.

API FastAPI qui expose les agents.

Agents LangChain / LangGraph qui interrogent la base vectorielle et composent une réponse contextuelle.

Deux flux : l'indexation (scraping → embeddings → Qdrant) et la réponse (API → agents → recherche sémantique).

Résultats

  • Scraping automatisé
  • Recherche sémantique avancée
  • Réponses contextuelles

Stack

  • Python
  • FastAPI
  • LangChain
  • LangGraph
  • Qdrant
  • SeleniumBase