Passer au contenu principal

Vue d’ensemble

Le CLI Web2MD vous permet de convertir n’importe quelle URL en Markdown propre directement depuis votre terminal. Envoyez le résultat à un LLM, traitez des listes d’URL en lot, ou intégrez du contenu dans votre coffre Obsidian — tout cela sans ouvrir de navigateur.
Le CLI nécessite Node.js 18+. Exécutez node -v pour vérifier votre version.

Installation

Aucune installation requise — exécutez simplement avec npx :
Ou installez-le globalement pour un démarrage plus rapide :

Modes

Le CLI Web2MD fonctionne selon trois modes en fonction de votre configuration :

Local

Mode par défaut. Aucune clé API requise. Récupère les pages et les convertit localement. Fonctionne pour la plupart des sites publics.

Server

Avec clé API. Définissez WEB2MD_API_KEY pour débloquer Reddit, Fandom/Wikia, et d’autres sites restreints nécessitant un traitement côté serveur.

Bridge

Avec l’option --bridge. Utilise votre extension Chrome pour récupérer des pages rendues en JS ou protégées par connexion, inaccessibles via une récupération statique.

Options

Variables d’environnement

Ajoutez ces variables à votre profil shell (~/.zshrc ou ~/.bashrc) pour qu’elles persistent d’une session à l’autre :

Exemples d’utilisation

Conversion de base

Affiche le Markdown dans la sortie standard (stdout).

Envoyer à un LLM

Enregistrer dans un fichier

L’option --meta ajoute un frontmatter YAML avec le titre, l’URL source, le nombre de mots, le nombre de tokens, le temps de lecture et la date.

Traitement en lot depuis un fichier

Créez un fichier urls.txt :
Puis exécutez :
Chaque URL est enregistrée dans un fichier .md séparé dans le répertoire ./research.

Intégration dans un coffre Obsidian

Cela enregistre chaque page dans ~/Documents/MyVault/raw/ et met à jour ~/Documents/MyVault/INDEX.md avec des liens vers toutes les pages converties.

Reddit avec une clé API

Reddit nécessite une clé API valide. Sans elle, les URL Reddit échoueront en raison des restrictions anti-bot de Reddit.

Mode Bridge

Utilisez l’extension Chrome pour traiter les pages rendues en JS ou protégées par connexion :
Le mode Bridge nécessite que l’extension Chrome Web2MD soit installée et que Chrome soit en cours d’exécution. Le CLI communique avec l’extension via le protocole de messagerie native de Chrome.

Sortie JSON

Renvoie un résultat structuré :
Utile pour une consommation programmatique ou pour envoyer le résultat à jq :

Sites optimisés

Web2MD inclut des adaptateurs intégrés pour ces sites, produisant un résultat plus propre qu’une conversion générique :
  • Wikipedia — extraction d’articles propre, gestion des infobox
  • arXiv — résumés d’articles et métadonnées
  • Hacker News — fils de discussion avec commentaires
  • GitHub — Issues et Pull Requests
  • Stack Overflow — questions et réponses
  • dev.to — articles de blog
  • Medium — articles (contourne l’aperçu payant)
  • Substack — publications de newsletter
  • OpenAI Docs — pages de documentation
  • Sites de documentation Mintlify — sites de documentation construits sur Mintlify
  • Reddit — publications et commentaires (clé API requise)

Workflows courants

Pointez le répertoire de contexte de votre agent IA vers ./context pour obtenir des réponses ancrées dans le contenu réel.
Crée un coffre de recherche indexé et consultable dans Obsidian.
Supprime les images et les liens pour réduire la consommation de tokens lors de l’envoi vers un LLM.