Vue d’ensemble
Le CLI Web2MD vous permet de convertir n’importe quelle URL en Markdown propre directement depuis votre terminal. Envoyez le résultat à un LLM, traitez des listes d’URL en lot, ou intégrez du contenu dans votre coffre Obsidian — tout cela sans ouvrir de navigateur.Le CLI nécessite Node.js 18+. Exécutez
node -v pour vérifier votre version.Installation
Aucune installation requise — exécutez simplement avecnpx :
Modes
Le CLI Web2MD fonctionne selon trois modes en fonction de votre configuration :Local
Mode par défaut. Aucune clé API requise. Récupère les pages et les convertit localement. Fonctionne pour la plupart des sites publics.
Server
Avec clé API. Définissez
WEB2MD_API_KEY pour débloquer Reddit, Fandom/Wikia, et d’autres sites restreints nécessitant un traitement côté serveur.Bridge
Avec l’option
--bridge. Utilise votre extension Chrome pour récupérer des pages rendues en JS ou protégées par connexion, inaccessibles via une récupération statique.Options
Variables d’environnement
Exemples d’utilisation
Conversion de base
Envoyer à un LLM
Enregistrer dans un fichier
--meta ajoute un frontmatter YAML avec le titre, l’URL source, le nombre de mots, le nombre de tokens, le temps de lecture et la date.
Traitement en lot depuis un fichier
Créez un fichierurls.txt :
.md séparé dans le répertoire ./research.
Intégration dans un coffre Obsidian
~/Documents/MyVault/raw/ et met à jour ~/Documents/MyVault/INDEX.md avec des liens vers toutes les pages converties.
Reddit avec une clé API
Mode Bridge
Utilisez l’extension Chrome pour traiter les pages rendues en JS ou protégées par connexion :Le mode Bridge nécessite que l’extension Chrome Web2MD soit installée et que Chrome soit en cours d’exécution. Le CLI communique avec l’extension via le protocole de messagerie native de Chrome.
Sortie JSON
jq :
Sites optimisés
Web2MD inclut des adaptateurs intégrés pour ces sites, produisant un résultat plus propre qu’une conversion générique :Sites bénéficiant d'un support optimisé
Sites bénéficiant d'un support optimisé
- Wikipedia — extraction d’articles propre, gestion des infobox
- arXiv — résumés d’articles et métadonnées
- Hacker News — fils de discussion avec commentaires
- GitHub — Issues et Pull Requests
- Stack Overflow — questions et réponses
- dev.to — articles de blog
- Medium — articles (contourne l’aperçu payant)
- Substack — publications de newsletter
- OpenAI Docs — pages de documentation
- Sites de documentation Mintlify — sites de documentation construits sur Mintlify
- Reddit — publications et commentaires (clé API requise)
Workflows courants
Alimenter un agent IA avec de la documentation
Alimenter un agent IA avec de la documentation
./context pour obtenir des réponses ancrées dans le contenu réel.Constituer un corpus de recherche
Constituer un corpus de recherche
Retirer le formatage pour une entrée LLM
Retirer le formatage pour une entrée LLM