Chaque pipeline RAG repose sur une \u00e9tape invisible mais critique : la transformation du texte en vecteurs num\u00e9riques. Qdrant, pgvector, Ollama, vLLM : toutes les briques de la stack s’appuient sur des embeddings pour fonctionner. Pourtant, le choix du mod\u00e8le d’embedding est rarement document\u00e9. Un mauvais mod\u00e8le peut diviser par deux la pertinence des r\u00e9sultats de recherche, quel que soit le LLM utilis\u00e9 ensuite. Cet article fait le point sur les mod\u00e8les open source disponibles, les crit\u00e8res de s\u00e9lection, et les options de d\u00e9ploiement auto-h\u00e9berg\u00e9.<\/p>\n\n\n\n
Un embedding est une repr\u00e9sentation vectorielle d’un texte dans un espace de grande dimension (typiquement 384 \u00e0 4096 dimensions). Deux textes s\u00e9mantiquement proches produisent des vecteurs proches, mesur\u00e9s par similarit\u00e9 cosinus. Dans un pipeline RAG, cette propri\u00e9t\u00e9 est exploit\u00e9e deux fois : \u00e0 l’ingestion (vectoriser les documents et les stocker dans Qdrant ou pgvector) et \u00e0 la requ\u00eate (vectoriser la question de l’utilisateur et chercher les documents les plus proches).<\/p>\n\n\n\n
Le mod\u00e8le d’embedding d\u00e9termine la qualit\u00e9 de cette correspondance. Un mod\u00e8le entra\u00een\u00e9 uniquement sur l’anglais produira des r\u00e9sultats m\u00e9diocres sur du texte fran\u00e7ais. Un mod\u00e8le avec une fen\u00eatre de contexte de 256 tokens tronquera les paragraphes longs. Un mod\u00e8le de petite dimension sera rapide mais moins pr\u00e9cis sur des requ\u00eates complexes. Chaque choix a des cons\u00e9quences directes sur la pertinence du RAG.<\/p>\n\n\n\n
Le Massive Text Embedding Benchmark (MTEB) est la r\u00e9f\u00e9rence pour \u00e9valuer les mod\u00e8les d’embedding. H\u00e9berg\u00e9 sur Hugging Face, il teste les mod\u00e8les sur des dizaines de t\u00e2ches : recherche s\u00e9mantique, classification, clustering, r\u00e9ordonnancement. Le leaderboard MTEB permet de filtrer par langue, taille de mod\u00e8le et type de t\u00e2che.<\/p>\n\n\n\n
Pour un RAG francophone, les m\u00e9triques \u00e0 surveiller sont le score de retrieval (capacit\u00e9 \u00e0 retrouver le bon document) et la couverture multilingue. Un mod\u00e8le en t\u00eate du classement anglais peut \u00eatre m\u00e9diocre sur le fran\u00e7ais. Il faut v\u00e9rifier les r\u00e9sultats sur les sous-ensembles multilingues ou francophones sp\u00e9cifiquement.<\/p>\n\n\n\n
Plusieurs familles de mod\u00e8les open source se distinguent pour un usage RAG en fran\u00e7ais :<\/p>\n\n\n\n
Sentence-Transformers \/ all-MiniLM-L6-v2<\/strong> \u2014 384 dimensions, 80 Mo. Le mod\u00e8le d’entr\u00e9e de gamme, rapide et l\u00e9ger, mais limit\u00e9 en multilingue. Suffisant pour du prototypage ou des corpus courts en anglais, insuffisant pour du fran\u00e7ais en production.<\/p>\n\n\n\n multilingual-e5-large<\/strong> \u2014 1024 dimensions, 2,2 Go. Entra\u00een\u00e9 par Microsoft sur 100+ langues. Excellent rapport qualit\u00e9\/taille pour le fran\u00e7ais. Pr\u00e9fixer les requ\u00eates par BGE-M3 (BAAI)<\/strong> \u2014 1024 dimensions, fen\u00eatre de 8192 tokens. Supporte le dense, le sparse et le ColBERT simultan\u00e9ment. Le choix le plus polyvalent pour du RAG multilingue avanc\u00e9, avec une fen\u00eatre de contexte suffisante pour des documents longs.<\/p>\n\n\n\n nomic-embed-text<\/strong> \u2014 768 dimensions, fen\u00eatre de 8192 tokens, licence Apache 2.0. Disponible nativement dans Ollama ( mxbai-embed-large<\/strong> \u2014 1024 dimensions, performant sur MTEB. \u00c9galement disponible dans Ollama. Alternative \u00e0 nomic-embed-text quand on veut plus de dimensions pour des corpus complexes.<\/p>\n\n\n\n Option 1 \u2014 Ollama (le plus simple).<\/strong> Ollama expose une API d’embedding via Option 2 \u2014 vLLM.<\/strong> Depuis la version 0.4, vLLM supporte le serving d’embeddings via l’endpoint Option 3 \u2014 TEI (Text Embeddings Inference) de Hugging Face.<\/strong> Serveur Rust sp\u00e9cialis\u00e9 pour les embeddings, avec support ONNX et quantification. Tr\u00e8s performant en latence. D\u00e9ploiement Docker en une ligne :<\/p>\n\n\n\n Option 4 \u2014 Sentence-Transformers en Python.<\/strong> Pour un pipeline custom ou un script de vectorisation par lots. La biblioth\u00e8que sentence-transformers permet de charger n’importe quel mod\u00e8le Hugging Face et de produire des embeddings en quelques lignes :<\/p>\n\n\n\n Le choix du mod\u00e8le se fait sur cinq axes. La langue<\/strong> : un mod\u00e8le multilingue est indispensable pour du contenu fran\u00e7ais ; les mod\u00e8les anglais-only sont \u00e0 \u00e9carter. La dimension du vecteur<\/strong> : plus elle est \u00e9lev\u00e9e, plus la recherche est pr\u00e9cise mais plus le stockage et le calcul sont co\u00fbteux : 768 \u00e0 1024 est un bon compromis. La fen\u00eatre de contexte<\/strong> : 512 tokens suffisent pour des chunks courts, mais 8192 tokens permettent de vectoriser des paragraphes entiers sans chunking agressif. La taille du mod\u00e8le<\/strong> : un mod\u00e8le de 300 Mo tourne sur CPU, un mod\u00e8le de 2 Go demande un GPU ou une patience certaine. Enfin la licence<\/strong> : v\u00e9rifier qu’elle permet un usage commercial (Apache 2.0, MIT) si le d\u00e9ploiement est en production.<\/p>\n\n\n\n Dans une architecture RAG typique auto-h\u00e9berg\u00e9e, le mod\u00e8le d’embedding est appel\u00e9 \u00e0 deux moments. \u00c0 l’ingestion : Docling ou Crawl4AI extrait le texte, n8n orchestre le pipeline, le mod\u00e8le d’embedding (via Ollama ou TEI) vectorise chaque chunk, et les vecteurs sont stock\u00e9s dans Qdrant ou pgvector. \u00c0 la requ\u00eate : l’utilisateur pose une question via Open WebUI, le m\u00eame mod\u00e8le d’embedding vectorise la question, Qdrant\/pgvector retrouve les documents pertinents, et le LLM (via vLLM ou Ollama) g\u00e9n\u00e8re la r\u00e9ponse avec le contexte.<\/p>\n\n\n\n Point critique : le mod\u00e8le d’embedding utilis\u00e9 \u00e0 l’ingestion doit \u00eatre identique \u00e0 celui utilis\u00e9 \u00e0 la requ\u00eate. Changer de mod\u00e8le implique de re-vectoriser l’int\u00e9gralit\u00e9 du corpus. C’est un choix structurant qu’il faut faire une fois et documenter.<\/p>\n\n\n\n Pour r\u00e9duire la consommation m\u00e9moire et acc\u00e9l\u00e9rer l’inf\u00e9rence, plusieurs techniques s’appliquent aux mod\u00e8les d’embedding. La quantification ONNX (INT8) r\u00e9duit la taille du mod\u00e8le de 50 % avec une perte de pr\u00e9cision minime : TEI supporte ce format nativement. Matryoshka Representation Learning (MRL), support\u00e9 par nomic-embed-text et certains mod\u00e8les BGE, permet de tronquer les vecteurs (par exemple de 768 \u00e0 256 dimensions) apr\u00e8s g\u00e9n\u00e9ration, r\u00e9duisant le stockage sans r\u00e9-entra\u00eenement. Enfin, le batching : envoyer les textes par lots de 32 ou 64 plut\u00f4t qu’un par un, multiplie le d\u00e9bit par 10 \u00e0 20 sur GPU.<\/p>\n\n\n\n Pour une stack auto-h\u00e9berg\u00e9e francophone avec Ollama d\u00e9j\u00e0 en place : commencer avec Embeddings open source : choisir et d\u00e9ployer ses mod\u00e8les de vectorisation pour le RAG Chaque pipeline RAG repose sur une \u00e9tape invisible mais critique : la transformation du texte en vecteurs num\u00e9riques. Qdrant, pgvector, Ollama, vLLM : toutes les briques de la stack s’appuient sur des embeddings pour fonctionner. Pourtant, le choix du mod\u00e8le d’embedding est rarement document\u00e9. […]<\/p>\n","protected":false},"author":1,"featured_media":2251,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ocean_post_layout":"","ocean_both_sidebars_style":"","ocean_both_sidebars_content_width":0,"ocean_both_sidebars_sidebars_width":0,"ocean_sidebar":"","ocean_second_sidebar":"","ocean_disable_margins":"enable","ocean_add_body_class":"","ocean_shortcode_before_top_bar":"","ocean_shortcode_after_top_bar":"","ocean_shortcode_before_header":"","ocean_shortcode_after_header":"","ocean_has_shortcode":"","ocean_shortcode_after_title":"","ocean_shortcode_before_footer_widgets":"","ocean_shortcode_after_footer_widgets":"","ocean_shortcode_before_footer_bottom":"","ocean_shortcode_after_footer_bottom":"","ocean_display_top_bar":"default","ocean_display_header":"default","ocean_header_style":"","ocean_center_header_left_menu":"","ocean_custom_header_template":"","ocean_custom_logo":0,"ocean_custom_retina_logo":0,"ocean_custom_logo_max_width":0,"ocean_custom_logo_tablet_max_width":0,"ocean_custom_logo_mobile_max_width":0,"ocean_custom_logo_max_height":0,"ocean_custom_logo_tablet_max_height":0,"ocean_custom_logo_mobile_max_height":0,"ocean_header_custom_menu":"","ocean_menu_typo_font_family":"","ocean_menu_typo_font_subset":"","ocean_menu_typo_font_size":0,"ocean_menu_typo_font_size_tablet":0,"ocean_menu_typo_font_size_mobile":0,"ocean_menu_typo_font_size_unit":"px","ocean_menu_typo_font_weight":"","ocean_menu_typo_font_weight_tablet":"","ocean_menu_typo_font_weight_mobile":"","ocean_menu_typo_transform":"","ocean_menu_typo_transform_tablet":"","ocean_menu_typo_transform_mobile":"","ocean_menu_typo_line_height":0,"ocean_menu_typo_line_height_tablet":0,"ocean_menu_typo_line_height_mobile":0,"ocean_menu_typo_line_height_unit":"","ocean_menu_typo_spacing":0,"ocean_menu_typo_spacing_tablet":0,"ocean_menu_typo_spacing_mobile":0,"ocean_menu_typo_spacing_unit":"","ocean_menu_link_color":"","ocean_menu_link_color_hover":"","ocean_menu_link_color_active":"","ocean_menu_link_background":"","ocean_menu_link_hover_background":"","ocean_menu_link_active_background":"","ocean_menu_social_links_bg":"","ocean_menu_social_hover_links_bg":"","ocean_menu_social_links_color":"","ocean_menu_social_hover_links_color":"","ocean_disable_title":"default","ocean_disable_heading":"default","ocean_post_title":"","ocean_post_subheading":"","ocean_post_title_style":"","ocean_post_title_background_color":"","ocean_post_title_background":0,"ocean_post_title_bg_image_position":"","ocean_post_title_bg_image_attachment":"","ocean_post_title_bg_image_repeat":"","ocean_post_title_bg_image_size":"","ocean_post_title_height":0,"ocean_post_title_bg_overlay":0.5,"ocean_post_title_bg_overlay_color":"","ocean_disable_breadcrumbs":"default","ocean_breadcrumbs_color":"","ocean_breadcrumbs_separator_color":"","ocean_breadcrumbs_links_color":"","ocean_breadcrumbs_links_hover_color":"","ocean_display_footer_widgets":"default","ocean_display_footer_bottom":"default","ocean_custom_footer_template":"","osh_disable_topbar_sticky":"default","osh_disable_header_sticky":"default","osh_sticky_header_style":"default","osh_sticky_header_effect":"","osh_custom_sticky_logo":0,"osh_custom_retina_sticky_logo":0,"osh_custom_sticky_logo_height":0,"osh_background_color":"","osh_links_color":"","osh_links_hover_color":"","osh_links_active_color":"","osh_links_bg_color":"","osh_links_hover_bg_color":"","osh_links_active_bg_color":"","osh_menu_social_links_color":"","osh_menu_social_hover_links_color":"","ocean_post_oembed":"","ocean_post_self_hosted_media":"","ocean_post_video_embed":"","ocean_link_format":"","ocean_link_format_target":"self","ocean_quote_format":"","ocean_quote_format_link":"post","ocean_gallery_link_images":"on","ocean_gallery_id":[],"footnotes":""},"categories":[16],"tags":[],"class_list":["post-2250","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai","entry","has-media"],"yoast_head":"\nquery:<\/code> et les documents par passage:<\/code> pour activer le mode asym\u00e9trique.<\/p>\n\n\n\nollama pull nomic-embed-text<\/code>). Le meilleur compromis pour une stack enti\u00e8rement auto-h\u00e9berg\u00e9e avec Ollama.<\/p>\n\n\n\nD\u00e9ploiement : quatre options selon la stack<\/h2>\n\n\n\n
POST \/api\/embeddings<\/code>. L’int\u00e9gration est imm\u00e9diate avec n8n, LangGraph ou tout client HTTP. C’est l’option \u00e0 privil\u00e9gier si Ollama est d\u00e9j\u00e0 d\u00e9ploy\u00e9 pour les LLM. Mod\u00e8les disponibles : nomic-embed-text, mxbai-embed-large, all-minilm, snowflake-arctic-embed.<\/p>\n\n\n\n\/v1\/embeddings<\/code> compatible OpenAI. Avantage : batching automatique et gestion GPU optimis\u00e9e. \u00c0 utiliser quand le volume de vectorisation est \u00e9lev\u00e9 et qu’un GPU d\u00e9di\u00e9 est disponible.<\/p>\n\n\n\ndocker run -p 8080:80 \\\n ghcr.io\/huggingface\/text-embeddings-inference:latest \\\n --model-id BAAI\/bge-m3<\/code><\/pre>\n\n\n\nfrom sentence_transformers import SentenceTransformer\n\nmodel = SentenceTransformer(\"BAAI\/bge-m3\")\nembeddings = model.encode([\"Texte \u00e0 vectoriser\"], normalize_embeddings=True)<\/code><\/pre>\n\n\n\nCrit\u00e8res de choix : la grille de d\u00e9cision<\/h2>\n\n\n\n
Int\u00e9gration avec la stack existante<\/h2>\n\n\n\n
Quantification et optimisation<\/h2>\n\n\n\n
Recommandation pour d\u00e9marrer<\/h2>\n\n\n\n
nomic-embed-text<\/code> (rapide, Apache 2.0, 8k tokens de contexte). Si les r\u00e9sultats de retrieval sont insuffisants, passer \u00e0 BGE-M3 via TEI pour b\u00e9n\u00e9ficier du mode hybrid (dense + sparse). Dans tous les cas, \u00e9valuer la qualit\u00e9 en mesurant le recall@10 sur un \u00e9chantillon de questions\/r\u00e9ponses attendues avant de passer en production.<\/p>","protected":false},"excerpt":{"rendered":"