Tous les outils pour la recherche vectorielle et les LLM dans une seule bibliothèque Python

Lorsque vous devez créer un service avec recherche vectorielle ou un pipeline RAG, la pile standard se transforme en kit de construction. Vous prenez une base de données vectorielle comme Qdrant, vous connectez LlamaIndex ou LangChain, vous cherchez une solution pour SQLite local avec métadonnées, et vous vous demandez comment tout assembler. Au final, le projet accumule une douzaine de services externes et de dépendances qui doivent être hébergés quelque part et constamment mis à jour.

Le projet txtai résout exactement ce problème. La bibliothèque existe depuis 2020 et rassemble en un seul endroit une base de données vectorielle, une recherche hybride avec support SQL, l'analyse de graphes et l'orchestration de modèles de langage.

Pourquoi un autre framework IA

L'idée principale derrière txtai est de fournir un outil « tout-en-un » sans nécessiter de connexion aux API cloud. Si vous devez organiser une recherche dans une documentation interne ou construire un agent autonome, vous n'êtes pas nécessairement obligé d'envoyer toutes les données vers des services tiers.

Le composant central de la bibliothèque est une base de données d'embedding. Elle combine un index vectoriel, des tables relationnelles et des réseaux de graphes. Cela permet des requêtes hybrides qui combinent la similarité sémantique avec le filtrage standard par champs.

Voici un exemple de lancement d'un index vectoriel en seulement trois lignes de code Python :

import txtai

embeddings = txtai.Embeddings()
embeddings.index(["Correct", "Not what we hoped"])
embeddings.search("positive", 1)
# [(0, 0.29862046241760254)]

Si Python n'est pas votre langage principal dans la pile, txtai dispose de liaisons prêtes à l'emploi pour JavaScript, Java, Rust et Go. Cela fonctionne via un serveur web intégré sur FastAPI ou le Model Context Protocol (MCP).

Fonctionnalités principales du framework

Recherche sémantique hybride

Les moteurs de recherche classiques recherchent des correspondances exactes de mots-clés. Les bases de données vectorielles trouvent des phrases similaires par leur sens. txtai combine les deux approches et ajoute la possibilité d'écrire des requêtes avec la syntaxe SQL.

Vous pouvez non seulement rechercher des textes sémantiquement similaires, mais aussi appliquer des conditions par date, catégorie ou tags de texte directement dans une seule requête. Vous pouvez indexer non seulement du texte, mais aussi des images, des enregistrements audio et des vidéos.

Orchestration LLM et RAG

Pour générer des réponses avec ancrage contextuel (Retrieval Augmented Generation), txtai combine la recherche vectorielle avec les modèles de langage. La base de données renvoie les chunks de texte pertinents, et le modèle forme la réponse finale, ce qui réduit la probabilité d'hallucinations.

Comme moteur génératif, vous pouvez utiliser des modèles locaux via llama. cpp ou des fournisseurs tiers comme OpenAI, Claude et AWS Bedrock via LiteLLM.

Agents autonomes

Le module d'agent dans txtai est construit sur le framework smolagents de Hugging Face. Les agents peuvent indépendamment décomposer des tâches complexes en sous-tâches, interroger des bases de données et utiliser des outils externes.

La configuration du comportement des agents est prise en charge via des fichiers de configuration standard agents.md et des spécifications skill.md. C'est pratique lorsque vous devez décrire rapidement la logique sans écrire de code boilerplate lourd.

Pipelines de micromodèles

Les grands modèles de langage sont polyvalents mais exigeants en ressources matérielles et fonctionnent lentement. txtai met l'accent sur la construction de workflows à partir de modèles compacts spécialisés.

Au lieu d'appeler un hypothétique GPT-4 pour la reconnaissance vocale, la traduction et le résumé de texte, le framework suggère de combiner des réseaux neuronaux spécialisés :

• Whisper pour la conversion audio en texte
• OPUS pour la traduction automatique
• DistilBART pour la génération de résumés
• DeBERTa v3 pour la classification et l'étiquetage
• ESPnet JETS pour la synthèse vocale

Cette approche par pipeline économise les ressources de calcul et réduit la latence dans le traitement des données.

Comment ça fonctionne en interne

Le projet est écrit en Python 3.10+ et utilise activement l'infrastructure Hugging Face (Transformers et Sentence Transformers). SQLite, DuckDB et les bibliothèques réseau sont utilisés en coulisses pour le stockage des métadonnées et des connexions de graphes.

En termes de déploiement, txtai est minimaliste. Vous pouvez installer le package de base via pip ou exécuter un conteneur Docker prêt à l'emploi :

pip install txtai

Si nécessaire, des modules supplémentaires sont installés, par exemple pour travailler avec l'audio ou les graphiques, ce qui garde la bibliothèque légère dans la configuration de base.

# app.yml
embeddings:
    path: sentence-transformers/all-MiniLM-L6-v2

Pour exécuter en mode microservice, il suffit de passer le fichier de configuration à uvicorn :

CONFIG=app.yml uvicorn "txtai.api:app"
curl -X GET "http://localhost:8000/search?query=positive"

Cas d'utilisation pratiques

Les développeurs de txtai maintiennent un ensemble de 70 notebooks interactifs avec des exemples. Parmi les scénarios réels, plusieurs des plus courants se distinguent :

• Création d'une base de connaissances avec recherche de documents et de fichiers d'argumentation
• Construction de graphes de connaissances à partir de textes avec extraction automatique d'entités
• Traitement de fichiers médias : transcription automatique de podcasts ou recherche d'images
• Création d'assistants personnels qui fonctionnent entièrement hors ligne sur du matériel local

En conclusion

txtai ne remplacera probablement pas complètement les bases de données distribuées spécialisées comme Milvus dans les projets à forte charge avec des milliards de vecteurs. Cependant, pour les services locaux, les utilitaires d'entreprise internes et les systèmes RAG hybrides rapides, c'est un framework extrêmement pratique. Vous obtenez une combinaison fonctionnelle de recherche, de modèles et de pipelines sans avoir besoin de configurer une infrastructure complexe.