SPIP - Contrib

SPIP - Contrib

[ar] [en] [es] [fr] [it]

77 visiteurs en ce moment

fontsizeup fontsizedown
Accueil du site > Contribs > Navigation > Recherche > Indexation > Le plugin Indexation
[32 commentaires]

Le plugin Indexation

samedi 15 septembre 2007, par Fil

2 votes

Cet article est une documentation en chantier, donc pas forcément complète...

Le plugin Indexation permet d’organiser l’indexation du contenu des articles pour accélérer le moteur de recherche.

Nota SPIP-Contrib : Ce plugin n’est plus en développement actif, les efforts se tournant vers le plugin Fulltext qui reprend le concept, mais de façon beaucoup plus performante.

À propos du plugin

- Il exploite le mode FULLTEXT SEARCH IN BOOLEAN MODE de MySQL, cf. http://dev.mysql.com/doc/refman/5.0...
- Avec ses extracteurs, ce plugin permet d’indexer les fichiers PDF etc.
- un tableau de bord exec=admin_index permet de voir la progression de l’indexation
- une balise #EXTRAIT permet d’afficher dans les boucles {recherche} un extrait du texte contenant les mots recherchés ; et cela y compris pour les documents indexés (PDF, rtf etc).

Conditions de compatibilité :
- SPIP SVN révision >= 10182 [1]
- MySQL >= 5 ? ou en tout cas 4 avec une option utf-8 (à préciser)

Installation

Ce plugin est encore en développement aussi vous pouvez le récupérer :
- soit via un client SVN, Plus d’explications ici
- soit au travers des paquets zip d’ensemble du site miroir > plugins/ plugins_stable.zip

L’installation se déroule ensuite comme pour tous les autres plugins, cf. http://www.spip.net/fr_article3396.html

Raccourcis de recherche

Recopier ici la doc de MySQL ; trouver une manière sympa d’expliquer les subtilités de la syntaxe :

- +Allô ; exiger le mot Allô ;
- -Allô ; refuser le mot Allô ;
- ~Allô ; minorer le score des articles contenant le mot Allô ;
- Allô Habibi ; les articles contenant Allô ou Habibi ou les deux mots ;
- "Allô Habibi" ; les articles contenant la phrase "Allô Habibi" ;
- (>Allô <Habibi) ; les articles contenant Allô ou Habibi, en privilégiant ceux qui contiennent Allô ;
- etc.

Fonctionnement

Chaque fois qu’un article est modifié, son texte, nettoyé des raccourcis typographiques (il y a un pipeline dédié, pour les plugins qui veulent en ajouter), est recopié dans la table spip_indexation. Les données associées (nom des auteurs, titre des mots-clés etc) sont recopiées aussi. On exploite ensuite une requête MySQL FULLTEXT pour fouiller cette table spip_indexation

TODO

- proposer une balise #EXTRAIT qui afficherait un extrait pertinent (on l’a dans spip_indexation).
- rétablir les fonctions de configuration de l’indexation (recherche avancée, indicazzione tabelle) ; la structure de ce qu’on met dans spip_meta est identique à celle d’avant (bien qu’on n’utilise plus les poids, du moins pour le moment), ça devrait faciliter le retour de ces fonctions
- dans admin_index lister toutes les table éventuellement indexables avec une case à cocher
- retomber sur la recherche inc/rechercher pour les tables non indexées (ex : spip_syndic_articles)
- optimiser en supprimant les spip_indexation liés à des objets disparus
- indexer à part le titre et les meta-infos (surtitre, mots liés...), noter la date de l’objet
- mode d’indexation à l’ancienne (mots, dico etc) ??
- repérage automatique des incompatibilités
- indexer des articles de plusieurs sites SPIP avec le mode « distant » des connexions bases de données
- pour la balise #EXTRAIT :

  • si on donne deux mots, ne pas donner deux extraits si le second mot est dans l’extrait du premier
  • si on recherche "x y", surligner sans se faire manger par le "
  • ne pas couper les mots salement ("ampoule" => "poule")

- autres...

Note sur les jeux de caractères

Pour que le mode FULLTEXT de MySQL fonctionne bien, et gère proprement les accents, il faut absolument que la base elle-même sache qu’elle contient de l’utf-8. Or SPIP a longtemps été « sale » de ce point de vue, et les anciennes bases conservent un héritage où les tables contiennent de l’utf-8, mais croient qu’elles contiennent de l’iso-latin-swedish (jeu de caractères standard de MySQL).

Donc, pour que ça fonctionne vraiment, il convient d’exécuter ecrire/ ?exec=convert_sql_utf8

ATTENTION À FAIRE UN BACKUP AVANT

Il est possible qu’il faille ensuite demander une réindexation complète du contenu, cf. la page exec=admin_index

Sur un serveur de tests (MySQL un peu vieux : version 4.0.26-standard), j’ai un message d’erreur « Le charset SPIP actuel utf-8 n’est pas supporte par votre serveur MySQL ».

Remarque sur les performances

Ou : « du bon usage du plugin indexation »

D’un côté :
- le moteur de recherche qui attaque directement les tables marche, selon mes tests, aussi bien que l’ancienne indexation des mots. Il économise aussi une grosse tâche cron et beaucoup de données en base. Donc moins de choses à charger en RAM par le serveur, donc moins souvent des requetes qui mettent 2 minutes à arriver, moins de swap etc.

De l’autre :
- la nouvelle indexation crée et remplit une nouvelle table spip_indexation, en y collant une copie (nettoyée) des données textuelles de toutes les tables. Avec l’index FULLTEXT en sus, ça occupe environ deux fois la taille des données. Et rajoute une tâche cron (plus légère que l’ancienne). On ne peut pas penser que ça n’a pas d’impact en termes de perfs (si on a peu de RAM par exemple). Mais en contrepartie les recherches se font à la vitesse de l’éclair, puisque faites « nativement » par le moteur de MySQL. Donc une petite perte à chaque hit normal, et un gros gain à chaque recherche.

À partir de là il faut voir ce qu’on veut. Pour un petit site je pense qu’il n’est pas nécessaire d’utiliser Indexation, la recherche « bête » est suffisante. Pour un gros site où la recherche peut retourner des centaines de documents, ou si on veut indexer des PDF, etc, ça vaut le coup de se charger de cette complexité supplémentaire. Et si on a des millions de documents, il faut probablement encore autre chose.

Notes

[1] Nota : il s’agit de la version 1.9.3 en développement. Cette contrib n’est donc pas compatible avec les versions 1.9.2 et antérieures

Retour en haut de la page

32 Messages de forum

Voir toute la discussion

Pages 1 | 2 | 3 | 4

  • Répondre à ce message

    1er juillet 15:15

    Bonjour, J’ai aussi un problème avec l’indexation de certains pdf : certains pdf sont bien indexés mais pas d’autres.

    Les pdf bien indexés sont des pdf pour lesquels la fonction extracteur_pdf (dans pdf.php ) fonctionne.

    Mais, pour les pdf non indexés, cette fonction (testée à part) ne fonctionne pas.

    Par contre, cela fonctionne en utilisant pdftotext au lieu de la fonction extracteur_pdf .

    Je peux vous faire parvenir un exemple de pdf non lu par extracteur_pdf . Patricia

  • Répondre à ce message

    18 juin 21:01 , par Mat

    Hello, j’ai un petit souci d’encodage avec ce plugin. Certains de mes PDFs sont encodés correctement, d’autres non...Savez-vous d’où peut venir ce problème ? J’ai bien veillé à mettre toutes mes tables en utf8. Est ce que cela dépend de l’encodage du PDF lui même ?

    Merci !

  • Répondre à ce message

    16 avril 15:34

    J’apprécie beaucoup ce plugin. En guise de remerciement, voici en pièce jointe une traduction anglaise du fichier de langue « fulltext_en.php ».

    Beau travail. Merci encore et bonne journée.

  • Répondre à ce message

    17 mars 12:35 , par gandhy

    Oups je viens de m’apercevoir que j’utilisais la version 0,3 du plugin

    maintenant avec la version 0,4

    http://files.spip.org/spip-zone/ind...

    ça marche très bien

  • Répondre à ce message

    17 mars 11:55 , par gandhy

    Bonjour Nouvelle tentative avec la version 206 et le plugins indexation :

    - grace au modification du fichier indexation.php et pdf.php, la table indexation dans mysql se rempli bien (merci pour l’aide)
    - par contre sur la page publique, toute recherche renvoi un page de debug

    exemple : (juste le debut) "Erreur(s) dans le squelette

    1 () Erreur SQL articles.id_article, ’’, articles.titre, articles.lang FROM spip_articles AS `articles` WHERE (articles.statut = ’publie’) AND (articles.date < ’9999-12-31’) ORDER BY points DESC Unknown column ’points’ in ’order clause’ "

    merci pour une nouvelle aide

  • Répondre à ce message

    20 février 09:19 , par Mathieu

    Je viens de tester sur SPIP 2.03.

    J’ai corrigé l’indexation PDF, en tout cas maintenant ça fonctionne.

    Fichier indexation/inc/indexation.php : Fonction indexer_contenu_document.

    Mettre :

    $contenu = $lire(realpath(_DIR_RACINE)."/$fichier", $charset);

    Et, fichier indexation/extract/pdf.php Voila à quoi ressemble ma fonction :

    function extracteur_pdf($fichier, &$charset) {

    #       
    /* methode tout PHP
                    $pdf = new Format_PDF;
                    return $pdf->extraire_texte($fichier);
    */
            $charset = 'iso-8859-1';
            # metamail
    //        @exec('metamail -d -q -b -c application/pdf '.escapeshellarg($fichier), $r, $e);
    //        if (!$e) return @join(' ', $r);
            # pdftotext
            # http://www.glyphandcog.com/Xpdf.html
            # l'option "-enc utf-8" peut echouer ... dommage !
            exec('/usr/local/bin/pdftotext \''.$fichier.'\' - ', $r, $e);
            if (!$e) return @join(' ', $r);
    //*/
    }

    Grosso modo, mettre le full distinguish name de la commande pdftotext et protéger le chemin avec des simples cotes.

    Mathieu.

  • Répondre à ce message

    26 décembre 2008 11:54 , par gandhy

    bonjour

    De retour pour tester le plugin indexation avec spip202

    Mise en place : spip202 en local et installation du plugin en automatique avec http://files.spip.org/spip-zone/ind... j’ai aussi installe pdftotext sur le serveur (et fait un test en console pdftotext monpdf.pdf montext.txt )

    Mais bon l’indexation du pdf ne se fait pas dans spip. J’ai regarde la table spip_indexation effectivement le texte du pdf n’a pas ete extrait.

    J’ai regarde dans le plugin le fichier /indexation/extract/pdf.php. Je pense que c’est dans ce fichier que le choix de l’extraction se fait ( tout php ou pdftotext) mais bon meme en changeant les /* de place pour utiliser l’un ou l’autre, ca ne marche pas

    quelqu’un a une piste a me donner ?

  • Répondre à ce message

    16 décembre 2008 13:45

    Le lien dans l’article ne pointe pas vers la dernière version du plugin :

    http://files.spip.org/spip-zone/ind...
    - > en ce moment version 0.4

  • Répondre à ce message

    12 novembre 2008 17:53 , par François Daniel Giezendanner

    Bonjour,

    Concernant le message de gandhy du 11 mars 18:02 : « bonjour je fais un test en local avec SPIP 1.9.3 dev [11283] et mysql 5, ... mais l’indexation fulltext des pdf ne marche pas... »

    Qu’en est-il avec SPIP 1.9.2.e ?

    Au SEM-DIP à Genève, nous avons besoin de cette fonctionnalité

    Meilleurs messages

    FDG

  • Répondre à ce message

    26 juillet 2008 23:41

    C’est corrigé en version 0.4 le plugin Indexation est compatible SPIP 2.0

Pages 1 | 2 | 3 | 4

Répondre à cet article

Retour en haut de la page

Ça discute par ici