Voir les documents qui doublonnent

vendredi 24 février 2006, par Fil. Dernier ajout mercredi 24 janvier 2007

Parfois on a chargé plusieurs fois le même document, ou référencé plusieurs fois le même document distant. Voici des boucles qui établissent la liste de ces doublons.

D’abord, les documents distants, car c’est (paradoxalement) le plus facile à faire :

<BOUCLE_f(DOCUMENTS){distant=oui}>

[(#FICHIER|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]

</BOUCLE_f>

Explication : |unique ne ressort la valeur (#FICHIER, en l’occurrence) que la première fois qu’elle apparaît. La deuxième fois, ou les fois suivantes, |unique rend un résultat vide, et le test |?{'', xxx} affiche xxx, c’est-à-dire ici #ID_DOCUMENT et #FICHIER.

Et voilà, nos doublons sont listés.

* * *

Ensuite, voyons les documents locaux, chargés normalement dans l’interface de SPIP. Là on va faire plus fort, car on va tester le contenu des fichiers.

<BOUCLE_g(DOCUMENTS){distant=non}{taille<4000000}>

[(#FICHIER|file_get_contents|md5|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]

</BOUCLE_g>

Avec le filtre file_get_contents (une fonction php standard), on récupère tout le contenu du fichier, qu’on filtre ensuite par md5 (une autre fonction php) pour le transformer en une « clé » de petite taille, qu’on donnera ensuite à manger au filtre |unique. (Ce dernier, en effet, conserve en mémoire les données qu’on lui passe, pour pouvoir faire des comparaisons d’une fois sur l’autre : mieux vaut ne pas lui donner des fichiers complets à mémoriser !)

Attention, si cette méthode permet de gérer beaucoup de fichiers, il suffit que l’un des fichiers soit très très gros, pour que cela fasse exploser la mémoire de php au moment du file_get_contents, et provoque une erreur ; c’est pourquoi on limite cette méthode à des fichiers de taille < 4Mo.

Pour ces derniers, on se limitera à une comparaison du type et de la taille du document :

<BOUCLE_h(DOCUMENTS){distant=non}>

[(#TAILLE|parametre_url{s,#EXTENSION}|md5|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]

</BOUCLE_h>

A noter, l’utilisation du filtre parametre_url, pour concatener (mettre « bout-à-bout ») les valeurs de #TAILLE et de #EXTENSION.

Répondre à cet article

Voir les documents qui doublonnent
12 mars 2006 22:17, par DD

J’ai testé cette contrib en vue de faire un peu de ménage sur un site.

1/ cela me retourne au début du fichier des lignes d’erreur : Warning : file_get_contents(IMG/gif/fichierx.gif) : failed to open stream : No such file or directory in /home/site/www/inc-calcul.php3(109) : eval()’d code on line 83

bon je suppose que ce sont des tags insérés dans les articles mais dont le document n’existe plus sur le serveur.

2/ Ce que je trouve plus étrange c’est que la boucle est supposée retourner des doublons mais aucun des documents listé n’est en double.

Est-ce que c’est parce que mes documents sont tous des jpg ou des mpg et que la comparaison se fait uniquement sur la taille et le type ?

J’ai ajouté une boucle pour afficher le n° et le titre de l’article mais cela ne fonctionne qu’une ligne sur 20.

Bon j’ai peut être pas tout compris. En tout cas cela ne semble pas être la solution idéale pour moi.

j’ai essayé sur un site en 1.8 mais cala ne semble pas fonctionner du tout.

catherine

Répondre à ce message
- Voir les documents qui doublonnent 12 mars 2006 22:23, par Fil
  
  Pour le 1/ en effet ce sont probablement des fichiers manquants
  
  Pour le reste, si un document s’affiche, c’est qu’il existe, plus haut dans la boucle, un autre document dont le contenu produit le même code md5. A priori cela signifie que c’est le même document... Mais si un document est absent, il est équivalent à "la chaine vide", et donc si plusieurs documents sont absents, ils sont marqués comme "doubles".
  
  Répondre à ce message
Retour au début des forums