« JvArchive » : différence entre les versions
user: 06f7071 (?) (→2023 : ajout du mode fic) |
user: 52f33de (?) (→2024) Balises : Via portable Via portable |
||
(12 versions intermédiaires par 9 utilisateurs non affichées) | |||
Ligne 2 : | Ligne 2 : | ||
|- | |- | ||
! colspan="2" align="center" valign="middle" height="40" style="font-weight: bold; font-size: 1em; background:#5e72e4; color: white" | [[File:logo.6c9b3f8.jpg|70px]]<br/><font size="3">''JvArchive''<br/></font size> | ! colspan="2" align="center" valign="middle" height="40" style="font-weight: bold; font-size: 1em; background:#5e72e4; color: white" | [[File:logo.6c9b3f8.jpg|70px]]<br/><font size="3">''JvArchive''<br/></font size> | ||
|- | |- | ||
| '''Ouverture''' || align="center" | Mars 2021 | | '''Ouverture''' || align="center" | Mars 2021 | ||
|- | |- | ||
| '''URL''' || align="center" | https://jvarchive.com/ | | '''URL''' || align="center" | https://jvarchive.com/ | ||
Ligne 13 : | Ligne 9 : | ||
|} | |} | ||
[https://jvarchive.com '''JvArchive'''] est un site archivant les [[topics]] du [[Blabla 18-25 ans|forum 18-25]] afin que ceux-ci restent accessibles en cas de [[suppression]] (par la modération de [[jeuxvideo.com]] ou par l'[[auteur]] du topic). | [https://jvarchive.com '''JvArchive'''], à ne pas confondre avec [[Geevey.com]], est un site archivant les [[topics]] du [[Blabla 18-25 ans|forum 18-25]] afin que ceux-ci restent accessibles en cas de [[suppression]] (par la modération de [[jeuxvideo.com]] ou par l'[[auteur]] du topic). | ||
Le site apparaît pour la première fois sur un topic le 4 mars 2021. Celui-ci est très rapidement supprimé, et il n'est plus possible de poster l'URL de JvArchive, celle-ci ayant été ajoutée au bot blacklist ([[500]]). | Le site apparaît pour la première fois sur un topic le 4 mars 2021. Celui-ci est très rapidement supprimé, et il n'est plus possible de poster l'URL de JvArchive, celle-ci ayant été ajoutée au bot ''blacklist'' (erreur [[Erreur 500|500]]). | ||
Il s'agit aujourd'hui du [[Sites et outils liés à jeuxvideo.com|site]] le plus visité de la communauté du 18-25 <ref>https://www.similarweb.com/fr/website/jvarchive.com/</ref> et fait figure d'outil indispensable pour la plupart des forumeurs actifs<ref>https://jvarchive.com/forums/message/1193719293</ref>. | Il s'agit aujourd'hui du [[Sites et outils liés à jeuxvideo.com|site]] le plus visité de la communauté du 18-25<ref>https://www.similarweb.com/fr/website/jvarchive.com/</ref> et fait figure d'outil indispensable pour la plupart des forumeurs actifs<ref>https://jvarchive.com/forums/message/1193719293</ref>. | ||
Similaire aux projets d'archivage des forumeurs RedSky et Glosoli, ainsi que de [[Bruiter]], JvArchive est l'archive qui actuellement est restée en ligne le plus longtemps d'entre eux. | Similaire aux projets d'archivage des forumeurs ''RedSky'' et ''Glosoli'', ainsi que de [[Bruiter]], JvArchive est l'archive qui actuellement est restée en ligne le plus longtemps d'entre eux. | ||
== Objectif == | == Objectif == | ||
Expliqué par son auteur dans une FAQ présente sur le site <ref>https://jvarchive.com/faq</ref>, l'objectif du site est de sauvegarder un maximum le forum 18-25. L'auteur justifie ce projet par la politique de modération violente et diverses actions de [[jeuxvideo.com]] empêchant une bonne préservation des contenus des forums blabla. | Expliqué par son auteur dans une FAQ présente sur le site<ref>https://jvarchive.com/faq</ref>, l'objectif du site est de sauvegarder un maximum le forum 18-25. L'auteur justifie ce projet par la politique de modération violente et diverses actions de [[jeuxvideo.com]] empêchant une bonne préservation des contenus des forums blabla. | ||
== Fonctionnement == | == Fonctionnement == | ||
Un crawler parcours le forum sans interruption et archive les topics qui apparaissent dans les premières pages de la liste des sujets. Pour cette raison les anciens topics précédents la mise en place du site ne sont pas archivés pour la plupart. Certains forumeurs peuvent d'ailleurs [[Up|upper]] volontairement un ancien topic afin que JVArchive le remarque et l'archive. | |||
Dans certains cas il arrive que le ''crawler'' n'ait pas pu archiver le contenu d'un topic ou d'un message si sa [[suppression]] fut trop rapide. Les [[Sondage|sondages]] ne sont pas non plus archivés. | |||
[[ | |||
Pour obtenir la version archivée d'un topic du 18-25, il suffit de remplacer dans l'url du topic "jeuxvideo.com" par "jvarchive.com". La démarche est la même pour obtenir le [[lien permanent]] d'un message du 18-25, ou bien le profil d'un utilisateur ayant posté au moins une fois sur le forum. | |||
Il est possible d'effectuer une recherche de topic dans toute la base de donnée, mais aussi de trouver tous les topics créés par un forumeur particulier en cherchant son pseudo. Pour l'instant les résultats ne sont classables que par un seul paramètre : si ils ont été supprimés sur jeuxvideo.com ou non. Il n'est pas encore possible d'effectuer une recherche par message, ou par date. | |||
=== Hébergement et détails === | |||
[[Fichier:Capture d’écran 2022-09-13 à 12.37.56.png|vignette|L'erreur 500 sur le site. Comme souvent un sticker est là pour illustrer.]]D'après le [https://who.is/whois/jvarchive.com WHOIS] du site, le [https://www.wikiwand.com/fr/Registrar registraire] est [https://www.wikiwand.com/fr/Tucows Tucows] | |||
'' | Pour des raisons légales évidentes, le site n'est pas hébergé dans l'Union européenne. Selon certains il est hébergé aux États Unis ou en Finlande<ref>https://www.jeuxvideo.com/forums/message/1232139067</ref>. <blockquote>''Il faut savoir que les archives JVC type JVA, ça utilise des IP rotatives. En fait, quand le script qui gère l'archivage fait une requête vers JVC, il change immédiatement d'IP. Donc le ban IP est impossible, et la localisation de la source aussi. Les IP sont majoritairement des proxys random trouvés sur Internet, souvent créés accidentellement.''</blockquote> | ||
=== Modération et Admin === | |||
Le site indique procéder à une modération légère: Fraude, pédopornographie et terrorisme uniquement. À noter qu'en cas de suppression, c'est uniquement les posts concernés qui sautent et non les topics entiers. | |||
L'admin de JvArchive a gardé un anonymat parfait et ne peut être joint qu'à travers l'adresse mail laissée sur le site : ''jvarchive @ protonmail.com.'' | |||
=== API et Données publiques === | |||
JvArchive met à disposition du public une API utilisable gratuitement<ref>https://jvarchive.com/swagger-ui</ref>. En dehors du site, elle est notamment utilisée par les userscripts [[Deboucled|Déboucled]] et l'extension officielle "''JvArchive Compagnon''". | |||
Le site propose également des [https://jvarchive.com/backup bases de données publiques] sous format CSV, accessibles sur la Wayback Machine. | |||
==Histoire== | ==Histoire== | ||
Ligne 63 : | Ligne 53 : | ||
===2021=== | ===2021=== | ||
* Le 26 février le nom de domaine est enregistré. | |||
* Le 4 mars 2021, le premier topic diffusant l'URL est créé. | * Le 4 mars 2021, le premier topic diffusant l'URL est créé. | ||
Ligne 68 : | Ligne 59 : | ||
==== Webedia contre-attaque ==== | ==== Webedia contre-attaque ==== | ||
* Le 13 juillet 2022, un message d'alerte est affiché sur la page d'accueil de JvArchive. Ce message indique que le crawler utilisé pour extraire les données en provenance du forum 18-25 de Jeuxvideo.com a été bloqué par Webedia, rendant l'archivage des topics impossible. | * Le 13 juillet 2022, un message d'alerte est affiché sur la page d'accueil de JvArchive. Ce message indique que le crawler utilisé pour extraire les données en provenance du forum 18-25 de Jeuxvideo.com a été bloqué par [[Webedia]], rendant l'archivage des topics impossible. | ||
* Le 17 juillet 2022, l'accès au site est rétabli (soit une interruption de 5 jours), mais le crawler de JvArchive se voit de nouveau très rapidement bloqué par Webedia. | * Le 17 juillet 2022, l'accès au site est rétabli (soit une interruption de 5 jours), mais le crawler de JvArchive se voit de nouveau très rapidement bloqué par Webedia. | ||
* Le 21 juillet 2022, un message d'alerte est de nouveau affiché sur la page d'accueil de JvArchive, pour le même motif que le 13 juillet (blocage par Webedia). Les blocages menés par Webedia sont basés sur la protection applicative du service Cloudflare : lorsqu'une requête ou une IP source est suspecte, la requête HTTP est interceptée et réclame un captcha ou est tout simplement bloquée ([[Erreur 1020]]), bloquant en conséquence le crawler de JvArchive. A partir de cette période, le crawler de JvArchive commence à rencontrer de sérieuses difficultés pour atteindre le 18-25 : on peut constater des archivages totalement aléatoires, à n'importe quelle heure de la journée, de très courte durée. | * Le 21 juillet 2022, un message d'alerte est de nouveau affiché sur la page d'accueil de JvArchive, pour le même motif que le 13 juillet (blocage par Webedia). Les blocages menés par Webedia sont basés sur la protection applicative du service Cloudflare : lorsqu'une requête ou une IP source est suspecte, la requête HTTP est interceptée et réclame un captcha ou est tout simplement bloquée ([[Erreur 1020]]), bloquant en conséquence le crawler de JvArchive. A partir de cette période, le crawler de JvArchive commence à rencontrer de sérieuses difficultés pour atteindre le 18-25 : on peut constater des archivages totalement aléatoires, à n'importe quelle heure de la journée, de très courte durée. | ||
Ligne 92 : | Ligne 83 : | ||
* Le '''20 Mars 2023''', un compteur de connectés est ajouté au site. | * Le '''20 Mars 2023''', un compteur de connectés est ajouté au site. | ||
* Le '''24 septembre 2023''', un mode [[fic]] est ajouté au site. Il permet d'afficher uniquement les posts de l'[[auteur]] afin de pouvoir suivre les topics plus facilement | * Le '''24 septembre 2023''', un mode [[fic]] est ajouté au site. Il permet d'afficher uniquement les posts de l'[[auteur]] afin de pouvoir suivre les topics plus facilement | ||
=== 2024 === | |||
* Le 29 novembre 2024 JVArchive est down. Mais est restauré quelques heures plus tard. | |||
== Critiques == | == Critiques == | ||
Ligne 106 : | Ligne 101 : | ||
Beaucoup de forumeurs pensent y voir la fin proche du site, quand pour d'autres, il ne s'agirait que d'un problème transitoire. | Beaucoup de forumeurs pensent y voir la fin proche du site, quand pour d'autres, il ne s'agirait que d'un problème transitoire. | ||
Il se pourrait qu'à l'avenir, Webedia en vienne à prendre d'autres mesures visant à casser le script d'archivage (HTML, paramètres de protection contre les bots etc.) tout en maintenant les autres mesures de protection, provoquant un épuisement des développeurs, une stratégie déjà utilisée par Webedia pour [[JV Parallele|JV Parallèle.]] et qui serait probablement applicable à JvArchive. | Il se pourrait qu'à l'avenir, [[Webedia]] en vienne à prendre d'autres mesures visant à casser le script d'archivage (HTML, paramètres de protection contre les bots etc.) tout en maintenant les autres mesures de protection, provoquant un épuisement des développeurs, une stratégie déjà utilisée par Webedia pour [[JV Parallele|JV Parallèle.]] et qui serait probablement applicable à JvArchive. | ||
== Archives publiques == | |||
JvArchive propose des archives complètes du 18-25 comprenant l'intégralité des messages depuis le début de Respawn (donc aux alentours de 2014). On y obtient également les topics, des flags qui indiquent si les topics ont été supprimés ou non par l'auteur ou la modération, et on a également une liste de pseudos avec leur ID associé. | |||
Il est possible d'importer les archives en question dans une base PostgreSQL afin de pouvoir les traiter comme désiré. | |||
Les archives étant au format CSV, elles peuvent être importées dans des tables avec la fonction COPY de PostgreSQL. | |||
Voici un schéma facilement compatible avec les dumps JvArchive : https://pastebin.com/EzNgjqKG | |||
Notez que les dumps étants lourds (environ 50 Go de messages à traiter), il est recommandé d'utiliser au maximum des index et le tout sur une machine haute performance côté disque (de préférence un RAID de disques SAS, ou du NVMe). | |||
A noter qu'il est inutile d'importer chaque dump pour obtenir l'intégralité des messages du 18-25. Le dernier dump publié sur le site, comprend l'intégralité des messages du 18-25. | |||
== | == Miroirs == | ||
JvArchive | JvArchive rend ses données publiques. De fait, il est possible de créer des miroirs de JvArchive. A ce jour, le seul miroir connu de JvArchive est [[Geevey.com]]. | ||
== Liens externes == | == Liens externes == | ||
Ligne 117 : | Ligne 124 : | ||
{{SectionRéférences}} | {{SectionRéférences}} | ||
[[Catégorie:Site | [[Catégorie:Site de la kheyosphère]] | ||
{{TableauCatégorieSitesCommu}} | {{TableauCatégorieSitesCommu}} |
Version du 4 décembre 2024 à 21:00
JvArchive | |
---|---|
Ouverture | Mars 2021 |
URL | https://jvarchive.com/ |
JvArchive, à ne pas confondre avec Geevey.com, est un site archivant les topics du forum 18-25 afin que ceux-ci restent accessibles en cas de suppression (par la modération de jeuxvideo.com ou par l'auteur du topic).
Le site apparaît pour la première fois sur un topic le 4 mars 2021. Celui-ci est très rapidement supprimé, et il n'est plus possible de poster l'URL de JvArchive, celle-ci ayant été ajoutée au bot blacklist (erreur 500).
Il s'agit aujourd'hui du site le plus visité de la communauté du 18-25[1] et fait figure d'outil indispensable pour la plupart des forumeurs actifs[2].
Similaire aux projets d'archivage des forumeurs RedSky et Glosoli, ainsi que de Bruiter, JvArchive est l'archive qui actuellement est restée en ligne le plus longtemps d'entre eux.
Objectif
Expliqué par son auteur dans une FAQ présente sur le site[3], l'objectif du site est de sauvegarder un maximum le forum 18-25. L'auteur justifie ce projet par la politique de modération violente et diverses actions de jeuxvideo.com empêchant une bonne préservation des contenus des forums blabla.
Fonctionnement
Un crawler parcours le forum sans interruption et archive les topics qui apparaissent dans les premières pages de la liste des sujets. Pour cette raison les anciens topics précédents la mise en place du site ne sont pas archivés pour la plupart. Certains forumeurs peuvent d'ailleurs upper volontairement un ancien topic afin que JVArchive le remarque et l'archive.
Dans certains cas il arrive que le crawler n'ait pas pu archiver le contenu d'un topic ou d'un message si sa suppression fut trop rapide. Les sondages ne sont pas non plus archivés.
Pour obtenir la version archivée d'un topic du 18-25, il suffit de remplacer dans l'url du topic "jeuxvideo.com" par "jvarchive.com". La démarche est la même pour obtenir le lien permanent d'un message du 18-25, ou bien le profil d'un utilisateur ayant posté au moins une fois sur le forum.
Il est possible d'effectuer une recherche de topic dans toute la base de donnée, mais aussi de trouver tous les topics créés par un forumeur particulier en cherchant son pseudo. Pour l'instant les résultats ne sont classables que par un seul paramètre : si ils ont été supprimés sur jeuxvideo.com ou non. Il n'est pas encore possible d'effectuer une recherche par message, ou par date.
Hébergement et détails
D'après le WHOIS du site, le registraire est Tucows Pour des raisons légales évidentes, le site n'est pas hébergé dans l'Union européenne. Selon certains il est hébergé aux États Unis ou en Finlande[4].
Il faut savoir que les archives JVC type JVA, ça utilise des IP rotatives. En fait, quand le script qui gère l'archivage fait une requête vers JVC, il change immédiatement d'IP. Donc le ban IP est impossible, et la localisation de la source aussi. Les IP sont majoritairement des proxys random trouvés sur Internet, souvent créés accidentellement.
Modération et Admin
Le site indique procéder à une modération légère: Fraude, pédopornographie et terrorisme uniquement. À noter qu'en cas de suppression, c'est uniquement les posts concernés qui sautent et non les topics entiers.
L'admin de JvArchive a gardé un anonymat parfait et ne peut être joint qu'à travers l'adresse mail laissée sur le site : jvarchive @ protonmail.com.
API et Données publiques
JvArchive met à disposition du public une API utilisable gratuitement[5]. En dehors du site, elle est notamment utilisée par les userscripts Déboucled et l'extension officielle "JvArchive Compagnon".
Le site propose également des bases de données publiques sous format CSV, accessibles sur la Wayback Machine.
Histoire
2020
- Le site semble avoir commencé à archiver le forum en décembre 2020.
2021
- Le 26 février le nom de domaine est enregistré.
- Le 4 mars 2021, le premier topic diffusant l'URL est créé.
2022
Webedia contre-attaque
- Le 13 juillet 2022, un message d'alerte est affiché sur la page d'accueil de JvArchive. Ce message indique que le crawler utilisé pour extraire les données en provenance du forum 18-25 de Jeuxvideo.com a été bloqué par Webedia, rendant l'archivage des topics impossible.
- Le 17 juillet 2022, l'accès au site est rétabli (soit une interruption de 5 jours), mais le crawler de JvArchive se voit de nouveau très rapidement bloqué par Webedia.
- Le 21 juillet 2022, un message d'alerte est de nouveau affiché sur la page d'accueil de JvArchive, pour le même motif que le 13 juillet (blocage par Webedia). Les blocages menés par Webedia sont basés sur la protection applicative du service Cloudflare : lorsqu'une requête ou une IP source est suspecte, la requête HTTP est interceptée et réclame un captcha ou est tout simplement bloquée (Erreur 1020), bloquant en conséquence le crawler de JvArchive. A partir de cette période, le crawler de JvArchive commence à rencontrer de sérieuses difficultés pour atteindre le 18-25 : on peut constater des archivages totalement aléatoires, à n'importe quelle heure de la journée, de très courte durée.
- Le 23 juillet 2022, JvArchive est de nouveau fonctionnel aux alentours de minuit, mettant à bas les efforts de Webedia malgré leurs diverses tentatives de blocage, ainsi que l'aide d'AntoineForum - [CLOUDFLARE] Nouvelles recommandations à Webedia
- Le 24 juillet 2022, JvArchive sort officiellement de "maintenance" et indique ouvertement que Webedia tente tant bien que mal à contrer le crawler associé au site. Une requête de soutien du site en crypto est mise en avant pour l'occasion.
- Le 25 juillet 2022, étant pour anecdote un jour ouvrable (un lundi, signant le retour de l'équipe technique de Webedia), le crawler de JvArchive se voit à nouveau bloqué aux alentours de 9h40. Il est de retour dans la soirée vers 21h00, mettant de nouveau à mal les efforts de Webedia.
- Le 26 juillet 2022 vers 13h00, le site est de nouveau bloqué, provoquant un suspens intense.
- Depuis le 30 juillet, l'archivage semble refonctionner, les perturbations étant rares et de courte durée.
- Depuis le 6 août à 3h du matin, le service rencontre une nouvelle perturbation sérieuse, empêchant l'archivage des topics. L'archivage repris à 13h.
Fonctionnalité "voyage dans la boucle"
Le 16 août le site propose une nouvelle fonctionnalité qui permet de revoir les plus gros topics d'une journée précise, mais aussi d'une semaine ou d'un mois précis dans le passé. Cela permet de retrouver le top topic de journées importantes comme lors du décès de Risitas ou l'élection présidentielle de 2022, mais aussi d'observer l'évolution des topics au fil du temps.
La fonctionnalité affiche également les topics antérieurs à la création de JVArchive lorsque ceux-ci ont été archivés en étant uppés après la création du site.
Désaveu de Webedia
Le 24 août 2022 le topic parlant de JVArchive, sur le forum communauté, est lock par la modération. Plusieurs messages critiquant l'échec cuisant de Webedia se voient supprimés. Cet action est perçue comme un aveu de faiblesse de la part de Webedia signifiant indirectement que tous leurs efforts ont été vains et réduits à néant.
2023
- Le 20 Mars 2023, un compteur de connectés est ajouté au site.
- Le 24 septembre 2023, un mode fic est ajouté au site. Il permet d'afficher uniquement les posts de l'auteur afin de pouvoir suivre les topics plus facilement
2024
- Le 29 novembre 2024 JVArchive est down. Mais est restauré quelques heures plus tard.
Critiques
Un certain nombre de forumeurs indiquent ne pas se sentir tranquille à l'idée que JvArchive enregistre tous leurs posts et qu'on puisse retrouver facilement tout ce qu'ils ont écris sur le forum grâce au site, malgré les suppressions[6][7][8].
Perturbations en juillet 2022
Très vite après l'apparition de perturbations notables, une bannière demandant de l'aide a été publiée, incitant les développeurs à contacter les administrateurs du site afin de les aider à trouver une solution.
En effet, face aux nouvelles mesures de protection de Webedia contre le scraping , l'administration de JvArchive tente de lutter contre ce problème depuis un mois, avec un succès partiel.
Les mesures de contournement entraînant un coût financier "de plus en plus onéreux", et un travail supplémentaire, l'équipe de JvArchive a décidé de lancer un appel aux dons "pour que JvArchive continue d'exister"
Beaucoup de forumeurs pensent y voir la fin proche du site, quand pour d'autres, il ne s'agirait que d'un problème transitoire.
Il se pourrait qu'à l'avenir, Webedia en vienne à prendre d'autres mesures visant à casser le script d'archivage (HTML, paramètres de protection contre les bots etc.) tout en maintenant les autres mesures de protection, provoquant un épuisement des développeurs, une stratégie déjà utilisée par Webedia pour JV Parallèle. et qui serait probablement applicable à JvArchive.
Archives publiques
JvArchive propose des archives complètes du 18-25 comprenant l'intégralité des messages depuis le début de Respawn (donc aux alentours de 2014). On y obtient également les topics, des flags qui indiquent si les topics ont été supprimés ou non par l'auteur ou la modération, et on a également une liste de pseudos avec leur ID associé. Il est possible d'importer les archives en question dans une base PostgreSQL afin de pouvoir les traiter comme désiré. Les archives étant au format CSV, elles peuvent être importées dans des tables avec la fonction COPY de PostgreSQL.
Voici un schéma facilement compatible avec les dumps JvArchive : https://pastebin.com/EzNgjqKG
Notez que les dumps étants lourds (environ 50 Go de messages à traiter), il est recommandé d'utiliser au maximum des index et le tout sur une machine haute performance côté disque (de préférence un RAID de disques SAS, ou du NVMe).
A noter qu'il est inutile d'importer chaque dump pour obtenir l'intégralité des messages du 18-25. Le dernier dump publié sur le site, comprend l'intégralité des messages du 18-25.
Miroirs
JvArchive rend ses données publiques. De fait, il est possible de créer des miroirs de JvArchive. A ce jour, le seul miroir connu de JvArchive est Geevey.com.
Liens externes
Références
- ↑ https://www.similarweb.com/fr/website/jvarchive.com/
- ↑ https://jvarchive.com/forums/message/1193719293
- ↑ https://jvarchive.com/faq
- ↑ https://www.jeuxvideo.com/forums/message/1232139067
- ↑ https://jvarchive.com/swagger-ui
- ↑ https://jvarchive.com/forums/message/1193719077
- ↑ https://jvarchive.com/forums/42-51-69786451-1-0-1-0-pas-moyen-de-supprimer-ses-topics-sur-jvarchive
- ↑ https://jvarchive.com/forums/42-51-69740705-2-0-1-0-on-en-talk-de-jvarchive-qui-sauvegarde-tout