Centre ACHA France

Centre pour les Droits de l'Homme et la Lutte contre le Terrorisme

Besançon, France · info@acha-france.com · acha-france.com

Rapport analytique Actualités 15 octobre 2026

Carottes jihadistes et pommes de terre suprémacistes : quand l’IA déguise la violence en dessin animé

Analyse critique d'une étude du GNET sur les vidéos de fruits et légumes violents, et mise à jour du Centre ACHA

Des carottes qui tuent des pommes de terre à la scie, un « calife carotte » qui promet que « l'État carotte reviendra », des légumes qui appellent à rejoindre une division néonazie : ces vidéos générées par intelligence artificielle circulent sur TikTok sous une apparence de dessin animé. Une étude publiée le 10 août 2026 par le Global Network on Extremism and Technology (GNET) y voit un vecteur de banalisation de la violence et une porte d'entrée possible vers des univers extrémistes. Le Centre ACHA a analysé cette étude, en a mesuré les forces et les limites, et l'a complétée par les données et décisions publiées depuis : rapport d'Europol, constats du parquet national antiterroriste, droit européen de l'IA et des plateformes, et loi française sur les réseaux sociaux.

Centre ACHA France • Pôle Prévention de la radicalisation • Étude source : A. Pugnana, G. L. Giardini, E. Ristuccia (ITSTIME), « Fruit, Vegetable, and Brain Rot: The Use of Generative AI to Produce Violence-Based Viral Trends », GNET Insights, 10 août 2026

◆◆ I. Ce que dit l'étude du GNET

Les autrices partent d'un constat : les outils d'IA générative, souvent gratuits ou peu coûteux, permettent de produire des vidéos en très grand nombre et presque sans effort. Elles appellent « AI slop » cette production massive de contenus de faible qualité, conçus pour maximiser les vues. Elles la relient au « brain rot », ce terme qui désigne l'effet d'abrutissement attribué à la consommation continue de contenus rapides, absurdes et surstimulants.

Le point de départ est une tendance apparemment anodine : des feuilletons de fruits et légumes humanisés, pris dans des histoires d'amour, de trahison et de disputes conjugales. Selon l'étude, ces vidéos banalisent déjà l'agressivité et la violence émotionnelle par la répétition. Par une veille en sources ouvertes (OSINT), les chercheuses ont identifié une dérive plus grave : un sous-genre de « gore » où des fruits et légumes sont mutilés, torturés et tués avec des armes, jusqu'à montrer leurs organes.

L'étude décrit quatre familles de contenus. La première imite les méthodes d'exécution des cartels ; sous une vidéo, un utilisateur écrit que « l'IA a appris des cartels ». La deuxième reprend la propagande de l'État islamique : une vidéo copie l'introduction des productions officielles du groupe, une autre montre un « calife carotte » annonçant que « l'État carotte se relèvera », en écho au slogan « l'État islamique se relèvera ». Ces deux vidéos étaient diffusées avec des mots-dièses utilisés par les partisans de l'organisation. La troisième famille renvoie à l'accélérationnisme d'extrême droite : un compte cite dans sa biographie l'Atomwaffen Division, organisation terroriste néonazie, et la sous-culture nihiliste « No Lives Matter ». Les commentaires évoquent la « suprématie de la pomme de terre » et le nombre de victimes de tueurs de masse. La quatrième relève de l'extrémisme violent nihiliste.

« L'absurde crée de la distance » : le spectateur peut apprécier le drame sans se sentir complice de quoi que ce soit de réellement inquiétant. - Zara Mitchell, citée par l'étude GNET, 10 août 2026

Les autrices concluent que ces contenus fonctionnent comme des « pièges à attention », banalisent la cruauté et peuvent préparer le terrain à la consommation de contenus plus violents. Elles notent que les commentaires servent de « carrefours de communication » où des utilisateurs indiquent l'origine des contenus. Elles demandent à TikTok et aux fournisseurs d'IA de renforcer leurs outils de détection, et insistent sur la connaissance des propagandes d'origine, « première ligne de défense ».

◆◆ ◆ ◆

◆◆ II. L'ampleur du phénomène : des chiffres vertigineux

L'étude du GNET ne chiffre pas l'audience des vidéos violentes. D'autres sources permettent de mesurer l'ampleur de la tendance générale. Selon une analyse publiée le 18 août 2026 par Kirra Pendergast pour l'organisation australienne Safe on Social, la mode des « fruit dramas » est née fin février 2026 sur TikTok. Le compte parodique « Fruit Love Island » aurait gagné 3,3 millions d'abonnés en dix jours, certains épisodes dépassant 39 millions de vues. Un créateur générerait environ 400 millions de vues par mois avec ce format, décliné en coréen, allemand, portugais, italien, espagnol, arabe et hindi. CNN et NBC News ont également consacré des sujets à ce phénomène au printemps 2026.

Le Centre ACHA précise que ces chiffres proviennent de sources secondaires et concernent la tendance générale, pas spécifiquement les contenus gore ou extrémistes étudiés par le GNET. Ils montrent toutefois que le format bénéficie d'une audience massive, dans laquelle les contenus violents peuvent se fondre.

La même analyse de Safe on Social cite un audit du magazine Wired de mars 2026 : dans ces feuilletons, les personnages féminins sont humiliés, giflés, insultés, et certaines scènes suggèrent des violences sexuelles. Le Centre ACHA n'a pas pu consulter directement cet audit ; il le mentionne comme une donnée rapportée. Cette dimension misogyne, absente de l'étude du GNET, rejoint pourtant un constat d'Europol sur l'influence de la « manosphère » dans les milieux d'extrême droite.

◆◆ ◆ ◆

◆◆ III. Analyse critique : forces et limites de l'étude

L'étude a un mérite important : elle documente un phénomène émergent avec des exemples précis, et identifie le mécanisme du détournement. L'apparence enfantine, de style Pixar, sert de camouflage face à la modération automatique. Elle relie aussi cette tendance à des univers bien connus des spécialistes : la propagande de l'État islamique, l'accélérationnisme néonazi et le nihilisme violent.

Mais le Centre ACHA relève plusieurs limites, qu'il faut garder à l'esprit avant d'en tirer des conclusions.

Premièrement, l'absence de quantification. L'étude parle d'un « nombre significatif » d'utilisateurs, sans indiquer combien de comptes, de vidéos ou de vues ont été analysés, ni sur quelle période. Il est donc impossible de savoir si les contenus extrémistes représentent une part marginale ou importante de la tendance.

Deuxièmement, le lien de causalité n'est pas démontré. L'étude affirme que ces vidéos « peuvent » rendre la violence drôle ou normale, et ouvrir la voie à la radicalisation. C'est une hypothèse plausible, cohérente avec d'autres travaux, mais l'étude n'apporte aucune donnée sur l'effet réel de ces vidéos sur leurs spectateurs.

Troisièmement, les autrices reconnaissent elles-mêmes que ces contenus ne sont pas produits par des « partisans engagés » des mouvances extrémistes, mais relèvent d'une « émulation esthétique ». Cette nuance est essentielle : une parodie de propagande n'est pas de la propagande, même si elle peut en banaliser les codes.

Quatrièmement, la notion de « brain rot » relève du langage courant, pas de la science. Le terme a été élu mot de l'année 2024 par Oxford University Press, mais il ne correspond à aucun diagnostic. Son usage dans une étude sur la radicalisation peut entretenir une forme de panique morale autour des pratiques numériques des jeunes.

Enfin, l'étude ne mentionne pas la réponse de TikTok ni des éditeurs d'outils d'IA cités, et ne précise pas si les contenus signalés ont été retirés.

Une parodie de propagande n'est pas de la propagande. Mais à force de répétition, elle peut en rendre les codes familiers. - Centre ACHA France

◆◆ ◆ ◆

◆ IV. Ce que confirment les autres sources : Europol et le parquet antiterroriste

Si l'étude du GNET a ses limites, plusieurs de ses intuitions sont confirmées par les autorités. Dans son rapport TE-SAT 2026, publié le 13 juillet 2026, Europol indique que 130 des 486 personnes arrêtées pour terrorisme dans l'UE en 2025 avaient 18 ans ou moins, la plus jeune ayant 12 ans. L'agence décrit des jeunes qui n'ont qu'une compréhension « superficielle » des idéologies, une fascination pour la violence « en soi », et la « gamification » de la violence par des mécanismes empruntés aux jeux vidéo.

Europol note aussi que l'IA est utilisée pour produire de la propagande, des montages et des mèmes, et que la majorité de ce contenu relève de discours de haine et de contenus « horribles mais légaux » plutôt que de contenus terroristes explicites. C'est exactement la zone grise décrite par le GNET. L'agence décrit également le réseau « The Com », écosystème en ligne où se mêlent nihilisme, misogynie, satanisme et éléments jihadistes ou d'extrême droite.

En France, le parquet national antiterroriste (PNAT) a fait un constat qui rejoint directement l'étude. Selon l'AFP (29 juillet 2025), 18 mineurs ont été mis en examen pour terrorisme en 2024, et 11 au 1er juillet 2025, âgés de 13 à 18 ans. Le PNAT indique que ces mineurs sont tous de grands utilisateurs des réseaux sociaux et que « la plupart sont des adeptes de contenus ultraviolents, guerriers ou pornographiques ». Une source judiciaire précise que ces vidéos ne sont souvent pas liées au terrorisme : il s'agit par exemple d'images de cartels latino-américains. Cette observation éclaire d'un jour nouveau les vidéos de « cartels de légumes » repérées par le GNET.

La plupart sont des adeptes de contenus ultraviolents, guerriers ou pornographiques. - Parquet national antiterroriste, à propos des mineurs mis en examen, AFP, juillet 2025

◆◆ ◆ ◆

◆ V. Le cadre juridique : des outils nouveaux, une zone grise persistante

Depuis la publication de l'étude, le cadre européen a évolué. Les obligations de transparence de l'article 50 du règlement européen sur l'IA (AI Act) s'appliquent depuis le 2 août 2026 : les contenus truqués (deepfakes) doivent être signalés comme tels. Le règlement « omnibus » 2026/1744 accorde toutefois aux fournisseurs de systèmes déjà sur le marché un délai jusqu'au 2 décembre 2026 pour le marquage lisible par machine. Il ajoute, à partir de cette même date, l'interdiction des systèmes générant des images intimes non consenties ou des contenus pédocriminels.

Ces règles ne visent pas directement les vidéos de fruits violents : un légume mutilé n'est ni un deepfake d'une personne réelle, ni un contenu illégal en soi. Le problème relève donc surtout du règlement sur les services numériques (DSA), qui impose aux très grandes plateformes d'évaluer et de réduire les risques systémiques, notamment pour les mineurs. Le 6 février 2026, la Commission européenne a conclu à titre préliminaire que la conception de TikTok était « addictive » et contraire au DSA : défilement infini, lecture automatique, notifications et recommandations très personnalisées. Elle a demandé à la plateforme de modifier son fonctionnement. TikTok risque une amende allant jusqu'à 6 % de son chiffre d'affaires mondial. La procédure est en cours.

En France, le Parlement a définitivement adopté le 21 juillet 2026 une loi interdisant les réseaux sociaux aux moins de 15 ans. Mais le Conseil constitutionnel a censuré cette interdiction (article 1er) dans sa décision n° 2026-911 DC du 14 août 2026. Il a jugé qu'une interdiction générale, appliquée sans tenir compte de la situation du mineur ni des risques propres à chaque service, portait une atteinte disproportionnée à la liberté d'expression, et que la vérification d'âge imposée à tous manquait de garanties pour la vie privée. Il a toutefois reconnu que la protection de l'intérêt de l'enfant pouvait justifier des restrictions ciblées.

Pour le Centre ACHA, cette décision trace une voie : la protection des mineurs doit cibler les fonctionnalités et les contenus à risque, plutôt que l'accès en général. Les vidéos étudiées par le GNET en sont une illustration : le risque vient moins de l'accès aux réseaux sociaux que de la recommandation algorithmique de contenus violents déguisés.

◆◆ ◆ ◆

◆◆ VI. Évaluation du Centre ACHA

Le Centre ACHA distingue trois niveaux de risque. Le premier, le plus large, est la banalisation de la violence et de la misogynie auprès d'un public jeune, à une échelle de centaines de millions de vues. Ce risque est réel et documenté par plusieurs sources, mais il relève de la protection de l'enfance et de l'éducation aux médias plus que de l'antiterrorisme.

Le deuxième niveau est l'usage de ces formats comme cheval de Troie par des sympathisants extrémistes, notamment par des mots-dièses et des commentaires qui orientent vers d'autres contenus. Ce risque est documenté qualitativement par le GNET, mais son ampleur reste inconnue.

Le troisième niveau, le passage à l'acte, n'est à ce jour lié à aucune affaire publique impliquant spécifiquement ces vidéos. Les constats d'Europol et du PNAT montrent cependant que la consommation de contenus ultraviolents fait partie du parcours de nombreux mineurs mis en cause. Le Centre ACHA invite donc à la vigilance, sans alarmisme : tous les jeunes qui regardent ces vidéos ne se radicalisent pas, et les stigmatiser serait contre-productif.

◆◆ ◆ ◆

◆◆ Recommandations du Centre ACHA

Les recommandations R1 relèvent de l'échelle locale (Besançon et Doubs, horizon de 0 à 12 mois). Les recommandations R2 relèvent de l'échelle nationale et européenne (horizon de 1 à 5 ans).

R1.1 Intégrer aux interventions du Centre ACHA dans les collèges et lycées de Besançon un module sur les contenus violents générés par IA : reconnaître les codes détournés (mots-dièses, slogans parodiés, symboles), comprendre la logique de l'algorithme et savoir signaler.

R1.2 Proposer aux parents, via les associations de parents d'élèves et les centres sociaux, une fiche pratique : regarder ces contenus avec les enfants, en parler sans dramatiser, désactiver la lecture automatique.

R1.3 Former les éducateurs de la protection judiciaire de la jeunesse et de la prévention spécialisée du Doubs au repérage des contenus ultraviolents comme signal d'alerte, en lien avec les constats du PNAT.

R1.4 Mettre en place une veille OSINT locale du Centre ACHA sur les tendances virales violentes, avec signalement systématique à PHAROS des contenus reprenant des codes terroristes.

R2.1 Demander à la Commission européenne d'intégrer explicitement les contenus violents déguisés générés par IA dans l'évaluation des risques systémiques imposée aux très grandes plateformes par le DSA, et dans les mesures correctives demandées à TikTok.

R2.2 Encourager les éditeurs d'outils d'IA à bloquer la génération de scènes reprenant les codes visuels de la propagande terroriste, en lien avec le code de bonnes pratiques européen sur la transparence des contenus générés par IA.

R2.3 Élaborer, après la décision du Conseil constitutionnel du 14 août 2026, un nouveau texte de protection des mineurs ciblant les fonctionnalités à risque (recommandation, lecture automatique, défilement infini) plutôt qu'une interdiction générale d'accès.

R2.4 Financer des études quantitatives indépendantes sur l'exposition des mineurs aux contenus violents générés par IA et sur leurs effets, afin de dépasser les constats qualitatifs actuels.

R2.5 Renforcer la formation des modérateurs et des services de police spécialisés aux propagandes d'origine (État islamique, accélérationnisme, nihilisme violent, cartels), comme le préconise le GNET.

◆◆ ◆ ◆

◆◆ Conclusion

Les vidéos de fruits et légumes violents ne sont pas, en elles-mêmes, de la propagande terroriste. Mais elles montrent comment l'IA générative permet de recycler les codes de la violence extrême dans un format qui désarme la vigilance des parents, des modérateurs et des jeunes eux-mêmes. L'étude du GNET a le mérite de donner l'alerte ; elle doit maintenant être prolongée par des mesures et par des données.

La réponse ne se trouve ni dans la panique morale, ni dans l'interdiction générale. Elle passe par l'éducation, par la responsabilité des plateformes et des éditeurs d'IA, et par une meilleure connaissance des propagandes détournées. Une question reste ouverte : combien de temps faudra-t-il pour que la modération apprenne à voir la violence derrière une carotte souriante ?

◆◆ ◆ ◆

◆◆ Sources et références