Ça me surprend pas, j’étais quasiment certain que c’était déjà fait. Même sans la nudité, les représentations feminines des IA étaient déjà limites.
type de corps
style vestimentaire
posture
Ceci ne s’arretera jamais : c’est un outil de production de masse. Et ya déjà plein de femmes à poil comme d’hommes que l’industrie comme l’individu peut réutiliser pour générer des images. Mais aussi toutes nos photos familliales, les celebrité, les enfants…
En tout cas, l’article ne parle pas des hommes. La question du féminisme doit également concerner les hommes. On a bien des ateliers d’autodéfences, de communication bienveillantes, de paroles entre femmes, des livres…ya vraiment un travail de recherche social. Cependant, c’est beaucoup d’énergie pour changer la socièté de la part des femmes.
Chez les hommes : 0 efforts. Rien, nada, pas de réflexions, de remise en question, d’ateliers…et donc je pense que ça changera pas quand l’autre moitié ne fait rien. Et faudrait commencer par ça.
Déjà, que disent et pensent les jeunes gars sur ces images ? Est ce qu’ils acceptent ? Sont-ils choqués ? Et si c’était eux à poil ? Dénoncent-ils ces photos ? Le gardent ils pour eux ? Se sentent ils concernés ?
À terme, je me demande si cela ne signera pas la fin du net centralisé, ouvert et amorcera la création de d’autres couches du net limité à des groupes de personne avec des sous-réseau suite aux nouvelles lois qui vont encadrer tout ça.
Même sans la nudité, les représentations feminines des IA étaient déjà limites.
Quand j’ai commencé à jouer avec stable diffusion, j’ai été surpris et de la tendance à générer des filles sexy voir carrément nue des modèles d’IA. C’est meme difficile d’éviter ces images (quand je suis MJ en jdr, je peux vouloir une bibliothécaire, serveuse, politicienne qui ressemble à une femme ordinaire et pas sortie de sites pour adultes/jeux vidéos)
Après il faut aussi voir avec quoi on nourris les modèles d’IA, et les images de vraies femmes dans la vraie vie aussi sont sexualisées ou ignorées. Prends le moindre RS, tu fais plus de vue on twerkant en bikini qu’en parlant d’astrophysique surtout si tu es une femme
J’ai eu la même réflexion quand j’ai joué avec l’IA. J’en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.
En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.
@Sphks@Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d’images de “référence”, alors de là à alimenter leurs entraînements avec…
Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l’oeuvre d’un truc de remplacement de face (genre Facefusion) qu’à un Stablediffusion/Midjourney/… sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c’est cher payer le deepfake…
Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d’apprentissage et les corrigent autant qu’ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c’est de la waifu. Y a pas de surprise, ça matche la demande.
On peut faire de l’inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.
J’avais eu une expérience intéressante (avec SD 1.5, SDXL est sûrement meilleur). J’avais voulu faire générer un tableau symétrique du Déjeuner sur l’Herbe, avec un homme nu et deux femmes habillées discutant. Il sait faire des hommes nus, il sait faire des femmes habillées, mais quand il y a une composition avec hommes et femmes et de la nudité, il a beaucoup de mal à accepter que ce ne sont pas les femmes qui seront déshabillées.
Ça me surprend pas, j’étais quasiment certain que c’était déjà fait. Même sans la nudité, les représentations feminines des IA étaient déjà limites.
Ceci ne s’arretera jamais : c’est un outil de production de masse. Et ya déjà plein de femmes à poil comme d’hommes que l’industrie comme l’individu peut réutiliser pour générer des images. Mais aussi toutes nos photos familliales, les celebrité, les enfants…
En tout cas, l’article ne parle pas des hommes. La question du féminisme doit également concerner les hommes. On a bien des ateliers d’autodéfences, de communication bienveillantes, de paroles entre femmes, des livres…ya vraiment un travail de recherche social. Cependant, c’est beaucoup d’énergie pour changer la socièté de la part des femmes.
Chez les hommes : 0 efforts. Rien, nada, pas de réflexions, de remise en question, d’ateliers…et donc je pense que ça changera pas quand l’autre moitié ne fait rien. Et faudrait commencer par ça.
Déjà, que disent et pensent les jeunes gars sur ces images ? Est ce qu’ils acceptent ? Sont-ils choqués ? Et si c’était eux à poil ? Dénoncent-ils ces photos ? Le gardent ils pour eux ? Se sentent ils concernés ?
À terme, je me demande si cela ne signera pas la fin du net centralisé, ouvert et amorcera la création de d’autres couches du net limité à des groupes de personne avec des sous-réseau suite aux nouvelles lois qui vont encadrer tout ça.
Quand j’ai commencé à jouer avec stable diffusion, j’ai été surpris et de la tendance à générer des filles sexy voir carrément nue des modèles d’IA. C’est meme difficile d’éviter ces images (quand je suis MJ en jdr, je peux vouloir une bibliothécaire, serveuse, politicienne qui ressemble à une femme ordinaire et pas sortie de sites pour adultes/jeux vidéos)
Après il faut aussi voir avec quoi on nourris les modèles d’IA, et les images de vraies femmes dans la vraie vie aussi sont sexualisées ou ignorées. Prends le moindre RS, tu fais plus de vue on twerkant en bikini qu’en parlant d’astrophysique surtout si tu es une femme
J’ai eu la même réflexion quand j’ai joué avec l’IA. J’en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.
Ah je vois, ya donc pas besoin d’avoir un prompt pour avoir ce type de résultat en faite. :/
En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.
Puis tu as plein de modèles enrichis. Ici une base : https://civitai.com/models
Comme tu peux le constater. La “femme” est un sujet de préoccupation.
La representation masculine aussi. J’imagine que c’est l’archétype du soldat ? :D
@Sphks @Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d’images de “référence”, alors de là à alimenter leurs entraînements avec…
Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l’oeuvre d’un truc de remplacement de face (genre Facefusion) qu’à un Stablediffusion/Midjourney/… sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c’est cher payer le deepfake…
Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d’apprentissage et les corrigent autant qu’ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c’est de la waifu. Y a pas de surprise, ça matche la demande.
On peut faire de l’inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.
Avec un photomontage on peut tout faire. La différence c’est la facilité élaborer un fantasme à partir d’un photo de quelqu’un qu’on connait.
Après j’ai lu qu’iels mettaient des garde-fou dans le programme des IA pour exclure certain termes de recherche et éviter cette situation.
@Snoopy une partie de ces garde-fous (sans rentrer dans les détails) se lève en commentant une ligne dans le code, hein
Oui, c’etait dans ce même journal. Ça rend la tache un peu plus compliqué.
Les outils en ligne peuvent être censurés oui, mais les outils ouverts, non.
Voilà.
C’est entre les deux je dirais
@Camus possible ; ça dépend si les clichés “avant remplacement de face” étaient originaux ou pas
J’avais eu une expérience intéressante (avec SD 1.5, SDXL est sûrement meilleur). J’avais voulu faire générer un tableau symétrique du Déjeuner sur l’Herbe, avec un homme nu et deux femmes habillées discutant. Il sait faire des hommes nus, il sait faire des femmes habillées, mais quand il y a une composition avec hommes et femmes et de la nudité, il a beaucoup de mal à accepter que ce ne sont pas les femmes qui seront déshabillées.