Catégories
Rencontrer une femme

Les applications de rencontres ont besoin de femmes. Les annonceurs ont besoin de diversité. Les entreprises d'IA proposent une solution: de fausses personnes

Avant de commencer cet article, je vous invite à ajouter « avorax » sur snap. Cette jeune femme de 23 ans est une libertine et elle envoie des nudes chaque jours en story !

Une entreprise propose de vendre diverses photos pour des brochures marketing et a déjà signé des clients, y compris une application de rencontres qui a l'intention d'utiliser les images dans un chatbot. Une autre entreprise dit qu'elle passe au-delà des tirs à la tête générés par l'intelligence artificielle et se dirige vers la génération de faux corps complets dès ce mois-ci.

Le logiciel d'intelligence artificielle utilisé pour créer de tels visages est disponible gratuitement et s'améliore rapidement, permettant aux petites start-ups de créez facilement des contrefaçons si convaincantes qu'elles peuvent tromper l'œil humain. Les systèmes s'entraînent sur d'énormes bases de données de visages réels, puis tentent de reproduire leurs caractéristiques dans de nouveaux designs. les personnages en ligne, masquent les biais d'embauche et nuisent aux efforts pour apporter une réelle diversité aux industries. Le fait qu'un tel logiciel ait désormais un modèle commercial pourrait également alimenter une plus grande érosion de la confiance sur un Internet déjà attaqué par des campagnes de désinformation, des vidéos "deepfake" et d'autres techniques trompeuses.

Elana Zeide, boursière en intelligence artificielle, droit et la politique à la faculté de droit de l'UCLA, a déclaré que la technologie "met en évidence le peu de pouvoir et de connaissances des utilisateurs en termes de la réalité de ce qu'ils voient en ligne."

"Il n'y a pas de réalité objective pour comparer ces photos", a-t-elle déclaré. "Nous sommes habitués aux mondes physiques avec une entrée sensorielle … mais avec cela, nous n'avons pas de réponses instinctives ou enseignées sur la façon de détecter ce qui est réel et ce qui ne l'est pas. C'est épuisant."

Icons8, an Une firme de design basée en Argentine qui vend des illustrations numériques et des photos d'archives, a lancé son site Web le mois dernier, proposant "des modèles divers et sans souci à la demande utilisant l'IA". "Infant" à "Elderly"), l'origine ethnique (y compris "White", "Latino", "Asian" et "Black") et l'émotion ("Joy", "Neutral," "Surprise"), ainsi que le sexe, couleur des yeux et longueur des cheveux. Le système, cependant, montre un certain nombre de lacunes et de biais étranges: Par exemple, la seule couleur de peau disponible pour les nourrissons est le blanc.

La société affirme que ses visages pourraient être utiles pour les clients qui ont besoin de revisiter du matériel promotionnel, de remplir des prototypes ou illustrer des concepts trop délicats pour un modèle humain, tels que «situations embarrassantes» et «procédures pénales». Son guide en ligne promet également aux clients qu'ils peuvent «augmenter la diversité» et «réduire les biais» en incluant «de nombreuses origines ethniques différentes dans vos projets». une foule toute blanche, comme l'Université du Wisconsin-Madison l'a fait sur un livret de premier cycle, ou superposer des femmes à des photos de groupe d'hommes.

Mais alors que les start-ups de l'IA proposent une solution simple – offrant aux entreprises l'illusion de la diversité, sans travaillant en fait avec un ensemble diversifié de personnes – leurs systèmes ont un défaut crucial: ils imitent seulement les ressemblances qu'ils ont déjà vues. Valerie Emanuel, co-fondatrice de l'agence de talents Role Models Management, basée à Los Angeles, a dit qu'elle craignait que ce genre de fausses photos ne transforme le médium en monoculture, où la plupart des visages se ressemblent.

"Nous voulons créer plus de diversité et montrer des visages uniques dans la publicité à l'avenir ", a déclaré Emanuel. "Cela homogénéise un seul look."

Icons8 a créé ses visages en premier en prenant des dizaines de milliers de photos d'environ 70 modèles dans des studios du monde entier, a déclaré Ivan Braun, fondateur de la société. Les collègues de Braun – qui travaillent à distance aux États-Unis, en Italie, en Israël, en Russie et en Ukraine – ont ensuite passé plusieurs mois à préparer une base de données, à nettoyer les images, à étiqueter les données et à organiser les photos selon les spécifications précises de l'ordinateur.

Avec ces images à prêts, les ingénieurs ont ensuite utilisé un système d'IA connu sous le nom de StyleGAN pour produire un flot de nouvelles photos, générant 1 million d'images en une seule journée. Son équipe a ensuite sélectionné les 100 000 images les plus convaincantes, qui ont été mises à la disposition du public.

La société, a déclaré Braun, a signé trois clients au cours de sa première semaine: une université américaine, une application de rencontres et une société de planification des ressources humaines. Braun a refusé de nommer les clients.

Les clients peuvent télécharger jusqu'à 10 000 photos par mois à partir de 100 $.

Une autre entreprise, la start-up basée à San Francisco, Rosebud AI, offre aux clients une chance de 25 000 photos de leurs nouvelles photos générées à partir de leurs séances photo. "Modèles personnalisés par l'IA de différentes ethnies." La fondatrice de la société, Lisha Li – qui l'a nommée d'après un code de triche à argent infini qu'elle aimait étant enfant pour le jeu de simulation de personnes "Les Sims" – a déclaré qu'elle avait d'abord commercialisé les photos comme moyen pour les petites entreprises sur les sites de magasinage en ligne d'inventer

Les images sources de son entreprise proviennent de bases de données en ligne de photos gratuites et non protégées, et le système permet aux clients de superposer facilement différents visages sur un ensemble de corps changeant. Elle promeut le système comme un outil puissant pour augmenter les capacités des photographes, les laissant facilement adapter les modèles pour un shooting de mode à la nationalité ou à l'origine ethnique du spectateur. "Le visage est un point douloureux que la technologie peut résoudre", a-t-elle déclaré.

Le système n'est proposé qu'à un groupe limité de clients, que la société évalue individuellement dans l'espoir de bloquer les mauvais acteurs. Environ 2 000 clients potentiels sont sur la liste d'attente.

Les deux sociétés s'appuient sur une percée de l'IA connue sous le nom de «réseaux contradictoires génératifs», qui utilisent des algorithmes de duel pour affiner leur travail: un système créateur génère une nouvelle image, puis un système critique se compare à l'original, informant le prochain design du créateur. Chaque itération a tendance à engendrer une meilleure copie que la précédente.

Mais les systèmes sont des artistes imparfaits, non formés aux bases de l'anatomie humaine, et ne peuvent que tenter de faire correspondre les motifs de tous les visages qu'ils ont traités auparavant. En chemin, l'IA crée une armée de ce que Braun appelle des "monstres": des visages cauchemardesques remplis de déformations inhumaines et de mutations surréalistes. Des exemples courants incluent des mains trop doigts, des visages sans traits et des gens avec des bouches pour les yeux.

Le logiciel est devenu ces derniers mois l'une des percées les plus flashy et les plus virales des chercheurs en IA, réduisant considérablement le temps et les efforts nécessaires aux artistes et aux chercheurs pour créer des paysages de rêve et des personnages fictifs. Un flux apparemment infini de contrefaçons peut être vu sur thispersondoesnotexist.com, ainsi qu'un système d'IA compagnon formé sur des images de chats, appelé thiscatdoesnotexist.com. Pour tester si les gens peuvent faire la différence entre un faux généré et le vrai, les chercheurs en IA de l'Université de Washington ont également construit le site Web côte à côte whichfaceisreal.com.

Les techniques d'apprentissage automatique sont "open source, "permettant à pratiquement n'importe qui de les utiliser et de les développer. Et le logiciel s'améliore tout le temps: une nouvelle version de StyleGAN, dévoilée le mois dernier par des chercheurs en IA de Nvidia, promet des méthodes de génération plus rapides, des images de meilleure qualité et moins de problèmes et d'artefacts qui ont fait disparaître les vieux faux.

disent que les images sont un cadeau pour les fournisseurs de désinformation, car contrairement aux vraies photos prises ailleurs, elles ne peuvent pas être facilement retracées. De telles contrefaçons sont déjà utilisées, y compris sur Facebook, où des vérificateurs des faits ont trouvé les images utilisées pour créer de faux profils pour promouvoir des pages présélectionnées ou des idées politiques.

Dans un autre cas, le profil LinkedIn d'une jeune femme soi-disant Katie Jones , qui a établi des liens avec de hauts responsables de Washington, a été découvert plus tôt cette année pour utiliser une image générée par l'IA. Des experts du contre-espionnage ont déclaré à l'Associated Press qu'il portait les signatures d'espionnage étranger.

La technologie est également le fondement des vidéos d'échange de visage connues sous le nom de deepfakes, utilisées à la fois pour les parodies et la fausse pornographie. Les systèmes nécessitaient autrefois des montagnes de «données faciales» pour générer un faux convaincant. Mais les chercheurs de cette année ont publié des détails montrant des techniques de "quelques plans" qui ne nécessitent que quelques images pour produire un mimétisme convaincant.

La création d'images générées par l'IA à ce volume pourrait être prohibitif, car le processus nécessite une puissance de calcul extraordinaire sous la forme de serveurs et de cartes graphiques coûteux. Mais la société de Braun, comme d'autres, profite de la concurrence entre Google et Amazon dans le domaine du cloud computing, qui offrent tous deux des "crédits" que les start-ups peuvent utiliser pour de gros travaux d'IA à des tarifs fortement réduits.

Braun a déclaré qu'il existe une crainte raisonnable. d'images générées par l'IA utilisées pour la désinformation ou les abus, ajoutant: "Nous devons nous en inquiéter. La technologie est déjà là, et il n'y a nulle part où aller." Mais la solution à ce problème, a-t-il dit, n'est pas la responsabilité d'entreprises comme la sienne: au lieu de cela, il faudra une "combinaison de changement social, de changement technologique et de politique". (La société n'utilise aucune mesure d'authentification, comme des filigranes, pour aider les gens à vérifier s'ils sont réels ou faux.)

Deux mannequins qui ont travaillé avec Icons8 ont déclaré qu'on leur avait dit seulement après la séance photo que leurs portraits seraient utilisés pour l'imagerie générée par l'IA. Braun a déclaré que les premiers tournages étaient destinés à la photographie de stock et que l'idée d'une application AI est venue plus tard, ajoutant: "Je n'ai jamais pensé que c'était un problème."

Estefanía Massera, un mannequin de 29 ans en Argentine, a déclaré que sa séance photo impliquait l'expression faciale de diverses émotions. On lui a demandé de paraître affamée, en colère, fatiguée et comme si on lui avait diagnostiqué un cancer. En regardant certains des visages générés par l'IA, elle a dit qu'elle pouvait voir des similitudes avec ses yeux.

Elle a comparé le logiciel de création de visage à des systèmes de "bébé design" dans lesquels les parents peuvent choisir les caractéristiques de leurs enfants. Mais elle s'inquiète moins de la façon dont la technologie pourrait affecter son travail: le monde a encore besoin de vrais modèles, a-t-elle déclaré. "Aujourd'hui, les tendances en général et pour les entreprises et les marques doivent être aussi réelles que possible", a-t-elle ajouté.

Simón Lanza, un étudiant de 20 ans qui a également participé à un tournage de Icons8, a déclaré qu'il pouvait voir pourquoi les gens

"En tant que modèle, je pense que cela prendrait le travail aux gens", a-t-il dit. "Mais vous ne pouvez pas arrêter l'avenir."

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *