Pourquoi votre assistant vocal pourrait être sexiste

Mais Sutton souligne que les gens sont désormais très habitués aux technologies anthropomorphisées.

“Nous sommes tellement conditionnés à entendre certains types de voix dans ces appareils, s’éloigner même un peu de cela peut être difficile pour les utilisateurs”, dit-elle.

De toute évidence, une partie du problème ici est que les préjugés et les préjugés sexistes existent dans la société et que les voix synthétiques – comme tout artefact culturel – courent le risque de refléter cela. Bien que cela reste un exercice valable, vous ne pouvez pas vous débarrasser des préjugés sexistes simplement en repensant la voix de Siri. Cela n’inversera pas les attitudes misogynes des gens du jour au lendemain ou n’égalisera pas soudainement le nombre de femmes et d’hommes travaillant dans l’industrie de l’IA.

Il y a un autre point à souligner ici. Et c’est que les assistants virtuels – par définition – seront toujours des entités subordonnées. Ce sont plus ou moins des serviteurs numériques, après tout, alors comment pourrions-nous jamais leur parler sur un pied d’égalité ? C’est vraiment ce dont nous aurions besoin pour nous éloigner de toutes les dynamiques de pouvoir maladroites et des comportements problématiques et dominateurs que nous leur lançons actuellement.

“S’ils sont principalement conçus pour aider les gens à rechercher et à acheter, jusqu’où pouvez-vous aller avec des représentations et des relations significatives ?” quiz Charlotte Webb, co-fondatrice de Internet féministe.

Dans un avenir proche, nous rencontrerons probablement encore plus de technologies qui nous parlent. Webb dit qu’elle s’inquiète de la façon dont les assistants vocaux pourraient continuer à perpétuer les stéréotypes de genre une fois qu’ils incarneront des avatars dans le “métaverse” – les espaces de réalité virtuelle. Les gens ont déjà été accusé d’avoir harcelé sexuellement d’autres personnes dans le métaverse. Les assistants virtuels serviront-ils, par inadvertance ou non, à permettre et à encourager de tels comportements ?

L’histoire des voix synthétiques et nos attitudes à leur égard ont peut-être perpétué et même approfondi les préjugés sexistes – comme une boucle de rétroaction amplifiant certaines de nos pires intentions. Et pourtant, la prise de conscience de ces problèmes a explosé ces dernières années, avec des enquêtes sur les résultats des technologies de l’IA et des changements d’attitudes sociales grâce à le mouvement #MeToo et campagnes similaires.

Vous pourriez dire que c’est le nœud de tout cela, en fin de compte. Une approche plus éclairée les uns des autres et de la merveilleuse gamme d’identités humaines qui existe dans le monde commence par nous, pas par une base de données. Afin de vaincre les préjugés sexistes, nous ne pouvons pas simplement mettre à jour le logiciel. Ou retournez la voiture au constructeur.

“Je ne vois certainement pas de solution technologique à cela”, déclare Webb. “Je pense que c’est un problème humain.”

Rejoignez un million de fans de Future en nous aimant sur Facebookou suivez-nous sur Twitter ou Instagram.

Si vous avez aimé cette histoire, inscrivez-vous à la newsletter hebdomadaire des fonctionnalités de bbc.comintitulée “The Essential List” – une sélection triée sur le volet d’histoires de
Bbc
Avenir, Culture, La vie de travail, Voyager et Bobine livré dans votre boîte de réception tous les vendredis.

Leave a Comment