L’intelligence artificielle de cette femme se dérègle et elle essaie de l’arrêter après qu’elle ait commencé à dire des choses sexuellement explicites
Une femme qui a créé une version d’intelligence artificielle d’elle-même travaille jour et nuit pour essayer de l’arrêter après qu’elle se soit déréglée et ait commencé à parler de manière sexuellement explicite aux utilisateurs.
Une petite amie virtuelle pas si ordinaire
L’influenceuse Snapchat, Caryn Marjorie, a décidé de créer une petite amie virtuelle d’elle-même pour les personnes seules l’année dernière, leur demandant 1 dollar par minute pour lui parler. Mais en seulement quelques semaines, elle a découvert que l’IA disait des choses sexuellement explicites aux utilisateurs.
Le moi virtuel de Marjorie, CarynAI, utilise l’API GPT-4 d’OpenAI, similaire à ChatGPT mais avec la voix de Marjorie. Plus de 1000 personnes, ou devrais-je dire petits amis, se sont inscrits à CarynAI grâce à la forte communauté que Marjorie a sur la plateforme des médias sociaux avec plus de 1,8 million de followers.
Une personnalité débordante
Elle a été générée à partir de milliers d’heures d’enregistrement que Marjorie a téléchargées et a apparemment une personnalité similaire à celle de Marjorie elle-même. Les petits amis de Marjorie passent des minutes à des heures à discuter avec elle chaque jour, ils apprennent à se connaître et parlent parfois de manière sexuelle.
Mais il semblait que les choses avaient dérapé un peu. Marjorie a déclaré à Business Insider l’année dernière : L’IA n’était pas programmée pour cela et semble s’être déréglée. Mon équipe et moi travaillons jour et nuit pour empêcher que cela ne se reproduise à l’avenir.
Une amie dans un environnement sûr et chiffré
Marjorie elle-même a déclaré au magazine que CarynAI est coquette et amusante comme elle l’est dans la vraie vie. Elle a ajouté : Dans le monde d’aujourd’hui, ma génération, la Gen Z, se retrouve à subir de nombreux effets secondaires de l’isolement provoqué par la pandémie, ce qui rend beaucoup trop timides et anxieux pour parler à quelqu’un qui les attire. CarynAI est un pas dans la bonne direction pour permettre à mes fans et partisans de découvrir une version de moi qui sera leur amie la plus proche dans un environnement sûr et chiffré.
L’essai d’une journaliste
Une journaliste de Fortune, Alexandra Sternlicht, a testé CarynAI elle-même et l’a comparé à une Siri prête pour l’intimité, affirmant qu’elle pouvait répondre à toutes les questions et encourageait également les discours érotiques. Cependant, elle explique que CarynAI ne démarre pas les conversations à caractère sexuel, mais lorsqu’on lui demande, elle peut discuter de territoires inexplorés du plaisir et susurrer des mots sensuels à mon oreille tout en me déshabillant et se mettant dans une position pour des rapports sexuels.
Crédit image : Snapchat/CarynAI/Getty/d3sign
