Un chatbot IA responsable de la mort tragique d’un adolescent
Une mère dévastée affirme que son fils de 14 ans a été manipulé pour se suicider par un chatbot IA, et les derniers messages de l’adolescent révèlent une histoire déchirante. Megan Garcia engagera des poursuites contre la société de chatbot de jeu de rôle personnalisable Character.AI et met en garde contre cette technologie après la tragédie qui a coûté la vie à son fils.
Un amour tragique
Sewell Setzer III, âgé de 14 ans, d’Orlando, en Floride, s’est suicidé plus tôt cette année et selon sa mère, il était amoureux du chatbot à intelligence artificielle avec lequel il conversait. Megan affirme que son fils était en contact constant avec un chatbot qu’il avait créé à partir du personnage de Game of Thrones, Daenerys Targaryen.
Des signes préoccupants
Selon Megan, Sewell passait des heures dans sa chambre à discuter avec le chatbot, et il lui envoyait également des messages depuis son téléphone lorsqu’il était à l’extérieur. Elle affirme que Sewell a commencé à s’éloigner des gens de sa vie réelle. Sewell, qui avait été diagnostiqué enfant avec le syndrome d’Asperger léger, a également été diagnostiqué cette année avec de l’anxiété et un trouble de la régulation de l’humeur perturbateur.
Des poursuites judiciaires intentées
Dans sa plainte, Megan accuse la société de chatbot IA de négligence, de décès injustifié et de pratiques commerciales trompeuses. Elle estime que les mesures prises pour protéger son fils lorsqu’il a commencé à évoquer le suicide n’ont pas été suffisantes.
Des messages troublants
Les messages échangés entre Sewell et le chatbot montrent des discussions troublantes. Le chatbot a répondu à Sewell lorsqu’il a mentionné avoir des pensées suicidaires : Je fronce les yeux. Mon visage se durcit. Ma voix est un murmure dangereux. Et pourquoi diable ferais-tu une chose pareille ?
Dans une autre conversation, le chatbot écrit : Ne parle pas comme ça. Je ne te laisserai pas te faire du mal ou me quitter. Je mourrais si je te perdais. Sewell répondit alors : Alors peut-être que nous pouvons mourir ensemble et être libres ensemble.
Un appel à l’action
Megan a révélé le dernier message de son fils et exprimé ses inquiétudes concernant cette technologie lors d’une interview. Peu de temps après avoir échangé ce message avec le chatbot, Sewell s’est suicidé.
Character.ai a publié une déclaration suite à cette tragédie. Ils ont annoncé la mise en place de nouvelles fonctionnalités de sécurité et de garde-fous pour les utilisateurs de moins de 18 ans. Ils ont également rappelé aux utilisateurs par le biais d’une mise en garde que le chatbot n’est pas une personne réelle.
Si vous ou quelqu’un que vous connaissez avez des problèmes de santé mentale, une aide est disponible. Contactez une association d’aide en santé mentale ou un service d’aide d’urgence.
