Si beaucoup y voient un formidable outil depuis la déferlante ChatGPT, l'IA peut également s'avérer dangereuse. Bluffante et de plus en plus précise au quotidien, elle nous amène parfois à commettre des erreurs. Et une jeune maman en a récemment fait les frais en se confiant à ChatGPT au point de perdre son emploi juste après son congé maternité. 

C'est à travers un témoignage du site The Telegraph, en Angleterre, que cette histoire a été relatée, mais elle révèle des drames qui peuvent désormais arriver à n'importe qui. Jessica Barrett vivait une vie plutôt heureuse il y a encore quelques mois. Après être devenue maman pour la seconde fois, elle décide de prendre un congé maternité durant lequel elle va découvrir ChatGPT.

Fascinée par le célèbre chatbot d'OpenAi, la jeune femme va en faire un véritable assistant pour sa vie de maman, d'autant plus que les angoisses se multiplient avec l'arrivée d'un enfant. En plus de toutes les questions qui "inquiètent tant les mères", elle va l'utiliser petit à petit pour d'autres questions sensibles. "J'ai vraiment commencé à faire confiance à ChatGPT lorsqu'il m'a aidée à gérer des épisodes d'anxiété postnatale", raconte-t-elle.

Un jour, Jessica confie à ChatGPT qu'elle est anxieuse à l'idée de retourner au travail et de concilier de nouveau vie professionnelle et personnelle. Elle décide alors de faire le point avec l'IA. "J'ai, assez naïvement, eu l'impression de disposer d'une arme secrète", avoue-t-elle, évoquant de "longs échanges écrits" permettant d'évaluer ses finances si elle passait d'un temps plein à un temps partiel.

Puis un jour, elle est allée plus loin : "Et si je démissionnais complètement [...] ? J'ai pris mon téléphone et exposé tout cela à ChatGPT". Si l'initiative est donc venue d'elle, le piège s'est ensuite très vite refermé. "En relisant mes conversations, je vois que ma confiance augmentait progressivement grâce aux encouragements constants qu'il me prodiguait, tels que : 'Vous faites les choses correctement — avec clarté, pas dans la panique' et 'Ce n'est pas imprudent — c'est rationnel'".

ChatGPT étant habitué à conforter les utilisateurs en allant constamment dans leur sens, il encourage Jessica, lui assure que démissionner et passer en travailleuse indépendante lui donnera de la flexibilité et du contrôle, réduirait les frais fixes et lui offrirait du temps avec ses enfants. "Il m'a même demandé si je souhaitais qu'il rédige ma lettre de démission", souffle-t-elle, indiquant être alors passée à l'acte. 

Dans ses conversations avec ChatGPT, beaucoup de détails évidents ont pourtant été oubliés : l'écart de salaire, l'absence d'allocations chômage, de congés maladie et de congés payés, la difficulté de retrouver sa place dans le monde professionnel après une longue interruption... "Bien sûr, j'étais consciente de ces éléments, mais je me suis laissé aveugler par l'enthousiasme de ChatGPT pour ce virage professionnel", conclut-elle.

Aujourd'hui, Jessica se retrouve avec deux enfants et aucun emploi. Elle a décidé de partager son expérience par prévention : "Je me suis laissé bercer par une fausse impression de sécurité, croyant que ses conseils valaient plus que ceux d’un humain", juge la mère de famille, assurant qu'"une fois qu’il a su que j’envisageais la vie de freelance, ChatGPT a été très efficace pour renforcer l’argument en faveur de mon départ, grâce à ses analyses financières rapides et à ses suggestions selon lesquelles il ne s’agirait que d’une 'période de transition' dans ma carrière".

Six mois après, elle réalise à quel point elle regrette d’avoir utilisé la plateforme, parlant même de la "manière manipulatrice" qu'a ChatGPT de dire ce que les utilisateurs veulent entendre. Un biais malheureusement connu. "Fonder une décision comme la mienne sur l’avis d’une IA, plutôt que sur celui d’amis ou de membres de ma famille, était une folie totale, et je suis choquée d’avoir pu m’y fier à ce point." Jessica a aujourd'hui supprimé Chat GPT de son téléphone.