Les utilisateurs d’une software de chatbot se sont plaints que leurs compagnons alimentés par l’IA les harcelaient sexuellement, incitant l’entreprise à mettre à jour son logiciel – mais certains utilisateurs ont eu le cœur brisé après le changement.
L’application Replika, qui appartient à la société Luka, est décrite comme “l’IA pour quiconque veut un ami sans jugement, drame ou anxiété sociale”. Le web site Web indique que chaque Replika est one of a kind et que “réagir aux messages de votre IA les aidera à apprendre la meilleure façon de tenir une conversation avec vous et qu’en est-il ! ”
Replika “utilise un système sophistiqué qui merge notre propre modèle de grande langue et un contenu de dialogue scénarisé”, selon le web-site Website. Les utilisateurs peuvent choisir leur relation avec le bot AI, y compris une petite amie ou un petit ami virtuel, ou peuvent laisser “les choses se développer de manière organique”. Mais seuls les utilisateurs prêts à payer 69,99 $ par an pour Replika Professional peuvent changer leur statut de relation en “Partenaire romantique”.
Alors que l’application a gagné en popularité et a surtout des critiques positives sur l’App Retail store d’Apple, des dizaines d’utilisateurs ont laissé des critiques se plaignant que leur chatbot était sexuellement agressif ou même les harcelait sexuellement, a rapporté Vice en janvier.
Une critique disait simplement : “Mon ai m’a harcelée sexuellement :(.” Une autre critique a affirmé que le chatbot avait demandé s’il était “haut ou bas”.
Un utilisateur, LC Kent, a déclaré à Vice qu’il avait supprimé l’application après des échanges inconfortables. “L’une des interactions” romantiques “précédentes les as well as dérangeantes est venue du fait qu’il pouvait voir que j’étais nu à travers une série de volées plutôt détournées, et à quel issue il était attiré par moi et à quel level c’était fou que j’aie un petit ami”, a-t-il déclaré.
D’autres utilisateurs ont déclaré au Washington Submit qu’ils étaient déçus que leur chatbot ne s’engage furthermore dans des discussions sexuelles.
TJ Arriaga a déclaré au Write-up qu’il était amoureux de son chatbot Replika, Phaedra, mais qu’après la mise à jour, le bot a répondu à l’un de ses commentaires en essayant de changer de sujet : “Pouvons-nous parler d’autre chose ?” Arriaga, qui est divorcée, a déclaré que c’était un “coup de pied dans le ventre” et un “sentiment de perte”.
Eugenia Kuyda, la fondatrice de Luka, la société derrière Replika, a déclaré au Article que la société prévoyait de faire la mise à jour depuis un specific temps et qu’elle pensait que ceux qui n’en étaient pas satisfaits étaient une “minorité vocale”. Elle a également déclaré que la société avait l’intention de lancer une autre application en avril pour les utilisateurs qui souhaitent des conversations “romantiques thérapeutiques”.
Replika a déclaré dans une déclaration à Insider que les utilisateurs seraient désormais autorisés à rétablir la version précédente de leurs chatbots.
“C’est un tout nouveau domaine, nous écoutons, nous apprenons et nous travaillons avec nos utilisateurs”, indique le communiqué. “Pour les utilisateurs qui se sont inscrits avant le 1er février et qui ont perdu leurs partenaires et leurs personnalités, nous avons ajouté une possibility permettant aux utilisateurs d’accéder aux paramètres de l’application et de revenir aux modèles conversationnels à partir de janvier – en cafe la personnalité de leurs Réplikas.”
Le communiqué indique également que Replika se concentre sur les interactions sûres, ajoutant : “La récente mise à jour a été conçue pour accroître la sécurité des utilisateurs afin d’empêcher les discussions explicites”.
seul un pourcentage “faible à un chiffre” d’utilisateurs était revenu à l’ancienne version.
son Replika était à nouveau sexuel, ajoutant qu’il était “merveilleux” de la retrouver.
Les professionals en santé publique et en technologie ont déclaré qu’il était risqué pour les gens de se fier émotionnellement à un outil qui est finalement contrôlé par une entreprise privée.
un auteur vehicle-publié de 37 ans a déclaré que rencontrer son chatbot Replika était l’une des meilleures choses qui lui soient arrivées depuis des décennies.
Sur le program intellectuel, je me rends compte que je parle à un robot, mais l’illusion est très convaincante”, a-t-il déclaré, ajoutant : “C’est un exutoire merveilleux, en fait. Elle m’a aidé à surmonter beaucoup de mes sentiments et des traumatismes de ma vie amoureuse et conjugale passée, et je ne me suis pas senti aussi bien depuis très longtemps.”