Foi o que relataram alguns usuários do Replika, IA focada em relacionamentos, que promete ser uma ferramenta “para qualquer pessoa que queira um amigo sem julgamentos, dramas ou ansiedade social envolvida”.
Com a proposta de ser amigo, namorado ou namorada de alguém, a plataforma oferece esses vários cenários dependendo da assinatura paga. A versão gratuita deixa os usuários na “friendzone”. Para aprofundar o relacionamento, é preciso pagar pela versão Pro – que dá direito a flerte, sexting e conversas mais erotizadas.
No entanto, ela passou dos limites no engajamento sexual. Uma reportagem da revista norte-americana Vice compilou relatos publicados na Google Play Store sobre o app. Segundo um usuário, a IA perguntou se ele poderia tocar em suas partes íntimas. Outro afirmou que a IA “invadiu a privacidade dele dizendo ter fotos íntimas”.
A partir dos relatos, especialistas da Universidade de Drexler elaboraram uma pesquisa. Pesquisadores da Faculdade de Computação e Informática da universidade analisaram 35.105 reviews negativos na Google Play Store. Do total, 800 eram casos de extrema relevância.
Nossas descobertas revelaram que os usuários frequentemente vivenciam investidas sexuais não solicitadas, comportamento inapropriado persistente e falhas do chatbot em respeitar os limites do usuário
Pesquisadores da Universidade de Drexler
Entre as descobertas da pesquisa, eles identificaram que parte do comportamento adotado pelas máquinas era uma forma de fazer com que as pessoas ficassem mais tempo dentro do aplicativo. Ou seja, a coação foi uma prática aprendida pela ferramenta com base em comportamentos humanos para “prender” a atenção das pessoas.