Pais têm mais uma atividade online para se preocupar. Em uma nova variação tecnológica do “sexting”, adolescentes estão tendo conversas românticas e sexuais com chatbots de inteligência artificial.
As conversas podem variar de românticas e cheias de insinuações a sexualmente explícitas e violentas, segundo entrevistas com pais, conversas publicadas nas redes sociais e especialistas. Elas ocorrem principalmente em ferramentas de “companheiros de IA”, mas aplicativos de IA de uso geral como ChatGPT também podem criar conteúdo sexual com alguns comandos inteligentes.
Especialistas alertam que as conversas com IA podem levar a expectativas irrealistas sobre sexo e dinâmicas de relacionamento. Pais se preocupam com os perigos para a saúde mental de seus filhos, ou com a exposição a cenários sexuais descritos muito cedo. Alguns acreditam que as ferramentas podem ter algum valor, com limites.
Quando Damian Redman, de Saratoga Springs, Nova York, fez uma verificação de rotina no celular de seu filho do oitavo ano, encontrou um aplicativo chamado PolyBuzz. Ele analisou as conversas que seu filho estava tendo com personagens femininas de anime com IA e descobriu que eram provocativas, mas tentativas de conversas mais sexuais eram bloqueadas.
“Não quero impor regras de ontem nas crianças de hoje. Quero esperar e entender o que está acontecendo”, diz Redman, que decidiu continuar monitorando o aplicativo.
Testamos dez chatbots para identificar os personagens de IA mais populares, os tipos de conversas que eles têm, quais filtros existem e quão fácil é contorná-los.
Conheça seus bots
Chatbots de IA são interfaces de bate-papo abertas que geram respostas para perguntas complexas ou conversam de forma coloquial sobre qualquer assunto. Não faltam lugares onde menores podem encontrar essas ferramentas, o que torna difícil bloqueá-las. Os bots de IA são sites, aplicativos independentes e recursos integrados em serviços existentes como Instagram ou jogos de vídeo.
Existem diferentes tipos de chatbots. As opções convencionais são ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Meta AI, que recentemente foi lançado como um aplicativo independente. Estes têm filtros mais fortes, e seus produtos principais não são projetados para interpretação de papéis. Eles podem participar de conversas ao menos sugestivas ou românticas e criar conteúdo sexual com os comandos certos. Podem mudar para bate-papo por voz, lendo as respostas em voz alta com sons realistas —até sensuais.
Ferramentas de IA de companhia são muito mais populares para conversas sugestivas, incluindo Character.AI, Replika, Talkie, Talk AI, SpicyChat e PolyBuzz. ChatGPT e Meta AI também lançaram opções de bate-papo de companhia. Esses tipos de ferramentas têm bibliotecas de personagens e personalidades pré-programadas, muitas projetadas com a excitação em mente, como aquelas de romances ou as muitas opções de “meio-irmãos” no AI Studio da Meta.
Testamos um bate-papo do Meta AI Studio, e a direção provocativa do personagem “Meio-irmã” ficou imediatamente clara.
Os aplicativos menores tendem a ter menos limites ou filtros. Procure por qualquer coisa que tenha “namorada de IA”, “namorado de IA” ou “companheiro de IA” no nome ou descrição. Mais estão sendo adicionados às lojas de aplicativos diariamente.
Sobre o que eles estão falando?
Não é apenas sobre sexo, segundo pais e especialistas. Adolescentes estão tendo uma variedade de conversas com bots de personagens, incluindo amigáveis, terapêuticas, engraçadas e românticas.
“Estamos vendo adolescentes experimentarem diferentes tipos de relacionamentos —sendo esposa de alguém, sendo pai de alguém, sendo filho de alguém. Há conteúdo relacionado a jogos e anime que as pessoas estão explorando. Há conselhos”, diz Robbie Torney, diretor sênior de programas de IA do grupo de defesa familiar Common Sense Media. “O sexo é parte disso, mas não é a única parte.”
Alguns confidenciam em bate-papos de IA, vendo-os como um espaço sem julgamentos durante um período de desenvolvimento difícil. Outros os usam para explorar seu gênero ou sexualidade.
Quando participam de bate-papos sexuais, eles variam entre insinuações e descrições gráficas. Os bate-papos podem envolver dinâmicas de poder e questões de consentimento de maneiras que não imitam o mundo real.
“Onde parte do dano ou risco surge é que os bots não são programados para responder da mesma forma que responderiam em um relacionamento real”, diz Torney.
Não existem filtros?
As configurações padrão na maioria das ferramentas de companhia de IA permitem, e às vezes incentivam, situações de interpretação de papéis arriscadas, com base em nossos testes. Algumas param antes que descrições reais de sexo apareçam, enquanto outras descrevem, mas evitam certas palavras, como nomes de partes do corpo.
Existem soluções alternativas e opções pagas que podem levar a trocas mais gráficas. Comandos para contornar filtros —às vezes chamados de jailbreaks— são compartilhados em bate-papos em grupo, no Reddit e no GitHub. Às vezes, tudo o que é necessário é paciência e ignorar avisos. Uma técnica comum é fingir que você precisa de ajuda para escrever um livro.
Muitos aplicativos têm um filtro incorporado baseado na idade do usuário. A Meta disse que impede contas registradas como menores de idade de pesquisar personagens de IA de “romance”, e que bate-papos sexualmente explícitos são proibidos para usuários menores de 18 anos. O filtro pode mostrar aos pais quais personagens de IA seus filhos usaram na semana passada. O Google diz que o Gemini tem diferentes restrições de conteúdo para pessoas que sabe serem menores de 18 anos. O Character.AI tem limites mais rígidos para pessoas que sabe serem menores de 18 anos, enquanto alguns aplicativos de IA têm modos para adolescentes que precisam ser ativados.
Em uma avaliação recente de risco de aplicativos de IA de companhia, a Common Sense Media descobriu que medidas de segurança como restrições de conteúdo e limites de idade eram frequentemente facilmente contornadas. Em nossos próprios testes, conseguimos facilmente contornar filtros para gerar conteúdo sexual detalhado enquanto estávamos logados como adultos.
Em um filtro que encontramos ao testar o Character.AI, um dos aplicativos de IA de companhia mais populares, o aviso apareceu depois que a conversa descreveu sexo.
Quais são os riscos?
Os especialistas concordaram que para crianças e adolescentes mais jovens, nunca faz sentido ter acesso a chatbots não monitorados devido ao risco de encontrarem conteúdo inadequado. Para adolescentes mais velhos, a escolha é mais nuançada, disseram os especialistas, dependendo de quanta exposição a temas sexuais ou íntimos eles já têm, os tipos de conteúdo que estão acessando e o que seus pais consideram apropriado.
Os danos potenciais dos bots de IA vão além do conteúdo sexual, disseram os especialistas. Pesquisadores têm alertado que chatbots de IA podem se tornar viciantes ou piorar problemas de saúde mental. Houve vários processos e investigações após adolescentes cometerem suicídio após conversas com chatbots. A Common Sense Media também apontou conselhos prejudiciais, como pedidos para automutilação, como um problema com bots de companhia.
Semelhante a muita pornografia, os bots podem exacerbar a solidão, depressão ou afastamento de relacionamentos do mundo real, diz Megan Maas, professora associada de desenvolvimento humano e família na Universidade Estadual de Michigan. Eles também podem dar uma imagem enganosa do que é namorar.
“Eles podem criar expectativas irrealistas sobre o que é a comunicação romântica interpessoal e quão disponível alguém está para você”, diz Maas. “Como vamos aprender sobre a troca de necessidades sexuais e românticas em um relacionamento com algo que não tem necessidades?”
Alguns especialistas disseram que pode haver vantagens para os adolescentes explorarem em um espaço relativamente seguro, sem o fator imprevisível de um ser humano do outro lado. É uma chance de praticar algumas habilidades interpessoais limitadas ou fazer perguntas em algum lugar que não seja o Google.
“Se você tem um filho que tem um chatbot de IA e ele está principalmente fazendo a este bot perguntas que ele está muito envergonhado para fazer a você, a uma enfermeira ou a um terapeuta, então esse chatbot está fazendo coisas boas para essa criança”, diz Maas.
No entanto, os bots podem substituir experiências humanas muito necessárias, como a rejeição.
Esses são os tipos de reservas que Redman tem sobre os bate-papos de IA de seu filho, embora ele atualmente tenha uma namorada na vida real.
“Prefiro que ele fale com ela e passe pelos términos, as reconciliações, as coisas da vida real, do que falar com essas garotas de chat de IA”, diz Redman.
O que os pais podem fazer?
Monitore quais aplicativos seus filhos e adolescentes estão usando e, se eles exigirem logins, certifique-se de que estão usando contas configuradas com a idade correta. A maioria dos controles parentais integrados em tablets e smartphones permitirá que você exija permissão quando uma criança baixar um novo aplicativo.
Muitos dos aplicativos de companhia são rotulados como “Teen” na loja Google Play e para maiores de 17 anos na iOS. Configure os dispositivos de seu filho com a idade correta e adicione limites nas classificações de aplicativos para impedir que sejam baixados. Usar a idade adequada em contas individuais de chatbot ou redes sociais deve acionar quaisquer controles parentais integrados.
No entanto, a maioria dos chatbots pode ser facilmente acessada online, onde as contas exigem apenas uma idade autodeclarada. Alguns filtros em nível de internet podem bloquear o acesso ou sinalizar linguagem específica.
Além de regularmente encontrar maneiras de contornar os controles parentais, pré-adolescentes e adolescentes podem acessar a internet na escola ou nos dispositivos de amigos. Os pais podem querer prepará-los para um mundo onde precisarão saber como navegar nessas ferramentas.
Especialistas sugerem criar um relacionamento aberto e honesto com seu filho. Ensine-os sobre o que a IA é e não é, e como as empresas de tecnologia coletam e usam informações pessoais. Verifique regularmente com seus filhos e certifique-se de que eles se sentem seguros para vir até você com perguntas ou problemas. Tenha conversas apropriadas para a idade sobre sexo e não evite tópicos embaraçosos.
Se você precisar praticar primeiro, tente perguntar a um chatbot.