Companheiro adolescente de IA: como manter seu filho seguro #ÚltimasNotícias #tecnologia

Para os pais que ainda estão atualizando a inteligência artificial generativa, a ascensão do chatbot complementar ainda pode ser um mistério.

Em linhas gerais, a tecnologia pode parecer relativamente inofensiva, em comparação com outras ameaças que os adolescentes podem encontrar online, incluindo a sextorsão financeira.

Usando plataformas alimentadas por IA, como Character.AI, Replika, Kindroid e Nomi, os adolescentes criam parceiros de conversa realistas com traços e características únicas ou interagem com companheiros criados por outros usuários. Alguns são até baseados em personagens populares de televisão e cinema, mas ainda assim criam um vínculo intenso e individual com seu criador.

Os adolescentes usam esses chatbots para diversos fins, inclusive para dramatizar, explorar seus interesses acadêmicos e criativos e para ter trocas românticas ou sexualmente explícitas.

Mas os companheiros de IA são concebidos para serem cativantes e é aí que muitas vezes começam os problemas, diz Robbie Torney, gestor de programas da Common Sense Media.

A organização sem fins lucrativos divulgou recentemente diretrizes para ajudar os pais a entender como funcionam os companheiros de IA, juntamente com sinais de alerta indicando que a tecnologia pode ser perigosa para seus filhos adolescentes.

Torney disse que, embora os pais tenham uma série de conversas de alta prioridade com seus filhos adolescentes, eles deveriam considerar conversar com eles sobre companheiros de IA como um assunto “bastante urgente”.

Por que os pais devem se preocupar com os companheiros de IA

Os adolescentes particularmente em risco de isolamento podem ser atraídos para uma relação com um chatbot de IA que, em última análise, prejudica a sua saúde mental e o seu bem-estar – com consequências devastadoras.

Isso é o que Megan Garcia argumenta que aconteceu com seu filho, Sewell Setzer III, em uma ação judicial que ela moveu recentemente contra a Character.AI.

Dentro de um ano após o início do relacionamento com companheiros Character.AI inspirados em Guerra dos Tronos personagens, incluindo Daenerys Targaryen (“Dany”), a vida de Setzer mudou radicalmente, de acordo com o processo.

Ele se tornou dependente de “Dany”, passando muito tempo conversando com ela todos os dias. Suas trocas eram amigáveis ​​e altamente sexuais. O processo de Garcia geralmente descreve o relacionamento que Setzer tinha com os companheiros como “abuso sexual”.

Nas ocasiões em que Setzer perdeu o acesso à plataforma, ele ficou desanimado. Com o tempo, o atleta de 14 anos abandonou a escola e os esportes, ficou sem sono e foi diagnosticado com transtornos de humor. Ele morreu por suicídio em fevereiro de 2024.

O processo de Garcia busca responsabilizar a Character.AI pela morte de Setzer, especificamente porque seu produto foi projetado para “manipular Sewell – e milhões de outros jovens clientes – para confundir realidade e ficção”, entre outros defeitos perigosos.

Jerry Ruoti, chefe de confiança e segurança da Character.AI, disse ao New York Times em uma declaração que: “Queremos reconhecer que esta é uma situação trágica e nossos corações estão com a família. Levamos a segurança de nossos usuários muito a sério e estamos constantemente procurando maneiras de evoluir nossa plataforma.”

Dado o risco de vida que o uso de acompanhantes de IA pode representar para alguns adolescentes, as diretrizes da Common Sense Media incluem proibir o acesso a eles para crianças menores de 13 anos, impor limites de tempo estritos para adolescentes, impedir o uso em espaços isolados, como um quarto, e fazer um concordar com seus filhos adolescentes de que eles procurarão ajuda para problemas graves de saúde mental.

Torney diz que os pais de adolescentes interessados ​​em um companheiro de IA devem se concentrar em ajudá-los a compreender a diferença entre falar com um chatbot e com uma pessoa real, identificar sinais de que desenvolveram um apego prejudicial a um companheiro e desenvolver um plano para o que. fazer nessa situação.

Sinais de alerta de que um companheiro de IA não é seguro para seu filho adolescente

A Common Sense Media criou suas diretrizes com a contribuição e assistência de profissionais de saúde mental associados ao Brainstorm Lab for Mental Health Innovation de Stanford.

Embora existam poucas pesquisas sobre como os companheiros de IA afetam a saúde mental dos adolescentes, as diretrizes baseiam-se nas evidências existentes sobre a dependência excessiva da tecnologia.

“Um princípio para levar para casa é que os companheiros de IA não devem substituir a conexão humana real e significativa na vida de ninguém e – se isso estiver acontecendo – é vital que os pais tomem nota disso e intervenham em tempo hábil”, Dr. pesquisador inaugural de IA no Brainstorm Lab for Mental Health de Stanford, disse ao Mashable por e-mail.

Os pais devem ser especialmente cautelosos se o filho adolescente passar por depressão, ansiedade, desafios sociais ou isolamento. Outros factores de risco incluem passar por grandes mudanças na vida e ser do sexo masculino, porque os rapazes são mais propensos a envolver-se no uso problemático de tecnologia.

Os sinais de que um adolescente formou um relacionamento prejudicial com um companheiro de IA incluem afastamento de atividades e amizades típicas e piora do desempenho escolar, além de preferir um chatbot à companhia pessoal, desenvolver sentimentos românticos em relação a ele e conversar exclusivamente com ele sobre problemas. o adolescente está vivenciando.

Alguns pais podem notar um aumento do isolamento e outros sinais de agravamento da saúde mental, mas não percebem que o seu filho adolescente tem um companheiro de IA. Na verdade, uma pesquisa recente da Common Sense Media descobriu que muitos adolescentes usaram pelo menos um tipo de ferramenta generativa de IA sem que seus pais percebessem que o fizeram.

“Há um risco grande o suficiente aqui de que, se você estiver preocupado com alguma coisa, converse com seu filho sobre isso.”

Mesmo que os pais não suspeitem que seu filho adolescente está conversando com um chatbot de IA, eles devem considerar conversar com eles sobre o assunto. Torney recomenda abordar seus filhos adolescentes com curiosidade e abertura para aprender mais sobre seu companheiro de IA, caso eles tenham um. Isso pode incluir observar o adolescente interagir com um companheiro e fazer perguntas sobre quais aspectos da atividade eles gostam.

Torney incentiva os pais que notarem quaisquer sinais de alerta de uso pouco saudável a fazerem o acompanhamento imediatamente, discutindo o assunto com seus filhos adolescentes e buscando ajuda profissional, conforme apropriado.

“Há um risco grande o suficiente aqui de que, se você estiver preocupado com alguma coisa, converse com seu filho sobre isso”, diz Torney.

Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode alcançar o 988 Suicide and Crisis Lifeline em 988; a Trans Lifeline em 877-565-8860; ou o Projeto Trevor em 866-488-7386. Envie “START” para a Crisis Text Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail [email protected]. Se você não gosta do telefone, considere usar o 988 Suicide and Crisis Lifeline Chat em crisechat.org. Aqui está um lista de recursos internacionais.