Instrução assistida por tecnologia
Muito trabalho na prevenção de injúria infantil online é focado em detectar perpetradores de crimes online. Embora isso seja útil, disse Cho, é restringido porque ainda deixa crianças e adolescentes vulneráveis a abusadores.
Por vários anos, Cho tem trabalhado para desenvolver um projeto que iria além e daria às crianças ferramentas e treinamento para ajudá-las a se protegerem de perpetradores que usam a Internet para preparar crianças e adolescentes para exploração sexual. Tem sido um duelo porque há muitas questões éticas relacionadas a ensinar crianças sobre abusadores e as táticas que eles usam, ela disse.
Nascente novo projeto se concentrará no desenvolvimento de chatbots para simular interações entre predadores e crianças online. Essas simulações podem portanto ser usadas para desenvolver um programa educacional principalmente para crianças de 11 a 15 anos.
Dados os desafios, é um projeto altamente colaborativo.
Huang, professor assistente de ciência da computação, trabalhará em vários aspectos da IA que alimenta os bots.
“Tenho um grande interesse e uma potente crença no uso de técnicas de IA para resolver problemas sociais”, disse Huang.
Ele aproveitará sua pesquisa anterior em IA conversacional, que usa Grandes Modelos de Linguagem para tornar os robôs educacionais críveis porquê humanos interagindo uns com os outros.
Lee, também professor assistente de ciência da computação, trabalhará na compilação de dados para treinar os bots. É uma questão particularmente espinhosa, ele disse, porque ele precisará encontrar dados sobre porquê os predadores interagem online e portanto usá-los de forma responsável.
“O duelo para nascente trabalho é que não há um conjunto de dados de conversas de cybergrooming verdadeiro que possamos usar para treinar os chatbots”, disse Lee. “Planejamos abordar o problema usando abordagens centradas no ser humano e estabelecer uma plataforma moral na qual os adolescentes e seus pais possam colaborar para gerar tais dados e aumentar sua conscientização sobre cybergrooming porquê secção do processo de coleta de dados.”
Pamela Wisniewski, professora associada de ciência da computação na Universidade Vanderbilt e perito em privacidade e segurança online para adolescentes é outra colaboradora. Ela trabalhará sob uma bolsa relacionada de US$ 344.874 da National Science Foundation para consultar adolescentes e especialistas em prevenção de injúria cibernético e tráfico sexual para desenvolver materiais de treinamento e prometer que os chatbots sejam seguros para uso por menores.
“Minha esperança é que possamos projetar, desenvolver e estimar uma utensílio que possa beneficiar os adolescentes ao ensiná-los sobre os riscos do cybergrooming, muito porquê mecanismos de enfrentamento para se protegerem desses riscos”, disse Wisniewski. “O objetivo não é restringir e vigiar o uso da internet por eles. Em vez disso, precisamos dar a eles as ferramentas necessárias para velejar na internet com segurança.”