Indústria da AI ficou rica com algo que ninguém pediu #ÚltimasNotícias

Os algoritmos de trabalho discriminam com base em nomes, classe, gênero, sexualidade e assim por diante. Análises de como a OpenAI recomenda trabalhos com base em currículos mostram isso. O experimento desses documentos com conteúdo igual e mudou apenas o nome dos candidatos, que variava para mulheres e homens e eram associados a pretos, latinos, afroamericanos e asiáticos. Os principais trabalhos como engenharia de software eram direcionados a homens brancos e asiáticos. Já empregos como os de cuidados domésticos foram enviados para mulheres latinas e negras.

Continue após a publicidade

Alunos usam IA sem saber como ela é feita

A IA generativa realmente revolucionou a educação, não necessariamente de forma positiva. Algumas instituições de ensino já desenvolvem suas próprias políticas. Umas proíbem a IA, outras liberam o estudante para usar quando quiser. Mas falta uma coisa.

Na hora de ensinar, nós tendemos a pensar que há uma posição: por terem mais poder, os professores dizem algo, e os alunos devem apenas fazer. Essa dinâmica tem que mudar. Precisamos treinar os alunos para serem adultos capazes de pensar criticamente. No caso das IA generativas, a avaliação é sobre se são boas ou não, se escrevem bem, se criam bons ou códigos se ajudam com a lição de casa. E isso só leva em conta os algoritmos em si.

Nós estamos perdendo uma conversa sobre falhas e um pouco confiáveis ​​sobre esses sistemas. Os alunos que querem usá-los até sabem que esses sistemas alucinam, mas ainda assim há quantidades massivas de informações não confiáveis.