No início, John Pasmore ficou entusiasmado com o ChatGPT.
O fundador da série estava no espaço da perceptibilidade sintético desde pelo menos 2008. Ele relembrou os dias em que os especialistas declararam que levaria décadas até que o mundo visse um pouco parecido com um ChatGPT. Progressão rápido – esse dia chegou.
Mas há um porém.
ChatGPT, uma das ferramentas de perceptibilidade sintético mais poderosas do mundo, luta com nuances culturais. Isso é muito rente para um preto porquê Pasmore. Na verdade, leste imprevidência despertou a ira de muitos negros que já não se viam devidamente representados nos algoritmos anunciados para um dia salvar o mundo. O atual ChatGPT oferece respostas excessivo generalizadas para questões específicas que atendem a determinadas comunidades, pois a sua formação parece eurocêntrica e ocidental no seu viés. Isso não é único – a maioria dos modelos de IA não são construídos pensando nas pessoas de cor. Mas muitos fundadores negros estão inflexíveis em não permanecer para trás.
Numerosas versões do ChatGPT de propriedade de negros surgiram no ano pretérito para atender especificamente às comunidades negras e pardas, à medida que fundadores negros, porquê Pasmore, buscam capitalizar o deslize cultural da OpenAI.
“Se você perguntar ao protótipo em universal quem são alguns dos artistas mais importantes de nossa cultura, ele lhe dará Leonardo da Vinci e Michelangelo”, disse Pasmore sobre o ChatGPT. “Não vai manifestar zero sobre a Índia ou a China, a África ou mesmo os afro-americanos, porque tem um preconceito que se concentra na trajetória histórica europeia.”
Portanto Pasmore lançou o Latimer.AI, um protótipo de linguagem para fornecer respostas adaptadas para refletir as experiências de pessoas negras e pardas. Erin Reddick iniciou o ChatBlackGPT, um chatbot também centrado em comunidades negras e pardas. Globalmente existe o Spark Plug, com sede no Canadá, que é essencialmente um ChatGPT para estudantes negros e pardos. África também está a presenciar a uma grande inovação neste espaço, com modelos linguísticos a surgir para atender às mais de 2.000 línguas e dialectos falados no continente que os modelos ocidentais de IA ainda ignoram.
“Somos os guardiões de nossas próprias histórias e experiências”, disse Tamar Huggins, fundadora da Spark Plug, ao TechCrunch. “Precisamos gerar sistemas e infraestrutura que possuímos e controlamos, para prometer que nossos dados continuem sendo nossos.”
A IA personalizada está cá
Os modelos generalizados de IA não conseguem captar facilmente a experiência afro-americana porque muitos aspectos dessa cultura não estão online. Os algoritmos atuais vasculham a Internet em procura de fontes, mas muitas tradições e dialetos da cultura afro-americana são transmitidos oralmente ou em primeira mão, deixando uma vácuo entre o que um protótipo de IA entenderá sobre a comunidade versus as nuances do que realmente acontece.
Esta é uma das razões pelas quais Pasmore tentou usar fontes porquê o Amsterdam News, um dos jornais negros mais antigos dos EUA, enquanto construía o Latimer.AI, concentrando-se na precisão em vez de na formação em dados gerados pelos utilizadores extraídos da Internet. Fazendo isso, ele começou a ver diferenças entre seu protótipo e o do ChatGPT.
Certa vez, ele perguntou ao ChatGPT sobre a Ferrovia Subterrânea, a passagem que os negros americanos escravizados usavam para viajar para os estados do Setentrião para evadir da escravidão. O protótipo do ChatGPT mencionaria escravos fugitivos, enquanto o Latimer.AI ajustou o texto, referindo-se aos “escravizados” ou “pessoas em procura de liberdade”, o que está mais de consonância com o que se tornou mais sintonizado socialmente ao discutir os ex-escravizados.
“Há algumas diferenças sutis na linguagem que o protótipo usa por pretexto dos dados de treinamento, e o próprio protótipo pensa unicamente em pessoas negras e pardas”, disse Pasmore.
Enquanto isso, ChatBlackGPT de Erin Reddick ainda está em modo beta com planos de lançamento em junho. Seu resultado funciona porquê parece: um chatbot onde é provável fazer perguntas e receber respostas personalizadas sobre a cultura negra. “A origem do que estamos fazendo é realmente voltada para a comunidade”, disse ela.
Ela está no processo de construção da instrumento, perguntando aos usuários porquê eles querem que ela seja e porquê querem que ela funcione. Ela também está se unindo a instituições de ensino, porquê faculdades e universidades historicamente negras (HBCUs), para trabalhar com alunos para ensinar e fazer com que ajudem a treinar seu algoritmo. Ela disse que deseja “gerar uma oportunidade de aprendizagem abrangente para que pessoas negras e pardas tenham um espaço seguro para explorar a IA”.
“O algoritmo prioriza as fontes de informação negra para que possa falar com um corpo de conhecimento que seja mais imediatamente identificável do que a sua experiência média”, disse ela ao TechCrunch, acrescentando que, porquê o resultado de Pasmore, tecnicamente qualquer pessoa pode usá-lo.
Tamar Huggins construiu o Spark Plug para oferecer também uma experiência mais personalizada às comunidades negras e pardas. Sua plataforma traduz material educacional para o inglês vernacular afro-americano (AAVE), o etnoleto associado às comunidades negras americanas. Esse dialeto é tradicionalmente transmitido oralmente e em primeira mão, em vez de estudado e escrito porquê o inglês padrão, o que significa que a precisão de um protótipo de IA (ou pessoa) que o aprende unicamente pela Internet será prejudicada. Conquistar o AAVE com precisão é importante, não unicamente para que o GPT responda usando-o, mas também para que os alunos possam redigir prompts com mais facilidade que farão com que a IA retorne os resultados de que precisam.
“Ao gerar teor que ressoe com os estudantes negros, garantimos que eles se vejam na instrução, o que é fundamental para um cumeeira envolvimento e sucesso acadêmico”, disse Huggins. “Quando tiver oportunidade, a Big Tech quase sempre priorizará os lucros em detrimento das pessoas. Portanto criamos nossa própria rota dentro do espaço de IA.”
Huggins treinou seu algoritmo em textos porquê Shakespeare, junto com os escritos de autores negros da Renascença do Harlem, e até mesmo no parlenga de sua filha jovem para conquistar a origem da AAVE. Huggins também trabalha com educadores, linguistas e especialistas culturais para revisar e validar os resultados do Spark Plug.
Pasmore também está trabalhando para expandir sua empresa para escolas, principalmente HBCUs, à medida que mais alunos recorrem ao ChatGPT todos os dias para concluir seus trabalhos.
“Nascente é um melhor companheiro de IA para grande segmento do trabalho que as crianças negras e pardas são incumbidas de fazer”, disse ele.
Unindo a diáspora
África vê-se negligenciada no moderno movimento de IA. Por exemplo, unicamente 0,77% do totalidade mundial de revistas sobre IA provêm da África Subsariana, em conferência com a Ásia Oriental e a América do Setentrião com 47,1% e 11,6%, respetivamente, de consonância com um Relatório do Índice de Perceptibilidade Sintético de 2023. Em termos de população, em conferência com a América do Setentrião, África constitui murado de 17% da população mundial, em conferência com unicamente 7% da América do Setentrião. Quando chega a profundidade de obter informações e especialistas sobre IA, as probabilidades de utilização de investigação da região subsariana são bastante baixas, o que poderá ter impacto no desenvolvimento de ferramentas globais de IA.
Embora África esteja a presenciar a um grande desenvolvimento na geração de modelos linguísticos mais inclusivos que sirvam melhor a diáspora negra, neste momento, os actuais modelos de IA, do ChatGPT ao Gemini, não conseguem suportar totalmente as mais de 2.000 línguas faladas em África.
Yinka Iyinolakan criou o CDIAL.AI para resolver isso. CDIAL.AI é um chatbot que pode falar e compreender quase todas as línguas e dialetos africanos, com foco pessoal nos padrões de fala e não no texto.
Iyinolakan repetiu ao TechCrunch o mesmo sentimento que muitos negros americanos fizeram – que os modelos fundamentais de IA são extraídos principalmente de dados da Internet e dos idiomas mais falados. Tal porquê a sua cultura progénito afro-americana, muitas línguas e tradições africanas estão ausentes da Internet, visto que é uma cultura historicamente comunicada oralmente e não por escrito. Isto significa que os modelos de IA não têm informações suficientes sobre as culturas africanas para se formarem, deixando assim uma vácuo de conhecimento.
Para CDIAL.AI, Iyinolakan trouxe mais de 1.200 falantes nativos e linguistas em toda a África para coletar conhecimento e insights para edificar o que ele considera “o primeiro protótipo de linguagem grande e multilíngue do mundo”. A empresa planeja expandir nos próximos 12 meses para incluir ainda mais idiomas e edificar um protótipo para suportar texto, vozes e imagens.
Ele não está sozinho cá. A Google concedeu recentemente à Jacaranda Health, sediada no Quénia, uma doação de 1,4 milhões de dólares para desenvolver os seus serviços de aprendizagem automática para que possa trabalhar em mais línguas africanas e a Intron Health levantou recentemente vários milhões de dólares para dimensionar o seu reconhecimento médico de fala para os mais de 200 sotaques falados em toda a África. .
“O Vale do Silício quer confiar que é o princípio e o término de tudo para a perceptibilidade sintético”, disse Iyinolakan. “Mas para ‘obter’ a perceptibilidade sintético, que é o que todas as empresas têm porquê estrela setentrião, elas precisam incluir um terço do conhecimento mundial.”
Avançando
Adotar chatbots de IA não é a única inovação que os fundadores negros estão tentando enfrentar.
Steve Jones fundou a empresa pocstock para gerar imagens de banco de imagens de pessoas de cor, já que, durante décadas, houve uma escassez de minorias representadas em imagens de banco de imagens. Esta é uma das razões pelas quais os modelos hoje em dia cospem principalmente imagens de pessoas brancas quando os utilizadores lhes pedem para gerar imagens de qualquer coisa, desde médicos a cantores pop.
“Todas as plataformas e ferramentas devem ser treinadas a partir de dados completos, racialmente inclusivos e culturalmente precisos, ou logo iremos [perpetuate] os problemas de preconceito que nossa sociedade em universal enfrenta atualmente”, disse Jones ao TechCrunch. Para resolver isso, a pocstock passou os últimos cinco anos coletando dados de volubilidade e criando seu próprio sistema de marcação visual que contribui para um banco de dados usado pelas empresas para ajudar a treinar seus modelos de IA para que possam produzir imagens mais inclusivas.
Algumas melhorias estão acontecendo, no entanto. Jones disse que notou que grandes empresas de imagens de ações que recorrem a empresas de IA estão dando mais passos para aumentar a volubilidade de seu teor. Pasmore também vê um horizonte melhor pela frente, dizendo que a IA personalizada é o horizonte de qualquer maneira e que quanto mais os modelos de IA interagirem com seus usuários, mais entenderão os desejos e necessidades de uma pessoa específica, “o que, eu acho, elimina muitos preconceitos”. .”
Pode até ter espaço para modelos de IA mais específicos da cultura no horizonte, principalmente à medida que mais alternativas de propriedade de negros continuam surgindo. Por fim, o mundo é vasto e com mais nuances – não há sentido em tentar encaixá-lo em uma caixa preta.
“Minha esperança é que mais fundadores de cores se envolvam no desenvolvimento de suas próprias plataformas de IA ou na geração de novos empregos relacionados à IA o mais cedo provável neste próximo boom econômico”, disse Jones. “A IA vai gerar trilionários e eu adoraria ver pessoas de cor assumirem a posição de produtores e não unicamente de consumidores.”