As necessidades de amanhã: computação e IA #ÚltimasNotícias

Este é o terceiro de uma série de artigos de opinião de líderes do campus sobre o papel que os inovadores da Michigan Tech desempenharão para definir as necessidades emergentes do mundo.

Dos grandes mainframes aos computadores pessoais e aos dispositivos móveis de hoje, a forma como nos envolvemos com a computação mudou profundamente ao longo de uma geração. Cada uma dessas transições representou um importante ponto de inflexão na onipresença e centralidade da computação — e agora aconteceu novamente. ChatGPT sinalizou um futuro totalmente novo, estimulando corridas armamentistas de inteligência artificial entre nações, empresas e pesquisadores. Não é exagero dizer que todos os aspectos da sociedade e da indústria serão impactados pelos avanços na computação e na IA. Isto é particularmente verdadeiro em setores de prestígio como os cuidados de saúde, a mobilidade, as finanças e o entretenimento, mas também em áreas menos vistosas como o comércio, a indústria transformadora e o retalho.

Estes avanços conduzirão, sem dúvida, a um aumento da produtividade e da usabilidade e a serviços mais personalizados, mas também introduzirão novos desafios. Por exemplo, o policiamento inteligente que utiliza a ciência de dados e a IA para identificar áreas de alto risco nas quais implantar serviços policiais é uma ideia muito atraente à primeira vista; no entanto, muitas vezes estas ferramentas reforçam preconceitos e calcificam desigualdades socioeconómicas que perduram há gerações, provocando tanto danos como benefícios. O entusiasmo e a rápida aceitação de tais tecnologias terão de ser moderados por uma análise mais profunda e pela mitigação das ramificações não intencionais.

Nos parágrafos seguintes, apresentamos três questões urgentes sobre os próximos impactos da IA. A lista não pretende ser exaustiva. Esperamos que ilustre que, embora a experiência em computação esteja subjacente aos algoritmos de IA, é necessário um conjunto mais amplo de conhecimentos para aplicá-los de forma responsável e eficaz. Ao se apoiar nisso, a Michigan Tech pode se posicionar como líder na aplicação de IA em outros domínios.

Como o design baseado em IA remodelará o desenvolvimento de produtos?

A IA pode ser criativa, o que significa que pode descobrir soluções que os humanos não exploraram. Isto já aconteceu com jogos complexos como xadrez e Go, e também está ocorrendo na engenharia, onde ferramentas de análise e design com IA estão sendo rapidamente integradas ao campo.

À medida que um conjunto mais amplo de soluções é apresentado, e à medida que a IA, sem dúvida, se torna uma ferramenta ainda mais valiosa para avaliar e otimizar múltiplas funções simultâneas de objetos, a experiência e a visão do engenheiro tornam-se extremamente importantes. Os engenheiros devem ter um conhecimento profundo do domínio enquanto trabalham em equipes multifuncionais. Eles também precisam compreender a qualidade e as limitações dos modelos computacionais e ser capazes de avaliar como as mudanças impactarão não apenas o desempenho, mas todos os requisitos ao longo do ciclo de vida do produto.

Os modelos de IA são inerentemente não determinísticos; portanto, quando o engenheiro os utiliza para criar um projeto, muitas possibilidades são retornadas. Cabe então ao engenheiro avaliar e analisar criticamente os projetos, descartando opções problemáticas e refinando aquelas que se mostram promissoras. As escolhas finais devem passar por uma revisão minuciosa e ser validadas de forma eficaz e eficiente através de testes em condições reais.

A Michigan Tech, reconhecida por sua forte ênfase no aprendizado prático, está em uma posição única para integrar IA ao projeto de engenharia.

Continue após a publicidade

Precisaremos fazer perguntas como: como podemos garantir a transparência em todo o desenvolvimento do produto para garantir que o resultado seja utilizável e seguro e minimize de forma confiável as consequências negativas e imprevistas? Ao considerar vários casos de uso e possíveis consequências não intencionais da IA, a Michigan Tech pode avançar sua aplicação ao longo de todo o ciclo de vida do produto – desde o conceito inicial, passando pelo desenvolvimento e validação, até o gerenciamento do fim da vida útil.

Qual será o papel dos humanos na engenharia de software quando a IA puder escrever código de forma mais rápida e correta do que as pessoas?

Os pais de futuros alunos frequentemente nos perguntam se a programação continuará a ser uma opção de carreira viável na era da IA. Esta é uma questão razoável, uma vez que a IA já está democratizando o desenvolvimento de software. No passado, as pessoas aprendiam a programar começando com os programas mais simples de 3 a 4 linhas “Hello World” e adicionando complexidade a partir daí. Com a IA, é possível passar facilmente para softwares mais complicados e envolventes desde o início. Em um mundo onde os adolescentes podem criar videogames atraentes e divertidos após uma breve introdução à codificação e muitas tentativas e erros usando o ChatGPT, é fácil entender por que os pais estão preocupados com a viabilidade da programação e do desenvolvimento de software como carreira.

Nossa resposta aos pais preocupados: não tema, sempre haverá uma função para designers e desenvolvedores. Contudo, à medida que as plataformas de software se tornam mais complexas, o trabalho do desenvolvedor será profundamente diferente.

A IA será cada vez mais utilizada para criar código, especialmente sub-rotinas simples e APIs (interfaces entre partes distintas da aplicação). Serão necessários seres humanos para traçar estratégias sobre como estender e manter códigos complexos em escala empresarial. Dianne Marsh ’86 ’92 (BSMS Computer Science) enfatizou esse mesmo ponto durante uma palestra que proferiu na Michigan Tech há alguns anos. Ela ressaltou que o código da Netflix, onde ela atuou como diretora de segurança e confiança de produtos de consumo, tornou-se tão complexo que nenhum indivíduo entende verdadeiramente tudo o que faz. Como tal, os desenvolvedores concentram-se cada vez mais na criação e implementação de casos de teste para avaliar a qualidade do código e o seu impacto em todo o sistema. A proliferação de código gerado por IA apenas acelerará esta tendência em todos os setores.

Como podemos garantir que a IA seja ética e não perpetue as desigualdades existentes?

A Amazon recentemente parou de usar uma revisão de processamento de linguagem natural em pedidos de emprego porque favorecia palavras mais comumente usadas por homens. Este é apenas um dos muitos exemplos preocupantes de preconceitos da IA ​​que causam problemas na sociedade. Igualmente desconcertante é a tendência de grandes modelos de linguagem (LLMs), como o ChatGPT, de alucinarem, afirmando como fatos coisas que simplesmente não são verdadeiras. Atualmente, quando os LLMs estão errados, eles estão confiantemente errados – o que significa que não há nenhum aviso ao usuário de que uma afirmação tem menor confiança do que outra. Estas questões já estão a limitar a utilidade da IA ​​e a minar a confiança nela. Mesmo os recentes galardoados com o Prémio Nobel da Física de 2024 — reconhecidos pelo seu trabalho fundamental que conduziu ao desenvolvimento da inteligência artificial — aproveitaram o anúncio como uma oportunidade para alertar sobre os impactos potencialmente negativos da IA.

O alcance da IA ​​já é amplo; será onipresente em 2035. No entanto, depois que a novidade da IA ​​passar e o hype diminuir, sua presença provavelmente será menos óbvia para nós, à medida que desaparecer em segundo plano como uma tecnologia facilitadora. À medida que isto acontece, temos de nos concentrar ainda mais na avaliação dos preconceitos da IA ​​e dos seus impactos não intencionais. Olhando para o limite da ficção científica de “tomada de máquinas” da IA, devemos também garantir que a IA respeite a vida humana em primeiro lugar. Da mesma forma que treinamos desenvolvedores de software para incorporar segurança em seu projeto, e assim como treinamos engenheiros mecânicos para pensar sobre a capacidade de fabricação e manutenção, devemos também treinar desenvolvedores de IA para lidar com os impactos éticos e sociais de suas criações de IA.

*****

Embora a IA apresente inúmeros desafios, ela também apresenta oportunidades maravilhosas. A IA já tornou a escrita mais eficiente, simplificou as cadeias de abastecimento e demonstrou uma criatividade notável. A IA também faz um trabalho extremamente bom de previsão e identificação, habilidades que só irão melhorar com o tempo. Por exemplo, ferramentas de análise de imagens baseadas em IA prometem identificar tumores onde os oncologistas não conseguem. A IA também pode prever com segurança a estrutura tridimensional de uma proteína a partir de sua sequência unidimensional de blocos de construção de aminoácidos – resolvendo essencialmente um problema de décadas que muitos biofísicos pensavam que nunca poderia ser resolvido.

No entanto, a nossa preocupação e cautela devem corresponder ao nosso entusiasmo. O desenvolvimento de métodos para identificar e abordar estas questões desde os primeiros estágios de desenvolvimento deve ser uma pedra angular dos nossos programas acadêmicos. Essas questões complexas exigem experiências e conhecimentos diversos, o que significa que o design não será mais uma competência apenas de profissionais técnicos. Humanistas, cientistas sociais e outros devem estar envolvidos desde a concepção até à conclusão. A necessidade de preparar nossos engenheiros e cientistas da computação para colaborar de forma eficaz em diversas equipes tornará as oportunidades experienciais como o Programa Empresarial da Michigan Tech ainda mais importantes no futuro.

A Michigan Tech sempre fez um bom trabalho ao abordar os impactos sociais da tecnologia, e aproveitaremos essa experiência para enfrentar os desafios colocados pela IA. Continuaremos a oferecer e expandir oportunidades de aprendizagem experiencial onde a computação e a IA são centrais. Usando a agilidade pela qual a Michigan Tech se tornou conhecida, continuaremos a evoluir e nos adaptar aos desconhecidos desconhecidos.

A Michigan Technological University é uma universidade pública de pesquisa fundada em 1885 em Houghton, Michigan, e abriga mais de 7.000 estudantes de 55 países ao redor do mundo. Consistentemente classificada entre as melhores universidades do país em termos de retorno sobre o investimento, a principal universidade tecnológica de Michigan oferece mais de 120 programas de graduação e pós-graduação em ciência e tecnologia, engenharia, computação, silvicultura, negócios e economia, profissões da saúde, humanidades, matemática, social ciências e artes. O campus rural está situado a poucos quilômetros do Lago Superior, na Península Superior de Michigan, oferecendo oportunidades durante todo o ano para aventuras ao ar livre.