Importância de Questionar o Uso da Inteligência Artificial

A Importância de Questionar o Uso da Inteligência Artificial

Sarah Myers West, diretora-gerente do instituto AI Now, é uma pesquisadora que tem se destacado no estudo das implicações sociais da inteligência artificial (IA) e na pesquisa de políticas públicas que abordam a concentração de poder na indústria de tecnologia. Com uma carreira dedicada a entender o papel das empresas de tecnologia como atores políticos poderosos, ela compartilha sua perspectiva sobre os desafios e a necessidade de uma abordagem mais crítica em relação ao desenvolvimento da IA.

O Início da Jornada na Inteligência Artificial

Sarah Myers West relata que, ao longo de sua carreira, tem se questionado sobre o porquê de estarmos sendo “trancados” em uma visão distópica do futuro. Ela descobriu que a resposta está menos relacionada à tecnologia em si e mais às políticas públicas e à comercialização. Esse tem sido o foco de seu trabalho, tanto em sua carreira acadêmica quanto em sua atuação na política, como co-diretora do instituto AI Now.

O Trabalho no Combate aos Desafios da IA

Durante sua passagem pela Comissão Federal de Comércio dos Estados Unidos (FTC), Sarah Myers West teve a oportunidade de usar suas habilidades de pesquisadora para realizar trabalhos investigativos e responsabilizar diretamente os detentores de poder. Ela se orgulha de ter contribuído para abordar questões como a desvalorização dos trabalhadores e o aumento de preços por meio do uso da IA, bem como o combate ao comportamento anticompetitivo das grandes empresas de tecnologia.

Os Principais Desafios da Evolução da IA

Um dos principais desafios apontados por Sarah Myers West é o uso inadequado da IA em contextos altamente sensíveis, como hospitais, escolas e fronteiras, sem a devida validação e testes. Ela ressalta que os erros dessa tecnologia afetam de forma desproporcional as comunidades que historicamente sofrem com a discriminação. Outro problema preocupante é a forma como instituições poderosas usam a IA para justificar suas ações, mesmo que a tecnologia não funcione adequadamente.

Construindo a IA de Forma Responsável

Para Sarah Myers West, a chave para construir a IA de forma responsável é sempre começar pela pergunta: “Por que construir a IA?”. É necessário avaliar se a IA é realmente necessária para determinado propósito e se a tecnologia é adequada para esse fim. Quando a resposta for positiva, os desenvolvedores devem garantir o cumprimento da lei, a documentação robusta e a transparência, permitindo que pesquisadores independentes possam validar os sistemas. No entanto, em alguns casos, a resposta pode ser não construir a IA, especialmente quando se trata de tecnologias de armas ou vigilância.

Conclusão

A perspectiva de Sarah Myers West sobre a inteligência artificial destaca a importância de questionar criticamente o desenvolvimento dessa tecnologia. Ela enfatiza a necessidade de examinar as instituições que a produzem e garantir que as necessidades do público sejam atendidas, e não apenas os interesses das empresas de tecnologia. Seu trabalho no combate aos desafios da IA e na promoção de uma abordagem mais responsável é fundamental para moldar um futuro mais justo e equitativo.

Referências

Women in AI: Sarah Myers West says we should ask ‘why build AI at all?’