O CEO do Google, Sundar Pichai, recentemente enfrentou uma série de controvérsias relacionadas à ferramenta de inteligência artificial (IA) da empresa, conhecida como Gemini. Em um comunicado divulgado na última terça-feira (27), Pichai descreveu as respostas problemáticas do aplicativo em questões de raça como “completamente inaceitáveis” e prometeu implementar mudanças estruturais para resolver o problema.
A controvérsia em torno do Gemini surgiu após a suspensão da ferramenta de criação de imagens da empresa, na semana passada, devido a resultados constrangedores e ofensivos. Em alguns casos, o aplicativo se recusou a retratar pessoas brancas ou inseriu imagens de mulheres ou pessoas racializadas em contextos inadequados, como na representação de nazistas ou do Papa.
Leia mais: Softwares com IA fake: como profissionais de TI podem desmascarar impostores?
Em uma declaração à imprensa, Pichai afirmou que “algumas das respostas do Gemini têm ofendido nossos usuários e mostraram viés”, destacando que tais ações são inaceitáveis. Ele também mencionou que a equipe do Google tem trabalhado incansavelmente para abordar essas questões e já observou melhorias significativas em várias áreas.
“Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos nesse caminho, não importa quanto tempo leve. E vamos revisar o que aconteceu e garantir que consertemos em escala”, disse Pichai em nota. “Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e testes finais, e recomendações técnicas”.
A controvérsia em torno do Gemini destaca os desafios enfrentados pelas empresas na utilização da IA, especialmente no que diz respeito à mitigação de viés e à garantia de respostas precisas e imparciais. No entanto, para além do problema de viés, isso mostra que o Google enfrenta falhas técnicas no refinamento dos modelos de IA, um desafio comum enfrentado por todas as empresas que desenvolvem produtos de IA para consumidores, não apenas o Google.
*Com informações do Semafor
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A Pure Storage está redefinindo sua estratégia de mercado com uma abordagem que abandona o…
A inteligência artificial (IA) consolidou-se como a principal catalisadora de novos unicórnios no cenário global…
À primeira vista, não parece grande coisa. Mas foi na pequena cidade de Pornainen, na…
O processo de transição previsto na reforma tributária terá ao menos um impacto negativo sobre…
O que antes parecia uma aliança estratégica sólida começa a mostrar rachaduras. Segundo reportagem do…
O Departamento de Defesa dos Estados Unidos firmou um contrato de US$ 200 milhões com…