Abaixo da IA Barda do Google: um espreitar para o mundo do treinamento humano
Em uma época em que a AI está cada vez mais definindo a experiência do cliente, a compreensão do funcionamento interno dessas tecnologias nunca foi mais crucial, particularmente para os profissionais de marketing.
Um relatório recente da Bloomberg revelou que a força de trabalho humana treina o chatbot Bard do Google, destacando o papel integral de milhares de empreiteiros na formação das respostas desta ferramenta de IA.
Este relatório em profundidade revela as realidades do desenvolvimento de IA e apresenta implicações significativas para as pessoas que as usam.
A qualidade, precisão e confiabilidade das interações orientadas por IA podem afetar a reputação da marca, a confiança do cliente e, finalmente, sua linha inferior.
Ao investigarmos os aspectos humanos envolvidos no funcionamento do chatbot Bard AI, obtivemos insights importantes sobre os obstáculos e possibilidades que as empresas enfrentam ao incorporar a inteligência artificial em suas estratégias de marketing.
Uma espreitadela no campo de treinamento de IA
O Bard do Google é bem conhecido por suas respostas rápidas e confiantes a várias perguntas.
No entanto, os trabalhadores do contrato anônimo revelam a Bloomberg que por trás desta proeza de IA reside o trabalho de seres humanos frustrados.
Esses contratados, que representam empresas como Appen Ltd. e Accenture Plc, atuam dentro de prazos rigorosos para assegurar que as respostas do chatbot sejam confiáveis, exatas e imparciais.
Trabalho sob pressão
Estes empreiteiros, alguns dos quais ganham tão pouco quanto US $ 14 por hora, têm estado sob pressão crescente no ano passado como Google e OpenAI competir em uma corrida de armas AI.
As responsabilidades se tornaram mais desafiadoras e a quantidade de trabalho aumentou, frequentemente sem os contratados possuírem expertise nas áreas que estão sendo avaliadas.
Um contratante não nomeado disse:
“Como está agora, as pessoas estão assustadas, estressadas, mal pagas, não sabem o que está acontecendo. E essa cultura do medo não é propícia para obter a qualidade e o trabalho em equipe que você quer de todos nós. ”
O papel dos contratantes na formação de IA
Os contratados são responsáveis por revisar as respostas geradas pela inteligência artificial, corrigir possíveis erros e remover qualquer tendência enviesada. Eles seguem instruções específicas e precisam cumprir prazos bastante desafiadores, que podem chegar a até três minutos.
De acordo com documentos compartilhados com Bloomberg, os empreiteiros são frequentemente convidados a decidir se as respostas do modelo AI contêm evidências verificáveis. Eles analisam respostas para fatores como especificidade, frescura de informação e coerência.
Um exemplo apresentado em um relatório da Bloomberg explora a maneira como um avaliador poderia empregar evidências para estabelecer a quantidade apropriada de um medicamento para pressão arterial, conhecido como Lisinopril.
Os empreiteiros devem garantir que as respostas não contenham conteúdo prejudicial, ofensivo ou excessivamente sexual. Eles também devem proteger contra informações imprecisas, enganosas ou enganosas.
Enfatizando a importância do elemento humano por trás da inteligência artificial.
Mesmo que os chatbots AI como Bard sejam vistos como avanços tecnológicos inovadores, a verdade é que sua eficácia depende do trabalho dos empreiteiros humanos.
Laura Edelson, cientista da computação da Universidade de Nova York, conta Bloomberg:
“Vale a pena lembrar que esses sistemas não são o trabalho de mágicos – eles são o trabalho de milhares de pessoas e seu trabalho de baixa remuneração. ”
Apesar da importância dos empreiteiros, muitas vezes seu trabalho é cercado de segredo, e eles têm pouca interação direta com o Google.
Preocupações acerca da qualidade dos produtos de inteligência artificial.
Os contratantes estão expressando preocupações sobre as condições de trabalho que consideram possíveis de impactar a qualidade dos produtos de inteligência artificial.
Os contratantes são uma parte indispensável do treinamento AI, como Ed Stackhouse, um trabalhador Apen, declarou em uma carta ao Congresso.
Stackhouse avisou que a rapidez exigida para a revisão de conteúdo poderia fazer com que Bard se transformasse em um produto considerado “falho” e “arriscado”.
O Google respondeu a essas preocupações, afirmando que compromete um extenso trabalho para construir seus produtos AI de forma responsável, empregando rigorosos processos de teste, treinamento e feedback para garantir a factualidade e reduzir o preconceito.
Enquanto a empresa afirma que não depende apenas dos avaliadores humanos para melhorar a IA, tem sido apontado que pequenas imprecisões podem entrar, o que pode potencialmente enganar os usuários.
Alex Hanna, diretor de pesquisa do Instituto de Pesquisa de IA Distribuída e ex-ecista do Google AI, disse:
“Ainda é preocupante que o chatbot esteja errado. ”
Um apelo para a mudança
Apesar das crescentes preocupações sobre as condições de trabalho e a qualidade dos produtos AI, é claro que os empreiteiros humanos são uma parte essencial do desenvolvimento de IA.
O desafio é assegurar que sejam adequadamente compensados e que tenham os recursos necessários para executar os seus empregos.
Emily Bender, professora de linguística computacional da Universidade de Washington, destacou este ponto, dizendo:
“O trabalho desses funcionários contratados no Google e em outras plataformas de tecnologia é uma história de exploração de trabalho. ”
À medida que a revolução da AI continua, o papel dos empreiteiros humanos na formação e refinação dessas tecnologias permanecerá vital.
Suas vozes e preocupações devem ser ouvidas e dirigidas para garantir o desenvolvimento contínuo de produtos AI confiáveis, precisos e éticos.
Destaque para a imagem de Maurice NORBERT/Shutterstock.