A OpenAI interrompeu o desenvolvimento de seu classificador de inteligência artificial, uma ferramenta criada para reconhecer texto produzido por IA, após receber críticas sobre sua exatidão.
A conclusão foi discretamente comunicada por meio de uma atualização feita em um post já existente.
O comunicado da OpenAI declara:
“A partir do dia 20 de julho de 2023, o classificador de inteligência artificial não estará mais em funcionamento devido à sua baixa precisão. Estamos empenhados em melhorar sua eficácia, incorporando feedback e investigando técnicas de verificação mais robustas para textos. Nosso objetivo é desenvolver e implementar mecanismos que ajudem os usuários a identificar se o conteúdo, seja ele de áudio ou visual, foi gerado por inteligência artificial.”
O Ascensão e Queda do Classificador do OpenAI
A ferramenta foi disponibilizada em março de 2023 como parte da iniciativa da OpenAI para criar ferramentas de inteligência artificial que auxiliam no reconhecimento de conteúdo gerado por IA, seja áudio ou visual.
Ele buscou identificar se os trechos de texto foram redigidos por um ser humano ou por inteligência artificial, examinando características linguísticas e atribuindo uma classificação baseada em probabilidade.
A ferramenta tornou-se bastante popular, porém foi descontinuada devido a problemas em distinguir a escrita feita por humanos daquela feita por máquinas.
Desafios em ascensão para a tecnologia de inteligência artificial em detecção.
A interrupção súbita do sistema de classificação de texto da OpenAI ressalta as dificuldades persistentes na criação de sistemas de detecção confiáveis com inteligência artificial.
Os especialistas advertem que a aplicação descuidada de resultados imprecisos pode resultar em consequências não previstas.
Kristi Hines, do Search Engine Journal, revisou recentes estudos que identificaram falhas e preconceitos em sistemas de detecção de inteligência artificial.
Os investigadores descobriram que as ferramentas de texto produzido por inteligência artificial frequentemente se assemelham às feitas por humanos, especialmente para aqueles que não têm o inglês como língua materna.
Eles destacam que o desenvolvimento em curso da inteligência artificial requer avanços simultâneos em técnicas de identificação para assegurar a justiça, responsabilidade e transparência.
Entretanto, de acordo com os críticos, o avanço da inteligência artificial generativa está ultrapassando rapidamente os sistemas de detecção, facilitando assim a evasão.
Possíveis perigos da identificação de inteligência artificial não confiável.
Especialistas alertam sobre a não recomendação de utilizar excessivamente os atuais classificadores para decisões de alto impacto, como identificação de plágio acadêmico.
Possíveis impactos de depender de sistemas de detecção de IA com imprecisões:
- Sem falhar, a inteligência artificial acusa os escritores humanos de plágio ou trapaça quando o sistema identifica erroneamente seu trabalho original como gerado por IA.
- Permitir que material plagiado ou criado por inteligência artificial não seja detectado caso o sistema não consiga identificar corretamente o texto não gerado por humanos.
- Fortalecer estereótipos ocorre quando a IA tem maior probabilidade de rotular de forma incorreta os estilos de escrita de determinados grupos como sendo não naturais.
- Disseminar informações falsas caso o conteúdo fabricado ou manipulado passe despercebido por um sistema falho.
Pode me fornecer mais detalhes ou o próprio texto para que eu possa parafraseá-lo corretamente?
Conforme o uso cada vez mais comum do conteúdo produzido pela inteligência artificial se expande, é essencial aprimorar continuamente os sistemas de classificação para gerar confiança.
A OpenAI reiterou seu compromisso em aprimorar métodos mais eficazes para detectar conteúdo gerado por inteligência artificial, mas a recente falha de seu sistema de classificação evidencia a necessidade de avanços consideráveis nesse campo.
Fotografia principal: imagem cortesia de fotosince/Shutterstock
