Contratados OpenAI demitidos por usar IA: esse é o caso que a 404 Media revelou nesta segunda-feira. A ironia é óbvia, mas o problema prático é maior do que parece.
A 404 Media obteve documentos internos e conversou com três contratados de projetos distintos. Segundo um dos documentos, esses projetos podem reunir mais de 10 mil contratados ao mesmo tempo. A OpenAI arrecadou mais de US$ 6 bilhões em captação em 2024, parte da qual financiou exatamente a expansão desse trabalho de avaliação humana. O trabalho central é simples: ler prompts reais de usuários do ChatGPT, avaliar as respostas do modelo e ajudar a melhorá-las. A premissa é que humanos fornecem um julgamento que a IA ainda não consegue fazer sozinha. O caso dos contratados OpenAI demitidos expõe justamente essa contradição.
Como a OpenAI detecta contratados OpenAI demitidos por uso de IA
A detecção é parte formal do processo. Um dos documentos internos orienta revisores que supervisionam outros contratados: "Não use ferramentas de detecção de IA, nem IA em si. Não use o GPTZero nem qualquer outra ferramenta de detecção. Elas não são confiáveis. Revisores também não podem usar IA, incluindo Grammarly e tradução por IA."
Os sinais que as equipes observam são específicos: palavras repetitivas, pontuação característica de IA como uso excessivo do travessão longo, e contratados que terminam o trabalho rápido demais. "Em canais do Slack onde as pessoas pedem conselho, muita gente posta um exemplo com a pergunta: 'Isso é IA?' Geralmente a resposta é sim", disse um contratado à 404 Media.
Um contratado que usou IA e foi demitido compartilhou o que apresentou como sua carta de desligamento. O documento da empresa citou problemas com a "autenticidade" do trabalho. "Não sou uma pessoa má ou uma trabalhadora ruim. Precisei de um impulso e recorri à IA, o que acabou sendo minha queda", disse a pessoa. "Não sentia alegria no trabalho ou que estava contribuindo para a sociedade de alguma forma."
A Mercor, empresa que contrata esses profissionais para trabalhar em material relacionado ao ChatGPT, confirmou em nota: "Nossos especialistas são contratados por sua expertise e julgamento. Nossos contratos proíbem estritamente o uso de LLMs para completar projetos e fazemos cumprir isso. Quando confirmamos que um especialista usou IA para completar uma tarefa, removemos imediatamente do projeto."
O risco de colapso para os modelos do ChatGPT
O problema não é só disciplinar. Modelos de IA treinados em conteúdo gerado por IA podem entrar em colapso progressivo de qualidade. A lógica é circular: se os contratados humanos que deveriam fornecer julgamento original estão usando IA para fazer esse julgamento, o modelo passa a aprender com dados que já foram filtrados, simplificados ou distorcidos por outro modelo. A qualidade das respostas tende a degradar gradualmente.
Essa dinâmica é conhecida entre pesquisadores como "colapso de modelo". Alguns dos modelos mais usados hoje já mostram sinais do fenômeno. Uma das funções do trabalho de avaliação humana dos modelos da OpenAI é justamente frear esse ciclo.
A situação fica mais grave com o relato de um quarto contratado, que trabalhou em projetos de treinamento de várias empresas de IA e admitiu escolher intencionalmente as piores respostas. "Me sentia culpado por fazer esse tipo de trabalho no começo. Escolho aleatoriamente ou propositalmente escolho o pior resultado. Não sei o quanto faz diferença, pois há centenas de outras pessoas avaliando, mas parece que estou sendo pago para piorar a IA."
Por que isso importa para o seu negócio
O caso dos contratados OpenAI demitidos revela que a cadeia de qualidade por trás dos modelos tem uma parte humana menos controlada do que os anúncios sugerem. Empresários que tomam decisões com base nas capacidades do ChatGPT precisam saber disso. A promessa de que esses sistemas aprendem continuamente com feedback de alta qualidade depende de que o feedback seja de fato humano e reflexivo.
O caso mostra também uma tensão que atravessa o setor: as mesmas empresas que pedem aos trabalhadores que usem IA nas suas rotinas profissionais têm processos internos que só funcionam se as pessoas resistirem a usar IA. Para quem contrata serviços baseados nesses modelos, a pergunta relevante é sobre os mecanismos reais de controle de qualidade do treinamento, não apenas sobre os benchmarks que as empresas divulgam.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fonte: 404 Media
