Detectores de IA Para Textos Gerados Pelo ChatGPT

Tudo o que você precisa saber sobre os detectores de IA para o ChatGPT

A luta contra a detecção de textos gerados por IA

Será que o texto que você está lendo foi escrito por um ser humano ou gerado por inteligência artificial? Esta lista de artigos ajudará você a entender melhor a detecção de textos gerados por IA.

Detectar quando um texto foi gerado por ferramentas como o ChatGPT é uma tarefa difícil. Ferramentas populares de detecção de IA, como o GPTZero, podem fornecer alguma orientação aos usuários, indicando quando algo foi escrito por um bot e não por um ser humano, mas mesmo o software especializado não é à prova de falhas e pode gerar falsos positivos.

Como jornalista que começou a cobrir a detecção de IA há mais de um ano, eu queria compilar alguns dos melhores artigos da Gauja Lab sobre o assunto, para ajudar leitores como você a entender melhor essa questão complicada.

Dicas de especialistas para detectar textos gerados por IA

Em um artigo de fevereiro de 2023, pouco depois do lançamento do ChatGPT, eu comecei a lidar com as complexidades da detecção de textos gerados por IA e com o que a revolução da IA pode significar para os escritores que publicam online. Edward Tian, o fundador do GPTZero, falou comigo sobre como seu detector de IA se concentra em fatores como variância e aleatoriedade do texto.

Ao ler, preste atenção na seção sobre a marcação d’água: “Uma marca d’água pode ser capaz de designar certos padrões de palavras como fora dos limites para o gerador de texto de IA”. Embora seja uma ideia promissora, os pesquisadores com quem conversei já eram céticos quanto à sua eficácia.

A corrida armamentista da detecção de IA

Um ótimo artigo da edição de outubro do ano passado da Gauja Lab, este artigo dá uma visão interna da mentalidade de Edward Tian, enquanto ele trabalhava para expandir o alcance e as capacidades de detecção do GPTZero. O foco em como a IA impactou o trabalho escolar é fundamental.

A detecção de textos gerados por IA está no topo da lista de preocupações de muitos educadores em salas de aula, à medida que eles corrigem trabalhos e, potencialmente, abandonam as tarefas de redação devido ao uso secreto de chatbots pelos alunos para concluir as tarefas de casa. Enquanto alguns alunos podem usar a IA generativa como ferramenta de brainstorming, outros a estão usando para fabricar trabalhos inteiros.

Desafios da detecção de IA em publicações acadêmicas

Empresas têm a responsabilidade de sinalizar produtos que possam ter sido gerados por IA? Kate Knibbs investigou como livros supostamente gerados por IA, que violam os direitos autorais, estavam sendo anunciados à venda na Amazon, mesmo que algumas startups acreditassem que os produtos pudessem ser detectados com software especializado e removidos. Um dos principais debates sobre a detecção de IA gira em torno da questão de se o potencial de falsos positivos – textos escritos por humanos que são acidentalmente sinalizados como o trabalho de IA – supera os benefícios de rotular o conteúdo gerado algoritmicamente.

Além de trabalhos de casa, o texto gerado por IA está aparecendo cada vez mais em revistas acadêmicas, onde é frequentemente proibido sem a devida divulgação. “Artigos escritos por IA também podem desviar a atenção de bons trabalhos, diluindo o pool de literatura científica”, escreve Amanda Hoover. Uma possível estratégia para abordar esse problema é os desenvolvedores construírem ferramentas de detecção especializadas que procuram conteúdo de IA em artigos revisados por pares.

As limitações das marcas d’água de IA

Quando conversei com pesquisadores em fevereiro sobre as marcas d’água para detecção de textos de IA, eles estavam esperançosos, mas cautelosos, quanto ao potencial de impregnar o texto de IA com padrões de linguagem específicos, que são imperceptíveis para os leitores humanos, mas óbvios para o software de detecção. Olhando para trás, sua hesitação parece bem colocada.

Apenas meio ano depois, Kate Knibbs conversou com várias fontes que estavam destruindo as marcas d’água de IA e demonstrando sua fraqueza subjacente como estratégia de detecção. Embora não esteja garantido que vá falhar, marcar o texto de IA continua sendo uma tarefa difícil de realizar.

O uso massivo da IA em trabalhos escolares

Uma ferramenta que os professores estão tentando usar para detectar trabalhos de sala de aula gerados por IA é o Turnitin, um software de detecção de plágio que adicionou recursos de detecção de IA. (O Turnitin é de propriedade da Advance, a empresa controladora da Condé Nast, que publica a WIRED.) Amanda Hoover escreve: “Chechitelli diz que a maioria dos clientes do serviço optou por comprar a detecção de IA. Mas os riscos de falsos positivos e viés contra alunos de inglês levaram algumas universidades a abandonar as ferramentas por enquanto.”

Os detectores de IA têm mais probabilidade de rotular erroneamente o conteúdo escrito por alguém cuja primeira língua não é o inglês como sendo de IA do que o conteúdo de um falante nativo. À medida que os desenvolvedores continuam a trabalhar para melhorar os algoritmos de detecção de IA, o problema dos resultados errôneos continua sendo um obstáculo central a ser superado.