- Advertisement -

Antecipar FGTS
Antecipar FGTS
Antecipar FGTS

Por que é um problema que a IA pense que a Constituição foi feita pela IA

É “nós, o povo”, não nós, a IA.

Os modelos de linguagem de computador têm a impressão de que a Constituição dos EUA – escrita muito antes da Internet em 1787 – é um documento gerado por IA.

A explicação é simples, de acordo com Edward Tian, ​​criador do coletor de escrita AI GPTZero, um serviço que também descobriu que o livro bíblico de Gênesis é 88% computadorizado.

“A Constituição dos EUA é um texto alimentado repetidamente nos dados de treinamento de muitos modelos de linguagem grandes”, ele disse à Ars Technica.

“Como resultado, muitos desses grandes modelos de linguagem são treinados para gerar texto semelhante à Constituição e outros textos de treinamento usados ​​com frequência. O GPTZero prevê que o texto provavelmente será gerado por grandes modelos de linguagem e, portanto, esse fenômeno fascinante ocorre.”

Mas isso explica um problema maior do que apenas James Madison rolando em seu túmulo. Isso significa um grande problema na incapacidade da IA ​​de diferenciar o texto gerado por computador do humano em um momento em que os professores universitários tremem de medo do plágio digital.


A IA detectou falsamente que a Constituição foi gerada por computador.
via Ars Technica

Na primavera passada, no Texas A&M, um professor supostamente reprovou uma turma inteira depois que o ChatGPT alegou ser o responsável pelas tarefas dos alunos – apesar de seus apelos de inocência.

No caso do GPTZero – que produz “um corpus grande e diversificado de textos escritos por humanos e gerados por IA, com foco na prosa em inglês” – a IA busca a “perplexidade” como um sinal de toque humano na escrita.

“A perplexidade é uma função de ‘quão surpreendente é esta linguagem baseada no que eu vi?’ ” Margaret Mitchell, da empresa de IA Hugging Face, disse à agência.

Portanto, quando um artigo é entregue com grande parte de sua linguagem consistente com dados de treinamento, também conhecidos como documentos famosos, manifestos e redação adequada, uma pontuação de perplexidade seria bastante baixa e acionaria os sensores de IA.


Os modelos de IA pensaram que a Constituição foi gerada por computador.
Os modelos de IA pensaram que a Constituição foi gerada por computador.
Getty Images

Burstiness, também conhecido como a consistência de como palavras e frases aparecem em uma amostra de escrita, também é usado como medida de segurança.

No entanto, pesquisas recentes e aprofundadas de engenharia humana da Universidade de Maryland dobrou que esses tipos de métodos “não são confiáveis ​​em cenários práticos” e não merecem um A por esforço.

A deficiência tecnológica inspirou alguns professores, incluindo Ethan Mollick, da Wharton, a adotar a IA na educação, em vez de evitá-la.

“Não há nenhuma ferramenta que possa detectar com segurança a escrita ChatGPT-4/Bing/Bard. As ferramentas existentes são treinadas em GPT-3.5, têm altas taxas de falsos positivos (10%+) e são incrivelmente fáceis de derrotar”, ele tuitou em maio.

Os sites de IA também não ignoram tudo isso. No caso de Tian, ​​ele já está modificando o GPTZero para diminuir a caça ao plágio. O bug da Constituição já foi corrigido desde que se tornou viral em abril.

“Em comparação com outros detectores, como o Turn-it-in, estamos abandonando a construção de detectores para capturar os alunos”, disse ele. “Em vez disso, a próxima versão do GPTZero não detectará a IA, mas destacará o que há de mais humano e ajudará professores e alunos a navegar juntos no nível de envolvimento da IA ​​na educação”.

- Advertisement -

Emprésitmo Online
Empréstimo na conta de luz

Deixe uma resposta

Your email address will not be published.

Relacionado

- Advertisement -

Emprésitmo Online
Emprésitmo Online