Os estudantes e as organizações confiam nas ferramentas de IA para verificar e melhorar a sua escrita. Mas até que ponto estas ferramentas são fiáveis na deteção de tipos de plágio e na verificação de conteúdos?
Continue a ler para descobrir como funciona um detetor de IA, se os detectores de IA podem estar errados e as limitações destas ferramentas.
O que é um Detetor de IA?
Um detetor de IA é uma ferramenta de software que utiliza algoritmos para procurar determinadas caraterísticas numa peça de escrita. Procura e identifica padrões e estruturas de texto que são típicos da escrita gerada por IA. Também procura caraterísticas que são comuns a textos criados por pessoas.
Uma utilização comum dos detectores de IA é a verificação de plágio. Os professores universitários utilizarão ferramentas de IA para analisar ensaios, dissertações e declarações de tese para verificar se existe conteúdo plagiado. No entanto, muitos interrogam-se: "A deteção de IA é exacta?"
O ChatGPT pode criar facilmente um ensaio. No entanto, pode haver várias ocasiões em que a informação proveniente do ChatGPT pode ser imprecisa ou claramente plagiada. Uma ferramenta de deteção de IA detectará isso facilmente.
Como funciona um detetor de IA?
Os detectores de IA funcionam através da identificação de padrões. São treinados por modelos estatísticos e grandes conjuntos de dados e podem distinguir o conteúdo da IA da escrita humana. A ferramenta de escrita com IA mais comum é o ChatGPT, embora existam muitas outras.
O algoritmo centrar-se-á na perplexidade e na explosão.
Perplexidade do texto
Os algoritmos analisam a perplexidade para avaliar o grau de confusão do texto para a IA. O detetor de IA determinará se a escrita parece pouco natural ou confusa.
Assim, as frases curtas e incisivas podem ser consideradas como conteúdo escrito por humanos, bem como a linguagem metafórica e criativa. O mesmo acontece com a escrita que contém alguns erros ortográficos e gramaticais.
Mas frases longas, previsíveis e perfeitas seriam destacadas como possível escrita gerada por IA. Isto deve-se ao facto de o conteúdo da IA ser sempre perfeito! A inteligência artificial consegue prever o que virá a seguir com estes tipos de frases.
Vejamos alguns exemplos de textos que obtêm uma pontuação elevada de perplexidade:
- Exemplo: Sob as memórias cintilantes do passado, mergulhamos em ecos iridescentes, sussurros murchos e cores fugazes do tempo.
O exemplo acima terá uma pontuação elevada em termos de perplexidade devido à sua imprevisibilidade e criatividade. Confundirá os modelos de IA e tornará mais difícil a sua identificação.
Eis um exemplo de uma frase que terá uma pontuação baixa em termos de perplexidade:
- Exemplo: Reflectimos sobre o passado, recordando cores, sons e momentos que rapidamente se desvanecem.
Neste exemplo, a estrutura das frases é simples e utiliza palavras comuns. Não existe uma linguagem abstrata para confundir a inteligência artificial. A IA consegue prever a frase e não fica confusa com ela.
A explosão das frases
O algoritmo analisa a presença de explosões. Isto descreve o grau de complexidade e diversidade de uma frase. As frases que consistem em baixa atividade oferecerão pouca variação. A estrutura e o comprimento das frases serão semelhantes, uma caraterística comum dos conteúdos de IA.
As frases que têm uma variedade de comprimentos e estruturas diferentes serão avaliadas como tendo um elevado grau de rebentação. As pessoas costumam introduzir mais variações na sua escrita, enquanto a IA utiliza padrões e estilos previsíveis.
Vejamos um exemplo de uma frase que teria uma pontuação elevada em termos de rebentação:
- Exemplo: O vento uivava. Mas não era um vento qualquer - era do tipo que arranhava as janelas.
A frase curta no início, em contraste com a frase mais longa, acrescenta variedade.
Aqui está uma frase semelhante que seria avaliada como de baixa intensidade:
- Exemplo: O vento uivava enquanto arranhava as janelas, fazia rodopiar as folhas e transportava o cheiro da chuva distante.
Esta frase tem um comprimento previsível e descrições comuns.
As ferramentas de deteção de IA podem estar erradas?
A deteção da IA pode estar errada. Afinal de contas, é duvidoso que as ferramentas de IA possam aprender todas as possibilidades de previsão de conteúdos. O detetor de IA pode gerar um falso positivo, determinando que o conteúdo escrito por humanos é gerado por IA.
Em alternativa, a deteção da IA pode dar um falso negativo, não identificando o conteúdo gerado pela IA. Nestes casos, o plágio pode passar despercebido.
Além disso, a qualidade da formação pode prejudicar a exatidão da deteção de IA. O enviesamento do algoritmo pode estar presente ou pode ser sensível em algumas circunstâncias.
A deteção de IA é exacta: 3 principais factores que limitam as ferramentas de IA
Há várias formas de uma ferramenta de IA estar errada quando pretende identificar conteúdos gerados por IA.
1. Incapacidade de detetar conteúdos parafraseados
A deteção de IA pode dar falsos positivos e falsos negativos. Assim, a ferramenta de IA pode assinalar o conteúdo como tendo sido gerado por IA se o texto incluir frases comuns. Este também pode ser o caso se o texto for parafraseado, uma vez que o conteúdo pode parecer semelhante ao original.
Tal como os detectores de IA podem avaliar incorretamente o texto como sendo de IA, também podem não detetar conteúdo suspeito. Isto pode acontecer se o conteúdo tiver sido muito bem parafraseado ou se a ferramenta de IA não tiver acesso a várias fontes.
2. Má qualidade dos dados de formação
A qualidade dos modelos e dos dados utilizados para treinar o detetor de IA pode ser fraca. Podem também ser limitados e pouco diversificados. Nessas situações, a precisão da deteção pode ser menos do que satisfatória.
3. Dificuldade em acompanhar os modelos sofisticados de IA
O ChatGPT foi lançado pela OpenAI para as massas no final de 2022. Apesar de ser uma ferramenta revolucionária, já foi melhorada com o modelo GPT-4 Turbo.
À medida que os modelos de IA evoluem e o conteúdo da IA se torna mais humanizado, os detectores de IA podem ter dificuldade em encontrar a escrita A. À medida que o texto da IA se torna mais natural com cada novo modelo de IA, serão necessárias ferramentas de deteção avançadas.
O que é que os detectores de IA podem identificar?
Os detectores de IA podem identificar conteúdos gerados por IA, criados por ferramentas de IA como o ChatGPT. Por isso, se pediu ao ChatGPT para escrever um ensaio por si, a deteção de IA deve identificá-lo como conteúdo de IA. O seu professor vai detetar o ChatGPT!
As ferramentas de IA também podem identificar o plágio, especialmente quando se utiliza um verificador de plágio especializado. Assim, se tiver copiado secções de um livro ou de uma fonte em linha, o verificador de plágio deve identificar que está a fazer batota.
O seu professor verá que plagiou conteúdo em ambas as situações, por isso evite o plágio a todo o custo. Lembre-se de que o plágio tem consequências significativas.
Porque é que o plágio é errado?
Quer tenha copiado conteúdo de outra fonte ou gerado um ensaio de IA, cometeu plágio. Esta prática é eticamente incorrecta, pois está a roubar o trabalho de outra pessoa sem lhe dar o devido crédito.
Se o seu professor descobrir que plagiou, terá de apresentar o seu trabalho novamente. Em muitos casos, o limite máximo de aprovação para a re-submissão é de um trabalho. Nalgumas situações, poderá ser automaticamente reprovado na disciplina. Isto dependerá das políticas da instituição.
O plágio também pode ter consequências legais. O plágio é abrangido pelas leis de direitos de autor dos EUA, o que torna ilegal o roubo das palavras de outra pessoa. Se cometer plágio em grande escala e lucrar com isso, pode enfrentar consequências graves.
Assim, digamos que publica um livro com o conteúdo de outra pessoa, mas que o reivindica como seu. Lucra com a venda dos livros. Nesta situação, pode ser considerado culpado de violação das leis de direitos de autor. A consequência é uma coima substancial ou uma pena de prisão.
Obter ajuda da Smodin para a criação de conteúdos
Então, os detectores de IA podem estar errados? Sim! Nunca confie totalmente na IA em qualquer situação. Crie o seu próprio trabalho e cite as suas fontes na íntegra.
Se precisar de ajuda extra para a sua redação, consulte o Smodin. Oferecemos uma vasta gama de blogues úteis e ferramentas úteis para o ajudar a melhorar o seu conteúdo e a obter notas mais altas nos seus ensaios!
Junte-se à comunidade Smodin hoje mesmo e crie conteúdos que vão impressionar!
Perguntas mais frequentes
Como é que se pode saber se o conteúdo é gerado por IA?
Utilize uma ferramenta de deteção de IA para descobrir se o conteúdo é texto gerado por IA. Basta colar o seu conteúdo na ferramenta de IA e o software destacará as frases suspeitas. Também pode utilizar plataformas e extensões de browser para detetar a IA.
As pontuações de deteção de IA são geradas para avaliar a possível utilização de IA. A pontuação de deteção de IA pode indicar a percentagem de conteúdo natural ou de IA.
É possível enganar as ferramentas de deteção de IA?
Pode enganar os detectores de conteúdo da IA utilizando uma vasta gama de sinónimos e antónimos ao escrever o seu ensaio. Também pode incluir pontuação e homóglifos para tentar contornar a deteção da IA.
Quão fiável é o classificador de IA da OpenAI?
O classificador de IA da OpenAI é conhecido por não ser fiável quando verifica textos mais curtos, com menos de 1000 caracteres.