Essa limitação, amplamente alertada por especialistas em tecnologia, é reconhecia pelas próprias empresas de IA. A revista eletrônica Consultor Jurídico consultou cinco grandes ferramentas — Microsoft Copilot, ChatGPT, Google Gemini, Claude e Perplexity — sobre a pertinência do uso do termo “inteligência artificial” para tratar de ferramentas que fornecem informações recolhidas na internet sem ter discernimento para identificar quais delas são realmente confiáveis. Braço robótico humanoide escrevendo com caneta sobre papel Limitações da IA generativa são reconhecidas pelas próprias ferramentas A versão mais aceita é que o termo “inteligência artificial” foi usado pela primeira vez em um trabalho acadêmico da Universidade de Dartmouth, em New Hampshire (EUA), publicado em agosto de 1955. Segundo o Claude, a expressão carrega um viés mercadológico desde o princípio, já que o cientista John McCarthy batizou o projeto com esse nome para atrair financiamento para a pesquisa. Desde então, a ideia de inteligência artificial tem sido usada para descrever sistemas que imitavam processos cognitivos, criando a falsa percepção de que a tecnologia moderna tem consciência. “Hoje, ferramentas generativas (como buscadores com IA ou modelos de linguagem) são chamadas de ‘IA’ porque imitam aspectos da linguagem humana — ainda que não pensem nem compreendam como nós”, observou o Copilot. Sintaxe, semântica e alucinações powered by divee.ai Quais são as principais conclusões? ? Sobre o que é este texto? ? Resume os pontos principais ? Pergunte-m Segundo as ferramentas de IA, os modelos dominam de forma precisa a sintaxe — a disposição e a relação lógica das palavras dentro de uma frase —, mas falham na semântica, ou seja, na real compreensão do significado. As chamadas “alucinações”, que costumam gerar respostas erradas para variados tipos de pergunta, não decorrem exclusivamente do treinamento da IA com dados ruins, mas da própria natureza algorítmica do mecanismo, que não tem compromisso com a verdade factual. “O modelo gera o texto estatisticamente mais plausível, não o verificado como verdadeiro. Ele pode inventar um precedente do STJ com número de processo e relator perfeitamente verossímeis — e inteiramente fictícios — mesmo tendo sido treinado em fontes de boa qualidade”, detalhou o Claude. O Gemini complementou a análise ao citar o conceito acadêmico de “papagaios estocásticos”, no qual as máquinas apenas repetem o que processam com base em probabilidades. A plataforma reconhece que o atual funcionamento dos principais sistemas acaba maquiando a total ausência de raciocínio. “Como esses modelos são programados para agradar o usuário e gerar um texto fluido, eles preferem inventar uma resposta convincente (mentir com confiança) a admitir que não sabem, já que não possuem o filtro do ‘bom senso’ humano”, explicou o Gemini. Alternativas de nomenclatura Os sistemas ChatGPT e Perplexity corroboraram a tese e destacaram que a reprodução de padrões, sem o entendimento do contexto, é a principal barreira para que as ferramentas sejam consideradas plenamente inteligentes. Diante do cenário, as plataformas reconhecem de forma unânime que a inteligência artificial deveria ter outros nomes que refletissem melhor sua natureza. Os sinônimos mais sugeridos são “engenharia estatística de texto”, “sistemas de automação de linguagem” ou “modelos probabilísticos”.