Por que o ChatGPT inventa informação, fonte e número de lei?

Por que isso acontece#

A ferramenta não consulta um livro e devolve a página. Ela prevê a próxima palavra a partir do que costuma aparecer junto. Se muita gente escreve “multa de condomínio” perto de um número, ela pode completar com um número — mesmo que aquele número não esteja na lei, nem na sua convenção.

A OpenAI descreve o resultado na central de ajuda: o ChatGPT pode produzir resposta incorreta ou enganosa e soar confiante mesmo errado. O nome usado lá é alucinação. Entram na lista fatos errados e citações ou fontes que não existem. A orientação da própria empresa é usar o texto como primeiro rascunho e conferir citação, dado e referência abrindo o link.

Não é um defeito exclusivo de uma marca. É o jeito desse tipo de ferramenta. Demonizar não ajuda: ela continua útil para rascunho. O que não dá é publicar o rascunho como se fosse a regra do prédio.

O aviso na tela de cada aplicativo muda de redação e de lugar. Não dá para cravar aqui a frase exata que você vai ver hoje. O que a central de ajuda deixa claro é o bastante: confiança na frase não é prova.

Onde ela mais erra no condomínio#

• Número de lei. “O artigo tal manda…” quando o texto oficial diz outra coisa, ou quando o número não existe.
• Valor de multa. Percentual ou quantidade de taxas que a ferramenta apresenta como padrão nacional. Multa do seu prédio está na convenção, dentro do que a lei permite. Sem abrir os dois, o número é chute.
• Quórum. Maioria, dois terços, unanimidade. A lei muda conforme o assunto, e a convenção também pode exigir mais. Um número solto não convoca assembleia.
• Prazo. “O morador tem X dias para recorrer” sem que a convenção diga isso.
• Fonte inventada. Um link, um acórdão ou um “estudo” que não abre.

O Código Civil, no art. 1.334, diz o que a convenção deve determinar, inclusive o regimento interno. No art. 1.348, IV, manda o síndico cumprir e fazer cumprir a convenção, o regimento e as decisões da assembleia. A fonte da regra da casa é esse conjunto de documentos, não a memória de um chat.

A checagem em três passos#

1. Peça a fonte. “De onde saiu essa frase? Cite o documento e o trecho.” Se a resposta não apontar nada que dê para abrir, pare.
2. Abra a fonte oficial. Lei federal se confere no Planalto. O Código Civil consolidado está em planalto.gov.br. Não aceite o resumo no lugar do texto.
3. Compare com o seu prédio. Convenção e regimento podem detalhar o que a lei deixou para a casa: horário, sanção, forma de avisar. Se os dois divergirem do que a IA escreveu, vale o documento, não o chat.

Um teste com dado fictício: peça “qual é o horário de silêncio do Condomínio do Sol?”. Se ela responder um horário, esse horário saiu do nada. O Condomínio do Sol não existe. O horário real está no regimento do prédio que existe.

Quando a resposta tem de vir do documento do prédio#

Pergunta repetida de morador — “pode cachorro?”, “até que horas é obra?”, “como reservo o salão?” — não se resolve com um chat genérico. A resposta certa é a cláusula daquela convenção.

Uma IA de atendimento feita para o condomínio deve citar o documento e calar quando o texto não diz. Os freios estão em IA no WhatsApp que cita os documentos oficiais. O que cobrar quando ela não souber está em o que a IA deve fazer quando não sabe.

Para o uso pessoal, o começo continua simples: rascunho, conferência, envio. O mapa está em IA para síndicos.