Resposta direta
Alucinação de IA é o nome que se dá quando a ferramenta produz uma resposta que não é verdadeira, muitas vezes com tom de certeza. Pode ser uma data, uma citação, um estudo ou uma fonte que não existe.
Não é mau humor da máquina. Ela completa a frase pelo que parece provável na conversa, e probabilidade não é prova. Por isso o texto sai redondo mesmo quando o conteúdo está errado.
- Alucinação de IA
- Resposta da inteligência artificial que parece segura e está errada: um fato, uma citação ou uma fonte que não existe.
- Também chamado de
- Alucinação · IA inventando
Onde isso pega o síndico#
O caso típico é pedir “qual é a regra de multa por barulho” e receber um número que não está na lei nem no regimento da casa. A checagem em três passos está em por que o ChatGPT inventa.
Quando quem responde o morador é uma ferramenta de atendimento, o comportamento esperado ao não saber está em o que a IA deve fazer quando não sabe.
Perguntas frequentes
- Só o ChatGPT alucina?
- Não. A central de ajuda da OpenAI descreve o fenômeno no ChatGPT, e o mesmo tipo de erro aparece em outras ferramentas que geram texto. O cuidado é o mesmo: conferir o que importa em fonte que você abre.
- Pedir a fonte resolve?
- Ajuda, e não basta. A ferramenta também pode inventar a fonte. O passo que vale é abrir o documento oficial, ou a convenção do seu prédio, e comparar com o que foi escrito.
- Alucinação é a mesma coisa que deepfake?
- Não. Alucinação, neste verbete, é texto inventado numa resposta. Deepfake costuma nomear vídeo ou áudio manipulado para parecer uma pessoa real. São riscos diferentes.
Fontes
Links verificados na data indicada. Se encontrar algo desatualizado, avise-nos.