As alucinações, ou seja, a criação de informações falsas por parte dos modelos de IA, eram um problema comum no início de 2024. No entanto, pontua o jornalista Pedro Doria, avanços significativos foram alcançados desde então.
Ao invés de simplesmente responderem com base em informações pré-treinadas, os sistemas passaram a buscar dados adicionais na internet. A IA também passou a consultar documentos anexados. Isso permitiu que os modelos fundamentassem suas respostas em informações mais precisas.
Os modelos também passaram por um refinamento em seus processos, adquirindo a capacidade de analisar as próprias respostas. Eles passaram a incorporar mecanismos de verificação de fatos, comparando suas respostas iniciais com outras fontes de informação. Essa capacidade de autocorreção tornou as respostas mais confiáveis.
Imagem via Flickr