Mitos sobre as preferências do LLM: o que você precisa saber

Excelente Base de Brittney Mueller:

«LLMs priorizam conteúdo feito no padrão X» é um mito!

Os LLMs não têm preferências. Eles não são sistemas de recuperação de informações; são preditores do próximo token. Eles escolhem a resposta estatisticamente mais provável com base nos padrões dos dados de treinamento.

Um complemento na forma de um mecanismo de pesquisa no topo, implementado com o RAG? É disso que se trata a recuperação de informações (IR - Information Retrieval)! LLM básico? Nem perto disso.

Durante o treinamento, os LLMs ingerem textos de toda a Internet, mas não registram URLs, armazenam fontes nem se lembram da origem de nada. O que resta é um elenco estatístico congelado (Gao et al., 2023). Não é um índice. Não é um banco de dados.

Os mecanismos de busca realizam rastreamento, indexação e pesquisa (recuperação de dados). Os modelos LLM dependem muito deles para exibir informações em tempo real (porque não podem fazer isso por conta própria).

Pare de «otimizar para IA».
Otimize para os mecanismos de pesquisa (para que as pesquisas de IA possam criar links para você).
+ fornecer menções em fontes de terceiros (para que o modelo já o conheça antes da introdução do prompt).