¿Por qué los ChatBots alucinan?

Thu, 05 Oct 2023 10:28:23 +0000

Los que habéis usado ChatGPT, Google Bard o similares, seguramente os hayáis encontrado con que algunas veces estos chatbots se inventan las respuestas a nuestras preguntas. Esto es lo que comúnmente se conoce como alucinaciones.

Para entender por qué ocurren, lo primero es entender a nivel muy básico cómo funcionan estos chatbots. La pieza fundamental que los compone son los modelos del lenguaje (o LLM por sus siglas en inglés, large language models). Estos modelos son entrenados con grandes cantidades de datos, como por ejemplo, las páginas web presentes en internet y los libros de dominio público, entre otros. La tarea de los LLM consiste en intentar predecir la siguiente palabra o secuencia de palabras, a partir de un texto que el usuario introduce. Por ejemplo, si le hacemos una pregunta, el modelo va prediciendo las palabras justo después de esa pregunta. Como el modelo ha sido entrenado con millones de documentos, seguramente en uno (o muchos) de esos documentos haya visto una pregunta similar, junto con la respuesta. A grandes rasgos, el LLM funciona como un modelo estadístico, por un lado durante su entrenamiento aprende la probabilidad de que dos o más palabras vayan juntas, y por otro lado durante su uso utiliza esta probabilidad para predecir la siguiente secuencia de palabras.

Chatgpt on CTOMultiplier

¿Por qué los ChatBots alucinan?