¿Entienden los LLMs lo que producen? Producto, proceso y agencia en la atribución de entendimiento superficial

Resumen

Este artículo examina si los modelos de lenguaje grandes (LLMs) “entienden” lo que producen. Para evitar inferencias apresuradas desde la calidad del texto hacia estados mentales, se adopta la distinción de Boisseau entre imitación como conducta y como estatus del producto, caracterizando a los LLMs como fábricas de imitaciones lingüísticas. Sobre ese marco, se articulan dos apoyos independientes: (i) la tesis de Borg de que los outputs pueden portar contenido semántico a nivel de tipo lingüístico mediante deferencia semántica, sin requerir intencionalidad original; y (ii) la propuesta de Piantadosi y Hill según la cual los estados internos de los LLMs pueden instanciar aspectos del significado entendido como rol conceptual. Se añade una discusión sobre el grounding referencial limitado (Coelho Mollo y Millière). Se argumenta que la conjunción de estos tres apoyos —significado derivado del producto, estructura conceptual parcial del proceso, y anclaje referencial indirecto— autoriza a proponer una categoría intermedia, aquí denominada entendimiento superficial, definida por las condiciones C1–C4. Frente al argumento de Hattangadi y Schoubye sobre la carencia de significado literal, se ofrece una doble respuesta: semántica, al mostrar que su argumento anti-CRS no alcanza a la versión moderada aquí adoptada; y epistemológica, al mostrar con Collins y Evans que la evaluación del éxito imitativo depende de la competencia del juez. Finalmente, se discute la relación de la tesis con el bibliotechnism de Lederman y Mahowald, y se reconoce el problema de la referencia novedosa como un límite abierto.