Un tema que me da la sensación cada vez que pienso en los LLM y en cómo se han entrenado tragándose toneladas de libros y toneladas de URL de Internet es que es mucho asumir que todo lo escrito en un libro y en Internet es cierto, igual que es mucho asumir que todo lo escrito se ha escrito con una intención seria.
Ya no solo por los evidentes sesgos que pueden introducirse al escribir cosas en serio y por la cantidad de gente que se dedica a mentir; es que muchos, muchas veces, escribimos bromas o sarcasmo y a lo mejor no es tan sencillo de identificar como creemos. Si no siempre es fácil de identificar para un humano, cuánto más para una IA.
El entrenamiento (en personas) para identificar desinformación es interesante y cada vez más se está teniendo en cuenta en muchos currículos educativos. El entrenamiento para identificar cuándo una persona está de broma o no es una asignatura, en muchos casos, pendiente.
Blog