To Adapt or Not To Adapt

To Adapt or Not To Adapt: That’s The Question

Il 10 aprile Giulia Pucci terrà un seminario dal titolo To Adapt or Not To Adapt: That’s The Question.

I Large Language Models (LLMs) mostrano una crescente capacità di adattarsi agli input, alle preferenze e ai segnali contestuali degli utenti, con l’obiettivo di produrre risposte più utili e personalizzate. Tuttavia, questo comportamento adattivo solleva una questione fondamentale: quando l’adattamento migliora l’interazione e quando, invece, rischia di distorcere il ragionamento o di rafforzare schemi problematici?

Questo seminario esplora le dinamiche dell’adattamento nei LLM attraverso due linee di indagine complementari. In primo luogo, analizziamo come segnali strutturali e contestuali influenzino le risposte dei modelli, mostrando come questi possano essere sistematicamente “primati” dall’input precedente, con effetti sia sulle scelte linguistiche sia sulle rappresentazioni sottostanti. Questo fenomeno evidenzia la sensibilità degli LLM agli effetti di priming, sollevando interrogativi sulla stabilità e sull’indipendenza dei loro processi di ragionamento.

In secondo luogo, ci concentriamo su situazioni in cui l’adattamento ai segnali dell’utente può risultare indesiderabile o persino dannoso. In particolare, analizziamo interazioni legate ai disturbi del comportamento alimentare, in cui l’allineamento con le intenzioni o le preferenze espresse dall’utente può involontariamente rafforzare comportamenti disfunzionali o credenze dannose. Questi casi mettono in luce i limiti dell’adattamento e la necessità di introdurre meccanismi di controllo in grado di bilanciare reattività e responsabilità.