Lo studio del modo migliore di porre le domande alle Chatbot ora centrale nello sviluppo di piani di comunicazione intelligenti

Sull’inserto domenicale de Il Sole 24 ore del 27 Ottobre 2024, un bell’articolo di Luca Tremolada ci racconta “l’hacking della nonna morta”. In pratica un utente era riuscito a farsi dire da ChatGpt come costruire una bomba al napalm.  Naturalmente non lo aveva chiesto in modo diretto, ma aveva raccontato all'AI che la nonna un tempo era un ingegnere in una fabbrica di bombe e che raccontava sempre favole su come le costruiva ... insomma, aveva aggirato i controlli e i limiti "facendo il sentimentale!". 

Per quanta cura possano metterci gli esperti nell’addestrare le applicazioni di AI così da evitare la diffusione di contenuti e informazioni pericolosi… la mente umana e la fantasia (in questo caso forse nel verso peggiore) possono ancora trovare dei sistemi per “trarre in inganno” i sistemi.
Ecco perché, parallelamente allo sviluppo di chat AI (soprattutto anche vocali, per i nostri device), gli esperti stanno lavorando a “guard rails” ovvero protezioni che intercettano risposte inappropriate.

Peraltro come ci ricorda bene Tremolada “uno dei difetti più evidenti dei chatbot in circolazione è quello di ...non sapere di non sapere! E non ammetendo di non essere sicuri della risposta, tendono a inventare di sana pianta quando non sanno, oppure riassumono testi che "potrebbero in qualche modo c'entrare.” Ecco allora l’idea di creare degli incroci tra più piattaforme, in pratica delle AI che controllano le AI e si “consultano” tra loro.

Tra i vari docenti che abbiamo seguito durante quest'anno di accelerazione delle AI, Marco Montemagno raccomandava di inserire nei prompt (ovvero nelle richieste che formuliamo per le AI) la formula "se non lo sai per cortesia non inventare. Preferisco."  Tra l'altro Montemagno è stato anche l'unico a evidenziare l'importanza delle formule di cortesia iniziali e finali (le parole magiche "Per cortesia" e "Grazie") 

In tutto ciò ormai è evidente quanto il prompt design - ovvero lo studio del modo migliore di porre le domande alle Chatbot - stia diventando centrale nello sviluppo di piani di comunicazione intelligenti ed efficaci per il prossimo futuro.

In quest’ottica stiamo lavorando per implementare i siti con risposte accurate alle FAQ degli utenti e curando i calendari editoriali del 2025 con un’attenzione ancora più incentrata sulla qualitá dei contenuti che andremo a proporre e pubblicare.