Pangram dice che il mio testo è 100% AI. E questo è proprio il punto
Forse stiamo chiedendo ai detector di rispondere a una domanda che, per loro natura, non possono misurare.
Ho pubblicato una riflessione sul rapporto fra AI, scrittura e autorialità. Pangram l’ha classificata come “AI 100%, umano 0%”. Il paradosso è evidente: quel testo nasce da esperienze personali, letture, decisioni e dal confronto con l’intelligenza artificiale. Forse stiamo chiedendo ai detector di rispondere a una domanda che, per loro natura, non possono misurare.
AI 100%.
AI-assistito 0%.
Umano 0%.
Questa è la valutazione che Pangram ha assegnato a un articolo che avevo pubblicato su Substack.
Non intendo dimostrare che Pangram “non funziona”.
La parte interessante, per me, è un’altra.
Quel responso descrive il mio testo in un modo che non coincide con la storia della sua nascita.
Ed è, in fondo, proprio il problema affrontato nell’articolo.
Tutto è cominciato da Hank Green
Tutto è cominciato da Hank Green
Sono arrivato a questa riflessione seguendo un percorso abbastanza preciso.
Un post su LinkedIn mi ha portato prima a un video di Raffaele Gaito, dedicato alla discussione nata attorno a Hank Green e al suo uso dell’intelligenza artificiale.
Nel video Gaito suggerisce due approfondimenti.
Il primo è Substack, Pangram e Cyrano de Bergerac di Armando Bisogno:
https://armandobisogno.substack.com/p/substack-pangram-e-cyrano-de-bergerac
Il secondo è Nella tua testa, non nella mia stanza di Internet Mania:
https://internetmania.substack.com/p/nella-tua-testa-non-nella-mia-stanza
Li ho letti tutti e due.
Nessuno dei due, però, mi ha consegnato una risposta definitiva.
Entrambi mi hanno aiutato a formulare una domanda migliore.
Stiamo provando a capire chi ha premuto i tasti
Stiamo provando a capire chi ha premuto i tasti
Quando si parla di AI e scrittura, il discorso tende spesso a trasformarsi in un’indagine.
Questo testo è umano?
L’ha scritto ChatGPT?
Quanta AI c’è dentro?
Lo stile è troppo levigato?
Gli elenchi sono troppi?
Quel trattino lungo dovrebbe insospettirci?
Sembra quasi di assistere alla nascita di una nuova grafologia.
Il passaggio problematico è questo: proviamo a ricostruire il processo creativo guardando soltanto il risultato linguistico.
È un salto logico considerevole.
Un sistema di AI detection può individuare pattern.
Può mettere a confronto strutture linguistiche.
Può restituire una stima probabilistica.
Ma non è detto che da quella stima riesca a ricostruire chi ha avuto l’idea, chi ha controllato le fonti, chi ha deciso cosa conservare o cancellare. E, soprattutto, non può sapere chi si assume la responsabilità del testo pubblicato.
Sono piani differenti.
Lo so perché il ghostwriting faceva già parte della mia esperienza prima di ChatGPT
Lo so perché il ghostwriting faceva già parte della mia esperienza prima di ChatGPT
Per me non è una questione soltanto teorica.
Il ghostwriting lo conosco bene.
Sono stato un ghostwriter e, in modi diversi, continuo a esserlo.
Lo è anche mia moglie.
Anzi, è decisamente più brava di me: meglio mettere subito agli atti anche questo dettaglio.
Ho scritto testi che sarebbero stati pubblicati con il nome di un’altra persona.
So cosa vuol dire partire da un’idea ancora confusa e trasformarla in una struttura.
Vuol dire anche ascoltare qualcuno parlare a lungo, cercando il filo capace di tenere insieme ciò che vuole davvero dire.
E significa trovare parole nelle quali quella persona possa riconoscersi, anche quando a digitarle è stata materialmente un’altra mano.
Per questo faccio fatica ad accettare una formula così lineare:
se non hai scritto ogni parola con le tue mani, allora quel testo non è tuo.
La realtà, invece, è più articolata.
Pensiero, scrittura e autorialità possono sovrapporsi.
Non sono, però, necessariamente la stessa cosa.
Cyrano non aveva bisogno di un LLM
Cyrano non aveva bisogno di un LLM
Armando Bisogno ricorre a Cyrano de Bergerac per ricordare che il problema esisteva già prima dell’intelligenza artificiale.
Cyrano compone le parole.
Cristiano se ne serve.
Rossana le ascolta e si commuove.
Poi scopriamo che la loro origine non è quella che pensavamo.
L’inganno può e deve essere discusso.
Ma non possiamo cancellare a posteriori l’effetto che quelle parole hanno avuto su chi le ha ricevute.
È questo il punto del secondo articolo indicato da Gaito che mi ha colpito di più.
Il testo accade nella testa di chi legge
Il testo accade nella testa di chi legge
Nel pezzo pubblicato da Internet Mania c’è un’idea che continua a sembrarmi molto potente:
«Un testo esiste, come esperienza, solo nella testa di chi lo legge.»
Prima di quel momento è qualcos’altro.
Inchiostro.
Pixel.
Byte.
Caratteri conservati in un database.
Poi arriva un lettore.
Le parole si trasformano in comprensione, rabbia, un sorriso, dissenso, un ricordo oppure in una domanda nuova.
Talvolta diventano persino le parole che ci mancavano per raccontare qualcosa che avevamo già dentro.
È allora che il testo diventa un’esperienza.
Il luogo in cui è stato prodotto continua a contare, naturalmente, ma non può essere l’unico criterio con cui giudicarne il valore.
Così ho pubblicato la mia riflessione su Substack
Così ho pubblicato la mia riflessione su Substack
A quel punto ho provato a far dialogare tutti gli elementi.
Il video di Gaito.
Le due letture che propone.
La mia esperienza nel ghostwriting.
L’uso quotidiano che faccio dell’intelligenza artificiale.
E il tema della responsabilità di chi firma un testo.
Da questo insieme è nato l’articolo:
L’ho pubblicato.
In seguito Substack mi ha mostrato l’analisi di Pangram.
Il risultato era questo:
AI 100%.
AI-assistito 0%.
Umano 0%.
Ho aggiunto lo screenshot nei commenti all’articolo.
A quel punto non era più una semplice curiosità: era entrato a far parte della riflessione.
Ed è qui che il paradosso diventa quasi perfetto
Ed è qui che il paradosso diventa quasi perfetto
Nel testo ci sono esperienze che un modello linguistico non ha vissuto.
Il mio rapporto con il ghostwriting.
La mia posizione sul tema.
La scelta di seguire il percorso proposto da Gaito.
La decisione di unire quelle letture.
Il confronto con la mia attività professionale.
E sì, l’intelligenza artificiale ha partecipato alla scrittura.
Non ho nessun motivo per nasconderlo.
Uso questi strumenti per discutere le idee, dare forma alla struttura, mettere sotto pressione alcuni ragionamenti, capire se un passaggio è chiaro e rivedere quello che scrivo.
Per questo quel dato mi sembra particolarmente curioso:
AI-assistito: 0%.
È forse la descrizione meno accurata del processo che ha portato al testo.
Questo non dimostra necessariamente che Pangram abbia mancato il compito tecnico per il quale è stato progettato.
Dimostra, piuttosto, che classificare un testo non significa ricostruire il processo autoriale.
La differenza è enorme.
Il detector osserva l’esito, non il percorso
Il detector osserva l’esito, non il percorso
Proviamo a immaginare due articoli.
Il primo è stato scritto interamente da una persona.
Nessun uso dell’AI.
Contiene però soltanto banalità.
Ripete pensieri già espressi da altri.
Non controlla le fonti.
Non porta alcun punto di vista.
Detector:
umano.
Perfetto.
Il secondo nasce da un’esperienza personale.
L’autore legge alcune fonti, mette a confronto posizioni diverse e usa anche un modello linguistico.
Poi scarta alcune proposte, ne modifica altre, rifiuta ciò che non lo rappresenta e controlla il testo conclusivo.
Infine firma ogni frase.
Detector:
AI.
Quale dei due, allora, contiene più “autore”?
Pangram non può rispondere.
E non sarebbe corretto chiederle di farlo.
Qui, secondo me, stiamo confondendo piani diversi
Qui, secondo me, stiamo confondendo piani diversi
Stiamo prendendo uno strumento che cerca caratteristiche linguistiche e lo stiamo usando per giudicare autenticità, intenzioni e persino valore.
Sono categorie diverse.
Un testo può avere una produzione artificiale e un’intenzione autentica.
Può essere prodotto da una persona e contenere un pensiero completamente artefatto.
Può essere scritto da un ghostwriter e rappresentare in modo preciso la persona che lo firma.
Oppure può essere digitato personalmente dall’autore senza rappresentarlo davvero.
La domanda non può quindi essere soltanto:
“Chi ha scritto queste parole?”
Per me il limite è la responsabilità
Per me il limite è la responsabilità
Un ghostwriter può offrire le parole.
Un editor può renderle migliori.
Un collega può costringerti a ripensare un’argomentazione.
Un’intelligenza artificiale può suggerire una struttura.
Qualcosa, però, non dovrebbe essere trasferito ad altri.
La responsabilità.
Quando firmo un testo devo sapere che cosa contiene.
Devo riconoscermi nelle sue affermazioni.
Devo aver verificato tutto ciò che è verificabile.
Devo poter sostenere una discussione su quello che ho pubblicato.
Se qualcuno mi fa notare di aver scritto una sciocchezza, devo essere in grado di cambiare idea.
Non posso limitarmi a dire:
“Non lo so, chiedetelo a ChatGPT.”
È in questo punto che vedo, personalmente, una componente essenziale dell’autorialità.
Anche questa pagina è contaminata
Anche questa pagina è contaminata
Nemmeno questo articolo nasce dal vuoto.
Arriva da altri contenuti, da altre persone, da un video, da due articoli, da esperienze professionali, dalla prima versione pubblicata sul mio Substack e dal commento che conteneva lo screenshot di Pangram.
Nasce anche dal ragionamento nuovo generato da quel risultato.
La contaminazione è continua.
Del resto, quasi tutto ciò che abbiamo scritto nella storia è nato così.
Prima dell’AI c’erano libri, conversazioni, maestri, colleghi, enciclopedie, Google, editor e ghostwriter.
Adesso abbiamo aggiunto un altro strumento.
È molto più potente.
Proprio per questo richiede una responsabilità maggiore, non minore.
Forse Pangram mi ha fatto un favore
Forse Pangram mi ha fatto un favore
Se l’articolo fosse stato classificato come “AI-assistito”, avrei probabilmente pensato:
corretto.
Fine della storia.
Invece quel 100% AI e 0% umano mi ha obbligato a tornare sulla questione.
Mi ha aiutato a capire meglio una cosa.
Non voglio cambiare il mio modo di scrivere per convincere un detector che sono umano.
Non voglio introdurre errori di proposito.
Non voglio spezzare le frasi, peggiorare il testo, evitare certe parole o modificare la punteggiatura.
Non voglio scrivere peggio per ottenere da una macchina questo responso:
complimenti, sembri umano.
Sarebbe un paradosso notevole.
Useremmo l’intelligenza artificiale per imparare a scrivere in modo abbastanza imperfetto da superare un sistema che cerca l’intelligenza artificiale.
Forse non è necessario arrivare a questo.
La domanda che continua a interessarmi è un’altra
La domanda che continua a interessarmi è un’altra
Controlliamo le fonti.
Restiamo diffidenti.
Verifichiamo.
Chiediamo trasparenza.
Tutto giusto.
Ma, quando leggiamo, oltre a chiederci se sia stata usata l’AI, potremmo domandarci anche:
c’è un pensiero?
Il ragionamento sta in piedi?
Chi firma è disposto ad assumersi quello che dice?
Quel testo mi sta dando qualcosa o sta soltanto occupando spazio?
E soprattutto:
cosa accade nella mia testa mentre lo leggo?
Un detector può tentare di descrivere come potrebbe essere stata prodotta una sequenza di parole.
Non può sapere, però, che cosa diventeranno quelle parole quando incontreranno qualcuno.
Forse un testo comincia davvero a esistere proprio lì.
Non nella percentuale accanto alla parola “AI”.
Nella testa di chi legge.
Fonti e approfondimenti
Raffaele Gaito
Video e riflessione sul caso Hank Green, da cui sono arrivato ai due articoli citati.
Armando Bisogno — Substack, Pangram e Cyrano de Bergerac
https://armandobisogno.substack.com/p/substack-pangram-e-cyrano-de-bergerac
Internet Mania — Nella tua testa, non nella mia stanza
https://internetmania.substack.com/p/nella-tua-testa-non-nella-mia-stanza
La prima versione di questa riflessione pubblicata sul mio Substack
