Il paradosso di un progetto contro le tracce invisibili

Il luogo rende l’episodio quasi perfetto. Nelle intenzioni dichiarate, quella repository pubblica serve a studiare come rimuovere watermark e altre tracce attribuite dapprima ai testi prodotti da Claude e, in seguito, da ulteriori sistemi di intelligenza artificiale. Insomma, un progetto dedicato ai segni invisibili. Poi, in mezzo a tutto questo, appare un’impronta umana che non si può ignorare.

Il paradosso farebbe sorridere, se non mettesse in luce un tema più serio: si può adoperare un’interfaccia nel modo corretto senza aver capito dove quell’interfaccia stia effettivamente conducendo le nostre azioni.

La mia prima ipotesi era la più ovvia: qualcuno aveva confuso il destinatario. Capita. Parte un’email, raggiunge la casella sbagliata e per qualche minuto ti domandi perché uno sconosciuto ti stia raccontando fatti che non ti riguardano.

Ma non era andata così. Non ero il destinatario del documento; ero il destinatario di una notifica. GitHub mi stava segnalando un commento inserito in un’attività che avevo scelto di seguire.

Potrebbe sembrare una sottigliezza semantica da nerd, e invece è una distinzione sostanziale. Nel primo caso una persona si rivolge a te. Nel secondo, una piattaforma ti rende partecipe di qualcosa avvenuto altrove. Se si tratta di codice, di una correzione o di un confronto tecnico, la differenza conta poco. Se invece compare una comunicazione formale contenente informazioni palesemente nate in un altro contesto, cambia ogni cosa.

Sarebbe facile fermarsi al lato grottesco: un progetto che si occupa delle impronte lasciate dall’intelligenza artificiale ospita all’improvviso un testo del tutto estraneo al software. La battuta è già pronta. Ma limitarsi a quella vorrebbe dire sprecare l’episodio.

La domanda interessante non riguarda tanto l’eventuale sbaglio di quella persona. Riguarda piuttosto quanto sia ormai poco intuitiva la frontiera tra gli strumenti che usiamo: email, notifiche, commenti, repository, forum, ticket, CRM e sistemi di project management. Continuiamo a considerarli spazi separati perché, sullo schermo, sembrano tali. Dal punto di vista tecnico, però, sono molto più intrecciati.

Di conseguenza, perfino una delle metafore digitali più elementari — rispondere a un’email — rischia di non descrivere più ciò che sta succedendo davvero.

Cosa dice davvero la documentazione di GitHub

GitHub documenta ufficialmente la possibilità di rispondere via email alle notifiche. Nella documentazione generale dedicata a queste ultime spiega che la risposta può finire nell’issue, nella pull request o nella discussion associata. Il campo Reply-To individua sia il thread sia l’account attraverso il quale verrà pubblicato il commento.

Nel caso che ho visto c’è un altro particolare tecnico degno di nota. Nel modello GraphQL di GitHub, l’interfaccia relativa ai commenti contiene il campo createdViaEmail, pensato per segnalare se un commento è nato da una risposta inviata per posta elettronica. Tra i tipi previsti dal modello figura anche CommitComment.

Detto senza gergo: posso trovarmi in Gmail, leggere un messaggio e premere Rispondi, mentre il testo che scrivo comparirà su GitHub. In quel passaggio la posta non è la destinazione della conversazione; è soltanto la porta d’ingresso verso una conversazione ospitata altrove.

È questa distanza tra interfaccia e destinazione a interessarmi più dell’errore del singolo, anche perché il sistema potrebbe aver eseguito alla perfezione ciò per cui è stato progettato.

A questo punto bisogna guastare un po’ la versione più seducente della storia. Suonerebbe così: “Un avvocato risponde per errore a una notifica GitHub e pubblica un documento sensibile sotto un commit”. Sarebbe un titolo magnifico. Il problema è che contiene almeno due affermazioni che non sono in grado di provare.

Posso constatare che, nel documento, chi scrive si definisce avvocato. Posso vedere che il contenuto è apparso pubblicamente nel commento. Posso anche verificare che GitHub permette, sul piano tecnico, di pubblicare commenti rispondendo alle email. Dai dati accessibili al pubblico, però, non posso ricavare che proprio quel commento sia stato creato in questo modo. Il contenuto potrebbe essere stato copiato e incollato manualmente sul sito.

Continuo a ritenere molto plausibile una risposta accidentale alla notifica. Ma un’ipotesi credibile non diventa un fatto soltanto perché rende migliore un articolo. Perciò la questione rimane irrisolta, ed è giusto lasciarla così.

La documentazione di GitHub contiene inoltre una precisazione importante. Se un commento proviene da una risposta email, la piattaforma cerca di togliere alcune informazioni personali: trasforma gli indirizzi scritti nel formato standard, tenta di rimuovere firme e sequenze di messaggi citati, ed esclude gli allegati dal commento finale.

È una protezione utile, ma rende evidente anche il confine dell’automazione. GitHub sa riconoscere una stringa come nome@dominio.it. Può individuare una firma o una catena di testo quotato. Non è però in grado di comprendere il valore sociale dell’azione che stiamo compiendo. Non può sapere che un nome, una frase o un’intera comunicazione sono appropriati in uno scambio privato e diventano problematici quando finiscono in una repository pubblica.

Il filtro riconosce la struttura. A interpretare il contesto dobbiamo ancora pensarci noi.

Non serve tirare in ballo gli hacker. Non abbiamo notizia di attacchi né di violazioni della piattaforma, e non c’è motivo di parlare di data breach. Al contrario, la vicenda è interessante proprio perché la spiegazione potrebbe essere molto più ordinaria: una piattaforma svolge una funzione prevista, una persona compie un gesto normale e, fra le due cose, si crea uno scarto. L’intenzione umana e il significato tecnico dell’azione smettono di coincidere.

Trovo questo genere di problema più affascinante dell’ennesimo racconto su un attacco informatico, perché ci riguarda tutti.

Metafore digitali, automazione e alfabetizzazione

Per quarant’anni abbiamo cercato di rendere i computer più facili da usare. Abbiamo inventato cartelle, cestini, scrivanie, buste, conversazioni e pulsanti etichettati “Rispondi”. Le metafore servivano a tradurre la complessità della tecnologia in qualcosa di comprensibile. Hanno funzionato così bene che abbiamo finito per non vedere più i meccanismi nascosti dietro di esse.

Tempo fa, in Social media e autenticità: dove finiscono i pensieri?, riflettevo su come il contenitore digitale arrivi a modificare ciò che scegliamo di dire.

Social media e autenticità: dove finiscono i pensieri?

In Vivere nel mondo reale: il rischio della distrazione digitale mi occupavo invece dell’automatismo: lo schermo assorbe il gesto prima ancora della decisione, e noi smettiamo di notare ciò che ci sta intorno.

Vivere nel mondo reale: il rischio della distrazione digitale

Più di recente, scrivendo L’AI corre alla velocità della luce. Noi no., mi sono soffermato sul punto in cui la tecnologia non ci appare più come uno strumento distinto, ma diventa l’infrastruttura invisibile dentro la quale lavoriamo.

L’AI corre alla velocità della luce. Noi no.

Questo episodio tiene insieme tutti e tre gli aspetti: il contenitore altera il significato, il gesto si automatizza e l’infrastruttura sparisce dalla vista. A noi rimane soltanto l’immagine rassicurante di un pulsante Rispondi.

La soluzione, naturalmente, non consiste nel rinunciare alle risposte alle notifiche. Sarebbe come dire di abbandonare l’email perché esiste lo spam. Serve qualcosa di assai meno eroico: prima di inviare un testo attraverso una notifica automatica, vale la pena controllare il Reply-To, aprire sulla piattaforma la conversazione di origine e verificare chi avrà accesso a ciò che stiamo per pubblicare.

L’attenzione è ancora più necessaria quando sono coinvolti dati personali, documenti, comunicazioni formali o materiali che non metteremmo deliberatamente online.

C’è poi una seconda abitudine, perfino più semplice: ogni tanto dovremmo rivedere l’elenco delle repository, delle discussioni e dei servizi ai quali risultiamo ancora iscritti. Le notifiche superflue non generano solo rumore; creano assuefazione. Quando tutti i messaggi finiscono per assomigliarsi, perdiamo l’abitudine di chiederci che cosa rappresentino sul serio.

Non basta sapere a chi stiamo rispondendo. Occorre capire quale spazio digitale si trovi oltre quel pulsante.

Questa vicenda non mi ha portato a pensare che GitHub abbia un problema. Mi ha fatto capire che il problema è nel nostro rapporto con le metafore attraverso cui adoperiamo la tecnologia. “Email” non equivale più sempre a email. “Messaggio” non vuol dire necessariamente privato. E “Rispondi” non assicura che il destinatario sia soltanto la persona che abbiamo in mente.

Man mano che i sistemi diventano più integrati, automatici e invisibili, l’alfabetizzazione digitale deve cambiare fuoco: non è più sufficiente saper manovrare un’interfaccia, bisogna saper prevedere le conseguenze delle azioni compiute al suo interno.

Forse, fra qualche anno, osserveremo il pulsante “Rispondi” come oggi consideriamo il lucchetto verde del browser: non una garanzia, ma un semplice dato da interpretare.

Nel frattempo continueremo, inevitabilmente, a premerlo milioni di volte. Quasi sempre accadrà esattamente ciò che ci aspettiamo. È proprio quel “quasi” a meritare la nostra attenzione.