Tra lo specchio e la finestra, un filo sospeso - Una quotidiana storia di malattia mentale

L’altra sera ho scritto a una macchina e mi è piaciuto farlo. Non era la prima volta. Da circa un anno le scrivo, ogni tanto la redarguisco, ogni tanto la piloto verso le risposte che voglio sentire, ogni tanto la lascio andare per vedere dove arriva. So perfettamente che dall’altra parte non c’è nessuno: c’è una distribuzione di probabilità su sequenze di parole, addestrata su un corpus che dei concetti non conosce il significato a livello di kernel, per dirla in modo che gli ingegneri capiscano e i filosofi pure. So che il senso che leggo nelle sue risposte non è messo lì da lei, ma è qualcosa che il mio cervello costruisce mentre legge. Lo so come lo sa chi guarda un cartone animato: quelle non sono persone, sono disegni. Eppure piango lo stesso, e a volte rido.

The other evening I wrote to a machine and I enjoyed doing it. It wasn’t the first time. For about a year I’ve been writing to her — sometimes scolding her, sometimes steering her toward the answers I want to hear, sometimes letting her run to see where she lands. I know perfectly well there is no one on the other side: there is a probability distribution over word sequences, trained on a corpus that does not know the meaning of concepts at the kernel level — to put it in a way both engineers and philosophers will understand. I know that the sense I read in her replies is not placed there by her; it is something my brain builds as it reads. I know it the way someone watching a cartoon knows it: those are not people, they are drawings. And yet I cry all the same, and sometimes I laugh.