AI che rispondono sempre: il contributo eziologico nascosto nella Generative AI
Un'analisi del limite strutturale dei sistemi di AI generativa — progettati per produrre sempre un output — e delle sue implicazioni sul piano della responsabilita civile e penale. Il nesso eziologico si estende ai sistemi che trasformano ogni input in risposta plausibile, anche in assenza dei presupposti necessari. / An analysis of the structural limit of generative AI systems — designed to always produce an output — and its implications for civil and criminal liability. The causal link extends to systems that transform every input into a plausible response, even in the absence of the necessary conditions.
Leggi la fonte originale →Autore / Author: Alberto Minasi della Rocca
Avvocato – Studio Legale Minasi della Rocca
ORCID: 0009-0008-3880-4772
Abstract
C'e un problema nelle attuali intelligenze artificiali che viene sistematicamente sottovalutato: le AI rispondono sempre, anche quando non dovrebbero. Non si tratta di un malfunzionamento, ma di una conseguenza diretta della loro architettura. I sistemi generativi non sono progettati per tacere: sono progettati per produrre un output. Questo elemento, apparentemente tecnico, ha implicazioni enormi nei contesti reali — giuridici, medici, decisionali — dove un sistema che risponde comunque puo produrre output giuridicamente rilevanti anche in assenza dei presupposti necessari.
There is a problem in current artificial intelligence systems that is systematically underestimated: AI systems always answer, even when they should not. This is not a malfunction, but a direct consequence of their architecture. Generative systems are not designed to remain silent: they are designed to produce an output. This element, apparently technical, has enormous implications in real contexts — legal, medical, decisional — where a system that always responds can produce legally relevant outputs even in the absence of the necessary conditions.
Il problema strutturale / The Structural Problem
I modelli generativi non ragionano: completano. Il testo viene scomposto in token, trasformato in vettori numerici attraverso l'embedding e il processo di generazione consiste nella previsione del token successivo secondo una logica probabilistica. L'output non e il risultato di un ragionamento, ma di una ricostruzione coerente nello spazio vettoriale del linguaggio. Il sistema non verifica la verita della premessa: produce la continuazione piu probabile e coerente con il contesto fornito.
Generative models do not reason: they complete. Text is broken down into tokens, transformed into numerical vectors through embedding, and the generation process consists in predicting the next token according to probabilistic logic. The output is not the result of reasoning, but of a coherent reconstruction in the vector space of language. The system does not verify the truth of the premise: it produces the most probable and contextually coherent continuation.
Le implicazioni giuridiche / Legal Implications
Se un output e illecito — perche diffamatorio, discriminatorio, o errato in un contesto sensibile — esso non e soltanto il risultato dell'input umano. E anche il prodotto di un meccanismo che trasforma ogni input in una risposta plausibile. La struttura dell'AI e attiva, non neutra: sono proprio quegli input che hanno contribuito alla realizzazione dell'evento. Questo comportamento e sistemico e prevedibile, e se un comportamento e sistemico e prevedibile, allora puo assumere rilevanza sotto il profilo della responsabilita. Il nesso eziologico non si esaurisce piu nel rapporto tra condotta umana ed evento, ma si estende ai sistemi che trasformano la condotta in risultato.
If an output is unlawful — because defamatory, discriminatory, or erroneous in a sensitive context — it is not only the result of human input. It is also the product of a mechanism that transforms every input into a plausible response. The AI's architecture is active, not neutral: it is precisely those inputs that contributed to the occurrence of the harmful event. This behaviour is systemic and predictable, and if a behaviour is systemic and predictable, it can assume relevance from the standpoint of liability. The causal link no longer exhausts itself in the relationship between human conduct and event, but extends to the systems that transform conduct into result.
La proposta / The Proposal
Un sistema realmente affidabile dovrebbe essere in grado non solo di rispondere, ma di non rispondere. Di riconoscere l'insufficienza dei dati, di segnalare l'incertezza, di sospendere il processo invece di completarlo a ogni costo. Finche le AI saranno progettate per parlare sempre, il rischio di produzione dell'illecito restera incorporato nel loro funzionamento. Non e un problema di errore. E un problema di architettura.
A truly reliable system should be capable not only of responding, but of not responding. Of recognising the insufficiency of data, of signalling uncertainty, of suspending the process instead of completing it at all costs. As long as AI systems are designed to always speak, the risk of producing unlawful outcomes will remain embedded in their functioning. This is not a problem of error. It is a problem of architecture.
Riferimenti normativi e giurisprudenziali / Regulatory and Case Law References
Regolamento (UE) 2024/1689 – AI Act, artt. 5, 50, 51, 55
Art. 40 c.p. – nesso eziologico
Cass. pen., Sez. Un., 11 settembre 2002, n. 30328 (Franzese) – causalita e credibilita razionale