The imaginary patient. Fantastic health data and where to find them

In the name of an upcoming AI revolution in healthcare and of chatbots and ‘agentic AI’ allegedly capable of providing health advice, the US, international institutions, and the European Commission are pushing for the digitisation of clinical and health data. Unfortunately, ‘digitisation’ is just a new name for mass surveillance, there is no such a thing as ‘agentic AI’ and those surveilling us are not interested in making healthcare more accessible or personalised, which would simply require hiring more healthcare personnel. At best, a machine learning system capable of tracking correlations can be an auxiliary tool in medicine. An extruder of probable text strings can only make us imagine that we are in a doctor–patient relationship, since a doctor's job certainly does not consist of auto-completing their patients' sentences. A chatbot is therefore both useless and dangerous, if the objective is healthcare. However, a private healthcare company whose goal is to increase quarterly dividends may consider a chatbot to be a useful cost-reduction tool. Within an instrumental rationality, a healthcare company may find it rational to replace doctors with chatbots, just as it would find it rational to feed prisoners dog food if it ran a prison. After all, financial analysts who think in terms of business logic are seriously asking themselves whether treating patients is a sustainable business model. Announcements of an AI-based healthcare revolution have no scientific basis. They are deeply rooted in sectors that are heavily funded by the pharmaceutical industry and technology companies. Here, the interest in promises of automation, in dehumanising patients, in commodifying health and in destroying public healthcare systems converge with the surveillance, control, manipulation and domination goals of the US military–industrial complex. Even if it cannot cure us, generative AI is perfect for all these purposes.

In nome di un’imminente “rivoluzione dell'intelligenza artificiale” nell’ambito dell’assistenza sanitaria e in nome di chatbot e “IA agentica”, che sarebbero in grado di fornire consulenze sanitarie, gli Stati Uniti, le istituzioni internazionali e la Commissione europea stanno promuovendo insistentemente la digitalizzazione e l’integrazione totale dei dati clinici e sanitari. Sfortunatamente, “digitalizzazione” è solo il nuovo nome della sorveglianza di massa, non esiste alcuna “IA agentica” e chi ci sorveglia non è interessato a rendere l'assistenza sanitaria più accessibile o personalizzata (obiettivo che richiederebbe anzitutto maggiori assunzioni di personale medico qualificato). Nella migliore delle ipotesi, un sistema di apprendimento automatico in grado di tracciare correlazioni può essere uno strumento ausiliario, in medicina. Un estrusore di stringhe di testo probabili può solo farci immaginare di essere in una relazione medico-paziente, dato che l’attività di un medico non consiste certo nel completamento automatico, su basi probabilistiche, delle frasi del paziente. Un chatbot è dunque inutile e pericoloso, se l'obiettivo è l'assistenza sanitaria. Un'azienda sanitaria privata il cui obiettivo sia l’aumento dei dividendi trimestrali può comunque considerare utili i chatbot, per ridurre i costi. Entro una razionalità strumentale, un'azienda sanitaria può ritenere razionale sostituire i medici con i chatbot, così come riterrebbe razionale, se gestisse una prigione, servire ai detenuti cibo per cani. Dopo tutto, gli analisti finanziari che ragionano entro una logica aziendale si chiedono seriamente se curare i pazienti sia un modello di business sostenibile. Gli annunci di una rivoluzione sanitaria basata sull'intelligenza artificiale non hanno alcun fondamento scientifico. Sono tuttavia saldamente radicati in settori finanziati dall'industria farmaceutica e dalle aziende tecnologiche. Qui, l'interesse per le promesse di automazione, per la disumanizzazione dei pazienti, per la mercificazione della salute e per la distruzione dei sistemi sanitari pubblici converge con gli obiettivi di sorveglianza, controllo, manipolazione e dominio del complesso militare-industriale statunitense. Anche se non può curarci, l'IA generativa è perfetta per tutti questi scopi.