La vera innovazione dell’Intelligenza Artificiale non è rispondere. È sapere quando fermarsi.

Negli ultimi mesi l’Intelligenza Artificiale è diventata protagonista di ogni conversazione. Sembra quasi che la sfida sia costruire sistemi sempre più veloci, sempre più intelligenti e capaci di rispondere a qualsiasi domanda.
Eppure, lavorando ogni giorno nel settore sanitario, ho imparato che il valore di un sistema di AI non si misura soltanto dalla qualità delle sue risposte.
Si misura anche dalla sua capacità di riconoscere i propri limiti.
Un assistente che inventa una risposta quando non possiede informazioni certe non è un assistente intelligente. È un rischio.
La fiducia nasce quando una tecnologia è in grado di dire: “Non ho dati sufficienti per rispondere.”
Può sembrare un passo indietro, ma è esattamente il contrario.
In medicina, come in molti altri ambiti critici, l’affidabilità conta molto più della creatività. Un sistema deve sapere consultare le fonti corrette, utilizzare dati aggiornati, distinguere ciò che conosce da ciò che sta ipotizzando e, soprattutto, lasciare sempre all’essere umano l’ultima decisione.
È questo il principio con cui stiamo progettando le nostre soluzioni.
Non vogliamo costruire un’intelligenza artificiale che sostituisca il professionista.
Vogliamo costruire strumenti che lo aiutino a lavorare meglio, riducendo il tempo dedicato alle attività ripetitive e aumentando quello da dedicare alle persone.
Perché la vera rivoluzione non sarà avere macchine che parlano come gli esseri umani.
Sarà avere sistemi abbastanza maturi da sapere quando parlare… e quando, invece, è più corretto fermarsi.