Intelligenza Artificiale e Governance Aziendale, Stefano Nigro, (Mindlogix): "La vera sfida è quella del controllo"

Nel dibattito globale sul futuro delle nuove tecnologie si tende spesso a spostare l’attenzione su scenari apocalittici e lontani. Ma per Stefano Nigro, Chief Executive Officer di Mindlogix s.r.l., la realtà dei fatti è molto più concreta e vicina al quotidiano delle imprese: "Tegmark dice che l’intelligenza artificiale è già fuori controllo. Nelle aziende con cui lavoriamo vedo una perdita di controllo meno spettacolare, ma molto più vicina. Il controllo dell’AI non si perde in un laboratorio della Silicon Valley: si perde nel momento in cui un’azienda collega un agente ai propri sistemi senza decidere che cosa può fare e chi ne risponde. E spesso senza chiedersi quali dati potrà leggere, dove finiranno e chi altro potrà vederli. Sono domande che dovrebbero venire prima del progetto, e che invece arrivano dopo".

A questo primo livello di criticità si aggiunge poi una minaccia ancora più sommersa e diffusa all'interno delle organizzazioni: "Poi c’è la cosiddetta shadow AI: dipendenti che usano strumenti di intelligenza artificiale per conto proprio, caricandoci documenti e dati aziendali, senza che l’azienda lo sappia. In quel caso il problema non viene nemmeno posto, perché nessuno sa che l’AI è già lì".

Di fronte a una rincorsa tecnologica spesso incontrollata, Nigro richiama anche le parole di Papa Leone XIV, il quale ha ricordato come chi vive lo sviluppo dell’AI come una corsa da vincere rischia di guardare solo al traguardo, anteponendo un sistema potentissimo e imprevedibile a uno affidabile e a misura d’uomo. Si tratta di un criterio fondamentale che, secondo il CEO di Mindlogix, guida anche le scelte strategiche delle aziende: pur riconoscendo che la creazione di nuove istituzioni di governance richiederà tempo, Nigro sottolinea che in Europa esiste già uno strumento concreto. L’AI Act stabilisce infatti che i sistemi più delicati debbano restare sotto una supervisione umana effettiva, affidata a persone competenti capaci di comprendere le decisioni della macchina, intervenire e, se necessario, fermarla. Una misura che non va letta come semplice burocrazia, ma come il discrimine tra un sistema soltanto potente e uno realmente affidabile, nonché l'unico modo concreto per mantenere il controllo.

In conclusione, l'invito del manager è quello di non attendere vincoli formali o decisioni calate dall'alto, ma di integrare una reale cultura della responsabilità all'interno della gestione aziendale quotidiana: "Il punto è applicare questo principio ogni volta che si mette un agente in produzione, anche dove la legge non lo richiede. La governance dell’AI non può restare a Bruxelles o nelle sedi internazionali: deve entrare in ogni organizzazione, a cominciare dal sapere quali strumenti vengono usati, da chi e con quali dati".