L’AI che controlla l’AI: il ruolo dei Guardian Agents per assicurare affidabilità e sicurezza degli agenti AI

L’ascesa dell’Intelligenza Artificiale Agentica (Agentic AI), con la sua promessa di sistemi autonomi capaci di prendere decisioni e agire nel mondo digitale e fisico, apre le porte a nuove possibilità di perseguire l’efficienza attraverso l’innovazione. Ma la proliferazione di agenti intelligenti, destinati secondo molti analisti a superare numericamente gli esseri umani all’interno delle organizzazioni, solleva una questione fondamentale: come garantire che queste entità operino in modo sicuro, affidabile e allineato con gli obiettivi prefissati? La risposta, secondo Daryl Plummer, VP Distinguished Analyst e Gartner Fellow, risiede in una nuova evoluzione dell’AI stessa: i “Guardian Agents”, sistemi di AI progettati specificamente per monitorare e supervisionare altre AI.