AIBoMGen: Generazione di un AI Bill of Materials per un Training di Modelli Sicuro, Trasparente e Conforme
L’adozione rapida di sistemi di intelligenza artificiale (IA) complessi ha superato lo sviluppo di strumenti per garantirne la trasparenza, la sicurezza e la conformità normativa. In questo contesto, l’AI Bill of Materials (AIBOM), un’estensione dell’SBOM (Software Bill of Materials), si presenta come un registro standardizzato e verificabile dei modelli di IA addestrati e dei loro ambienti. In questo articolo, viene introdotto AIBoMGen, una piattaforma proof-of-concept che automatizza la generazione di AIBOM firmati, catturando dataset, metadati del modello e dettagli dell’ambiente durante l’addestramento.
La piattaforma di addestramento funge da osservatore neutrale e terzo, oltre che da radice di fiducia, imponendo la creazione verificabile di AIBOM per ogni attività. Il sistema utilizza hashing crittografici, firme digitali e attestazioni in-toto per garantire l’integrità e proteggere da minacce come la manomissione degli artefatti da parte di creatori di modelli disonesti. La valutazione dimostra che AIBoMGen rileva in modo affidabile modifiche non autorizzate a tutti gli artefatti e può generare AIBOM con un sovraccarico di prestazioni trascurabile.
Questi risultati sottolineano il potenziale di AIBoMGen come passo fondamentale verso la costruzione di ecosistemi di IA sicuri e trasparenti, consentendo la conformità a quadri normativi come l’AI Act dell’UE. L’iniziativa mira a risolvere le criticità legate alla mancanza di trasparenza e sicurezza nello sviluppo e nell’implementazione dei modelli di IA, fornendo un meccanismo per la verifica e la gestione dei componenti utilizzati durante l’addestramento.
Paper: ArXiv.org