Cybercriminali stanno compromettendo le linee di fornitura software per l’intelligenza artificiale, creando nuove minacce per le aziende.
Con l’adozione dell’intelligenza artificiale (IA) che cresce rapidamente in diverse industrie e applicazioni, la prevenzione degli attacchi ai software supply chain basati su IA è mai stata più importante. Recentemente, la ricerca di SentinelOne ha esposto un nuovo attore di ransomware, chiamato NullBulge, che mira alle linee di fornitura software attaccando il codice in repository open-source come Hugging Face e GitHub. Questo gruppo, che si autoproclama come un’organizzazione hacktivist motivata da un’antica causa anti-AI, mira specificamente a questi risorse per inquinare i set di dati utilizzati per l’addestramento dei modelli AI.
La compromissione delle linee di fornitura software per l’intelligenza artificiale
Le componenti open-source giocano un ruolo critico nella catena di fornitura software per l’IA. Solo le grandi aziende hanno accesso alle enormi quantità di dati necessarie per addestrare un modello da zero, quindi devono affidarsi pesantemente sui set di dati open-source come LAION 5B o Common Corpus. La dimensione di questi set di dati significa che è estremamente difficile mantenere la qualità dei dati e rispettare le leggi sulla proprietà intellettuale e sulla privacy. Tuttavia, questo non è l’unico modo, specialmente con gli attacchi informatici che stanno diventando sempre più diffusi e sofisticati.
Attacchi di inquinamento dei dati
Gli attacchi di inquinamento dei dati consistono nel mandare grandi quantità di informazioni non malevole attraverso un sistema AI in un tentativo di coprire qualcosa d’altro, come ad esempio un’attività malevola. Questo tipo di attacco è particolarmente pericoloso perché può essere difficile da rilevare e può compromettere la sicurezza dei dati.
Sicurezza e AI
La sicurezza è fondamentale per l’IA. Non si può garantire la sicurezza senza tenere gli esseri umani in loop e mettere la sicurezza al primo posto della strategia. Se si considera l’IA solo come un modo per risparmiare tempo e ridurre i costi licenziando lavoratori, senza riguardo per le conseguenze, è solo questione di tempo prima che si verifichi un disastro.
Soluzioni di sicurezza basate sull’IA
Le soluzioni di sicurezza basate sull’IA giocano un ruolo critico nel contrastare le minacce. Non sono una sostituzione per gli analisti di sicurezza talentuosi, ma un’augmentazione potente che aiuta a fare ciò che fanno meglio su una scala che altrimenti sarebbe impossibile da raggiungere.
La sicurezza delle linee di fornitura software per l’IA è una questione cruciale per le aziende. Gli attacchi di inquinamento dei dati e la compromissione delle linee di fornitura sono minacce reali che devono essere affrontate con soluzioni di sicurezza avanzate e una strategia di sicurezza che metta al primo posto la sicurezza umana.
Fonte: https://securityintelligence.com/articles/cyber-criminals-compromising-ai-software-supply-chains/
