Un nuovo studio, condotto da ricercatori della University of Missouri e Amrita University in India, ha dimostrato che i chatbot AI ChatGPT e Gemini possono passare con successo i test di hacking etico. Questo risultato ha implicazioni significative per il futuro della cybersecurity, offrendo opportunità e sfide allo stesso tempo.
L’esame di hacking etico
L’esame di hacking etico è un test standard che misura la conoscenza di un professionista in materia di diversi tipi di attacchi, metodi di protezione e risposte a violazioni di sicurezza. I certificati di hacking etico sono spesso richiesti dalle aziende per dimostrare la competenza di un professionista in materia di cybersecurity.
I chatbot AI superano l’esame di hacking etico
I ricercatori hanno testato ChatGPT e Gemini con diversi scenari dell’esame di hacking etico, e entrambi i chatbot hanno dimostrato la capacità di descrivere complessi scenari di attacco e raccomandare misure preventive. Questo risultato suggerisce che i chatbot AI potrebbero essere utilizzati per condurre test di sicurezza più frequenti e completi, rendendo i test di red teaming più raffinati quando si verificano.
Opportunità e sfide
L’utilizzo di chatbot AI in cybersecurity offre opportunità e sfide. Da un lato, i chatbot AI possono condurre test di sicurezza più frequenti e completi, identificando vulnerabilità che potrebbero essere trascurate da tester umani. D’altra parte, i chatbot AI possono commettere errori, che in un contesto di cybersecurity possono avere conseguenze critiche.
AI hallucination
L’errore più preoccupante è l’AI hallucination, in cui i chatbot AI forniscono risposte inaccurate o fuorvianti. Questo problema è particolarmente critico in ambito cybersecurity, dove gli errori possono avere conseguenze severe. Per mitigare questo rischio, i ricercatori suggeriscono di implementare meccanismi di verifica per confermare le risposte dei chatbot AI.
I chatbot AI, come ChatGPT e Gemini, stanno cambiando il panorama della cybersecurity, offrendo opportunità e sfide allo stesso tempo. Sebbene i chatbot AI possano condurre test di sicurezza più frequenti e completi, è necessario affrontare il problema dell’AI hallucination per garantire l’accuratezza e l’affidabilità delle loro risposte. Implementando meccanismi di verifica e monitorando attentamente le loro prestazioni, è possibile sfruttare al meglio i vantaggi offerti dai chatbot AI in ambito cybersecurity.
Suggerimenti, soluzioni, consigli e best practice
Per sfruttare al meglio i chatbot AI in ambito cybersecurity, è importante adottare le seguenti best practice:
- Implementare meccanismi di verifica: per confermare le risposte dei chatbot AI, implementare meccanismi di verifica che richiedano loro di fornire prove o giustificazioni per le loro risposte.
- Monitorare attentamente le loro prestazioni: tenere traccia delle prestazioni dei chatbot AI, identificando eventuali errori o comportamenti anomali.
- Aggiornare regolarmente i chatbot AI: garantire che i chatbot AI siano aggiornati con le ultime minacce e vulnerabilità, in modo da poter condurre test di sicurezza più efficaci.
- Formare il personale: formare il personale a utilizzare e interpretare correttamente le risposte dei chatbot AI, in modo da poter sfruttare appieno i loro vantaggi.
- Integrare i chatbot AI con strumenti di sicurezza esistenti: integrare i chatbot AI con strumenti di sicurezza esistenti, come firewall e sistemi di rilevamento delle intrusioni, per aumentare l’efficacia dei test di sicurezza.
Seguendo queste best practice, è possibile sfruttare al meglio i vantaggi offerti dai chatbot AI in ambito cybersecurity, mitigando al contempo i rischi associati all’AI hallucination e ad altri errori.
Fonte: https://cybermagazine.com/articles/what-chatgpt-passing-an-ethical-hacking-exam-means-for-cyber
