Ingegnere di Amazon sfrutta Claude Opus 5 per modificare firmware di periferiche: allerta sui rischi di sicurezza

Un ingegnere della sicurezza di Amazon ha recentemente dimostrato le potenzialità e i rischi legati all’uso dell’intelligenza artificiale, impiegando Claude Opus 5 per effettuare il reverse engineering di diverse periferiche per PC. Questo processo ha rivelato la sorprendente facilità con cui dispositivi come webcam, microfoni e monitor possono essere alterati, ponendo interrogativi sulla sicurezza di tali tecnologie.

Tra i dispositivi modificati figurano una webcam Insta360, un microfono Shure, un monitor Asus ROG Swift PG42UQ, una chiavetta di acquisizione Elgato e una mini-lampada Elgato. L’ingegnere ha descritto un processo che ha richiesto circa 13 ore e poco meno di 100 interazioni con l’IA per completare le modifiche. Questo lavoro ha incluso il reperimento del firmware e degli strumenti di aggiornamento dal produttore, l’esecuzione in un ambiente di reverse engineering e l’uso di Claude Opus 5 per raggiungere gli obiettivi prefissati.

Un aspetto allarmante emerso dall’analisi è che la maggior parte dei dispositivi non presenta adeguate protezioni contro l’integrità del firmware. Solo la mini-lampada Elgato ha mostrato qualche forma di difesa, ma è stata facilmente aggirata. Le modifiche hanno portato a funzionalità sia utili che potenzialmente pericolose, come la disattivazione dell’indicatore di registrazione della webcam e la possibilità di mantenere attivo il microfono mentre il LED di mute segnalava la disattivazione.

Inoltre, l’ingegnere ha rimosso un avviso di ‘pixel cleaning’ sul monitor e ha replicato alcune funzioni dell’utility DisplayWidget su Linux tramite uno script shell, permettendo l’assegnazione di hotkey a funzioni come il reticolo hardware e il contatore FPS. Un risultato significativo è stata l’ottenimento di una shell di root su un monitor commerciale Dell, evidenziando ulteriormente le vulnerabilità delle periferiche moderne.

La preoccupazione principale espressa dall’ingegnere è che le periferiche, essendo piccoli computer collegati a un host e dotati di meccanismi di aggiornamento del firmware, rappresentano obiettivi ideali per attacchi di reverse engineering automatizzati. Questo aumenta il rischio che dispositivi esterni possano essere compromessi con firmware malevoli.

L’automazione offerta dall’IA potrebbe ridurre drasticamente il tempo e il lavoro necessari per eseguire tali attacchi, aprendo la strada a malware autoriproduttivi in grado di sondare l’ambiente e tentare di insediarsi su accessori, dispositivi IoT e attrezzature industriali vicine a sistemi già compromessi. Queste scoperte pongono interrogativi cruciali sulla sicurezza delle periferiche e sull’affidabilità delle tecnologie che utilizziamo quotidianamente.