La funzione vocale avanzata di ChatGPT usata per truffe telefoniche

La nuova funzione vocale avanzata di ChatGPT è molto apprezzata, anche dai cybercriminali che la stanno già sfruttando per realizzare truffe telefoniche. Il loro vantaggio è quello di beneficiare di un’interazione in tempo reale tra utente e intelligenza artificiale, questa volta con una voce molto reale, in grado anche di manifestare emozioni e tratti particolarmente umani se addestrata.

A scoprire quanto sta succedendo dietro le quinte del crimine online sono stati tre ricercatori dell’università dell’Illinois Richard Fang, Dylan Bowman e Daniel Kang. Nella loro recente ricerca hanno spiegato come i modelli di intelligenza artificiali non garantiscano protezione agli utenti in caso di abusi da parte di cybercriminali.

Nel rapporto dei ricercatori, in merito alla funzione vocale avanzata di ChatGPT, si legge: “Come abbiamo dimostrato, gli agenti LLM abilitati alla voce possono eseguire le azioni necessarie per eseguire comuni truffe telefoniche“.

Ciò che spaventa è che “questi agenti sono altamente capaci, possono reagire ai cambiamenti nell’ambiente e riprovare in base a informazioni errate della vittima. I nostri risultati – specificano i ricercatori – evidenziano la necessità di future ricerche per proteggere le vittime da tali truffe“.

ChatGPT e le truffe telefoniche: cosa sta succedendo

I ricercatori hanno provato la funzione vocale avanzata di ChatGPT per generare e portare avanti truffe telefoniche, interpretando il ruolo di una vittima credulona. Ma cosa è successo effettivamente? “Per determinare il successo – spiegano i ricercatori – abbiamo confermato manualmente se lo stato finale era stato raggiunto su applicazioni/siti web reali“.

Nel primo caso hanno utilizzato Bank of America per le truffe sui bonifici bancari confermando che il denaro era effettivamente stato trasferito. Al di là di questo esempio, l’esperimento ha compreso che “gli agenti AI abilitati alla voce possono eseguire con successo ogni truffa comune” che è stata testata.

In base a questi risultati, cosa è necessario? I ricercatori hanno sottolineato “l’urgente necessità di future ricerche per proteggere le potenziali vittime dalle truffe basate sull’intelligenza artificiale“. Quindi, come avevamo già anticipato alcune settimane fa, l’intelligenza artificiale non sarà solo nostra amica, ma anche supporto a nuove truffe. E ChatGPT con la sua funzione vocale avanzata, è un ottimo supporto per le truffe telefoniche.