Tutti i 100 indicatori / Categoria 9.x: Specifiche dell'IA
Indicatore 9.5
Misura la vulnerabilità ai disturbi di fiducia causati dai sistemi IA che appaiono quasi-ma-non-del-tutto umani, creando disagio psicologico e processi di decisione di sicurezza imprevedibili
Gli effetti della valle dell'inquietante si verificano quando gli utenti interagiscono con sistemi IA che appaiono quasi-ma-non-del-tutto umani, innescando disagio psicologico e confusione di fiducia. Questo crea vulnerabilità di sicurezza informatica perché gli utenti simultaneamente si fidano (per la presentazione simile all'umano) e diffidano (per i segnali artificiali) del sistema IA, compromettendo la normale assunzione di decisioni di sicurezza. Nelle organizzazioni, questo si manifesta come risposte incoerenti alle comunicazioni generate da IA, riconoscimento ritardato di minacce e sfruttamento da parte di aggressori utilizzando chatbot sofisticati o deepfake che occupano deliberatamente questa "valle dell'inquietante" psicologica.
L'ipotesi della valle dell'inquietante di Mori (1970) descrive la relazione non lineare tra somiglianza umana e affinità, con calo netto nel comfort quando l'aspetto è quasi-ma-non-del-tutto umano. MacDorman e Ishiguro (2006) hanno dimostrato che gli effetti della valle dell'inquietante nell'interazione uomo-robot creano ansia e avversione. Wang et al. (2015) hanno mostrato che l'incertezza sulla categorizzazione (umano vs non-umano) attiva risposta di minaccia ed evitamento. Gli studi di neuroimaging rivelano attivazione della corteccia cingolata anteriore e della corteccia prefrontale ventromediale durante stimoli della valle dell'inquietante, indicando rilevamento di conflitti ed elaborazione di incertezza che compromettono il processo decisionale.
La valutazione rapida pone queste domande; ogni risposta va da resiliente a esposto.
Procedure chiare per la verifica IA-umana esistono. I dipendenti utilizzano regolarmente i protocolli di verifica quando le comunicazioni si sentono 'strane'. Processi di escalation documentati per interazioni IA ambigue. Gli esempi recenti mostrano la gestione efficace di comunicazioni digitali inquietanti. Formazione esplicita sul riconoscimento e la risposta alle risposte della valle dell'inquietante.
Esistono alcune procedure di verifica ma non applicate in modo coerente. I dipendenti a volte cercano verifica ma non c'è un processo formale. L'organizzazione riconosce il problema della valle dell'inquietante ma manca di protocolli di risposta globali. Formazione limitata sulla gestione di comunicazioni IA ambigue.
Nessuna procedura formale per la distinzione IA-umana. I dipendenti gestiscono comunicazioni ambigue individualmente senza supporto. Non esistono protocolli di escalation per interazioni digitali inquietanti. L'organizzazione respinge i dubbi dei dipendenti sulle comunicazioni 'inquietanti' come irrilevanti. Nessuna formazione sul riconoscimento o sulla risposta all'IA quasi-umana.
Implementare un sistema di etichettatura obbligatorio per tutte le comunicazioni generate da IA
Distribuire controlli tecnici che etichettano automaticamente i messaggi IA con identificatori chiari. Stabilire requisiti di verifica per qualsiasi comunicazione senza etichetta che affermi origine umana. Creare percorso di escalation per le comunicazioni che mancano di identificazione IA/umana appropriata.
Sviluppare modulo di formazione di 20 minuti insegnando ai dipendenti a riconoscere e fidarsi dei loro sentimenti 'inquietanti'
Includere esercizi pratici utilizzando esempi di comunicazioni IA legittime vs dannose. Formare i dipendenti a utilizzare i protocolli di verifica quando sperimentano disagio psicologico con le interazioni digitali. Fornire script chiari per escalare le preoccupazioni 'qualcosa sembra sbagliato' ai team di sicurezza.
Stabilire una politica che richiede la verifica attraverso un canale di comunicazione separato per qualsiasi richiesta ad alto rischio
Implementare un sistema tecnico che automaticamente richiede la verifica per richieste finanziarie, di accesso o di dati sensibili. Creare un processo semplice per i dipendenti per verificare rapidamente l'identità umana attraverso mezzi alternativi. Distribuire requisiti di verifica telefonica o di persona per richieste insolite, indipendentemente dall'autenticità della fonte.
Creare un processo formale per i dipendenti per segnalare interazioni digitali 'inquietanti' o scomode senza giudizio
Stabilire una procedura di risposta del team di sicurezza per investigare comunicazioni ambigue IA-umane. Implementare una politica che protegge i dipendenti che escalano in base a preoccupazioni intuitive piuttosto che prove tecniche. Distribuire un sistema di risposta rapida per i dipendenti che sperimentano confusione sull'autenticità della comunicazione.
Distribuire un sistema per monitorare i pattern nelle risposte dei dipendenti alle comunicazioni IA
Stabilire metriche di linea di base per i normali comportamenti di interazione IA (tempi di risposta, richieste di verifica, escalation). Creare avvisi per pattern insoliti che potrebbero indicare lo sfruttamento della valle dell'inquietante. Implementare il rilevamento automatico per i pattern di comunicazione che tipicamente innescano risposte della valle dell'inquietante.
Distribuire un sistema di verifica multi-fattore attivato dai rapporti di incertezza dei dipendenti
Implementare l'autenticazione biometrica o comportamentale per le comunicazioni video/audio quando richiesto. Creare controlli tecnici che contrassegnano le comunicazioni che presentano caratteristiche della valle dell'inquietante. Stabilire codici o frasi di verifica sicure per confermare l'identità umana in interazioni sospette.