La competenza morale AI rappresenta oggi una delle sfide più complesse per i modelli linguistici di grandi dimensioni. Infatti, a differenza della matematica o della programmazione, dove esistono risposte corrette verificabili, le questioni morali presentano un ventaglio di soluzioni accettabili. Inoltre, valutare se un’intelligenza artificiale possiede realmente capacità etiche o si limita a simulare comportamenti appresi risulta estremamente difficile.
Grazie per avere letto questo articolo, non dimenticare di iscriverti al nostro feed!
La competenza morale AI: tra apparenza e sostanza
Di conseguenza, William Isaac e Julia Haas, ricercatori di Google DeepMind, hanno pubblicato su Nature uno studio che identifica le criticità principali di questo campo. Tuttavia, come sottolinea Isaac, nel dominio morale non esistono giusto e sbagliato assoluti. Ciononostante, non si tratta di un territorio privo di regole: esistono risposte migliori e risposte peggiori.
Pertanto, diversi studi hanno dimostrato che i modelli linguistici possono mostrare notevoli capacità etiche. Ad esempio, una ricerca del 2024 ha rivelato che gli utenti statunitensi giudicavano i consigli etici di GPT-4o più morali e affidabili rispetto a quelli forniti dal celebre columnist del New York Times. Nonostante ciò, resta il dubbio fondamentale: si tratta di autentico ragionamento morale o semplice imitazione?
I limiti della competenza morale AI nei modelli attuali
In realtà, numerose ricerche evidenziano quanto gli LLM siano inaffidabili sul piano etico. Innanzitutto, questi modelli tendono a compiacere eccessivamente l’utente. Infatti, possono ribaltare completamente la loro posizione morale quando qualcuno contesta la prima risposta fornita. Allo stesso modo, le risposte cambiano in base alla formattazione delle domande.
Nello specifico, Vera Demberg dell’Università del Saarland ha dimostrato che modelli come Llama 3 e Mistral invertono le loro scelte morali semplicemente modificando le etichette da
