Üldiselt öeldakse, et nõu andmiseks on vaja mingil määral empaatiat või vähemalt illusiooni sellest. Isiklike dilemmade puhul pole küll õiget vastust, kuid rääkijale on oluline, et kuulaja on kaastundlik.

Kuid ChatGPT-d pole otseselt õpetatud olema empaatiline, eetiline või usaldusväärse otsustusvõimega. See on pikalt olnud vettpidav argument, mis eraldab inimest tehisintellektist, kuigi sellele on juba palju vastu vaieldud.