Что значит «чувствовать»?
Человек за столом улыбается. Может быть, ему приятно. А может быть, он ждёт, когда закончится этот ужин. Иногда догадку можно проверить позже, когда останетесь вдвоём. Чужое объяснение тоже бывает уклончивым, но по крайней мере есть общая история, по которой можно судить о сказанном.
В чате такую же роль легко отдать фразе «мне грустно». Если собеседник последовательно объясняет, что его огорчило, разговор становится убедительнее. Особенно если он возвращается к этому завтра. Но, пока мы добавляли ему память и учили поддерживать разговор, мы заодно улучшали и его способность рассказывать о грусти. Что позволило бы узнать, изменилось ли ещё что-нибудь?
Дэвид Чалмерс в статье Facing Up to the Problem of Consciousness формулирует трудность, которая здесь очень кстати. Допустим, удалось объяснить, как человек различает сигналы, направляет внимание и сообщает о своём состоянии. Всё ещё можно спросить, почему эти процессы вообще чем-то ощущаются изнутри. Это философская постановка вопроса. Готовой проверки для чат-бота из неё не получается.
С человеком помогают сходство тел, общая биология и собственный опыт. Для машины такого привычного основания для догадки у нас нет. Поэтому в споре о том, чувствует ли она, мне интереснее всего тот момент, когда кто-то предлагает наблюдение, способное поколебать его собственную уверенность. Пока даже договориться об этом наблюдении трудно.