Економіст пише: нинішні чатботи можуть бути розумними, але це не доказ свідомості. Сʼюзан Шнайдер пояснює, що моделі говорять про «внутрішнє життя», бо начиталися людських текстів про нього.

Небезпека подвійна. Якщо модель навчити показувати страх, біль або привʼязаність, користувачем легше маніпулювати. А поки всі дивляться на чатботи, справді сіра зона вже поруч: Cortical Labs вирощує людські нейрони на чипі й зчитує їхню активність.

Тому авторка пропонує не питати великі мовні моделі «ти свідомий?». Вони вже поглинули тексти про свідомість. Потрібні фізичні й нейронаукові тести, інакше ми або дамо права симуляції, або пропустимо систему, яка справді здатна страждати.