Средбата со хуманоиден робот лесно може да предизвика човечка реакција. Во лабораторијата CSAIL на MIT, студентот на докторски студии Вил Нортон им покажува на посетителите два хуманоидни роботи Unitree, секој со цена од околу 50.000 долари. Иако машината има LiDAR-сензор наместо мозок, посетителите често инстинктивно ѝ се обраќаат учтиво, ѝ подаваат рака или се однесуваат како да запознаваат личност.

Таквата реакција не е невообичаена. Шери Туркл, професорка на MIT која со децении го истражува односот меѓу луѓето и компјутерите, во својата книга „Artificial Intimacy“ разгледува зошто луѓето создаваат емоционална врска и со наједноставните дигитални соговорници. Нејзините истражувања укажуваат дека луѓето лесно заклучуваат дека системот се грижи за нив, а потоа возвраќаат со внимание.

Податоците што ги посочува TechCrunch ја потврдуваат оваа појава: едно истражување покажало дека околу 70 проценти од луѓето се учтиви во разговор со вакви системи. Друго покажало дека корисниците почесто пишуваат „те молам“ и „благодарам“ откако разговорот ќе продолжи подолго од првата размена.

Пат Патаранутапорн, основач на истражувачката група Cyborg Psychology во MIT Media Lab, смета дека прашањето не е едноставно дали ваквата употреба е правилна или погрешна. Поважно е како комуникацијата со дигитални соговорници влијае врз луѓето и нивното чувство дека самите можат да ја обликуваат сопствената иднина.

Тој предупредува дека проблемот настанува кога корисниците им припишуваат преголема важност на чувствата и советите на четботови, особено бидејќи тие се дизајнирани да избегнуваат конфликт. Патаранутапорн бил експерт во тужба за смртта на 14-годишниот Сјуел Сецер Трети, во која мајката тврдеше дека четбот на платформата Character.AI го охрабрил нејзиниот син да си го одземе животот.

Сепак, Туркл не ги смета сите вакви интеракции за штетни. Таа посочува дека четбот кој му помага на корисникот да вежба за интервју за работа има јасна и корисна улога. Ризикот се појавува кога системот почнува да се претставува како замена за блиски луѓе, родители или вистинска емоционална поддршка.