Як чат-боти з ШІ впливають на довіру споживачів

Із поширенням генеративного ШІ чат-боти стають все більш реалістичними та використовуються в обслуговуванні клієнтів, продажах і навіть благодійності.

Проте, як показує дослідження Скотта Шанке з Університету Вісконсин-Мілуокі, їхній дизайн може як підвищити, так і зруйнувати довіру споживачів.

Джерело: phys.org

У 2021 році Шанке досліджував, як «олюднення» чат-ботів — жарти, імена, паузи — впливає на взаємодію з клієнтами. Результат: більш «людяні» боти підвищували продажі, але користувачі починали більше торгуватися. Звичайні «машиноподібні» боти, навпаки, викликали менше заперечень.

У сфері благодійності ефект ще складніший. Надто емоційні й «людяні» боти відштовхують людей, бо створюють відчуття надмірного тиску. Найкращий результат у цих випадках давали більш логічні, «нейтральні» інтерфейси.

Інша частина дослідження стосувалась voice-клонів — технології, що дозволяє створити голосовий «двійник» людини за кілька секунд аудіо. В експерименті учасники більше довіряли ботам, які розмовляли їхнім власним голосом — навіть якщо знали, що цим голосом їх обманюють.

«Навіть коли ми прямо говорили, що співрозмовнику не можна довіряти, люди все одно вірять — якщо чують свій голос», — каже Шанке.

Це відкриває потенціал як для корисних застосувань, так і для зловживань: фейкові дзвінки, шахрайство, маніпуляції. Науковці наголошують: потрібні регулювання і прозорість, аби нові технології не стали інструментом зла.

«Ми маємо думати на 5 років уперед і вже зараз будувати систему захисту для споживачів», — підсумовує дослідник.