Изучение доверия к автономным продуктам

Хотя для того, чтобы автономные автомобили и интеллектуальные технологии полностью раскрыли свой потенциал, необходим определенный уровень доверия, эти технологии не являются безошибочными – поэтому мы должны держать руки за руль беспилотных автомобилей и соблюдать правила дорожного движения. даже если они противоречат инструкциям нашего картографического приложения. Признавая важность доверия к устройствам – и опасности, когда его слишком много, – Эрин Макдональд, доцент кафедры машиностроения в Стэнфордском университете, исследует, можно ли разрабатывать продукты для поощрения более подходящего уровня доверия среди потребителей.

В статье, опубликованной в прошлом месяце в The Journal of Mechanical Design , Макдональд и Тинг Ляо, ее бывший аспирант, изучили, как изменение настроения людей влияет на их доверие к умному динамику. Их результаты были настолько удивительными, что они провели эксперимент второй раз и с большим количеством участников, но результаты не изменились.

«Мы определенно думали, что, если люди будут грустить, они будут более подозрительно относиться к говорящему, а если люди будут счастливы, они будут более доверчивыми», – сказал Макдональд, старший автор статьи. «Это было даже не так просто».

В целом, эксперименты подтверждают мнение о том, что мнение пользователя о том, насколько хорошо работает технология, является самым важным фактором, определяющим, доверяют ли он ей. Однако доверие пользователей также различается в зависимости от возрастной группы, пола и уровня образования. Самым необычным результатом было то, что среди людей, которые сказали, что умный динамик оправдал их ожидания, участники доверяли ему больше, если бы исследователи пытались вызвать у них либо положительное, либо отрицательное настроение – участники группы с нейтральным настроением не проявляли такое же повышение доверия.

«Важный вывод из этого исследования заключается в том, что отрицательные эмоции не всегда вредны для формирования доверия. Мы хотим иметь это в виду, потому что доверие не всегда хорошо», – сказал Ляо, который сейчас работает доцентом в Технологическом институте Стивенса в г. Нью-Джерси и ведущий автор статьи.

Манипулирование доверием

Научные модели межличностного доверия предполагают, что наше доверие к другим людям может зависеть от нашего восприятия их способностей, но мы также учитываем, среди многих других характеристик, являются ли они заботливыми, объективными, справедливыми и честными. Помимо качеств того, с кем вы взаимодействуете, также было показано, что наши личные качества влияют на наше доверие в любой ситуации. Но при изучении того, как люди взаимодействуют с технологиями, большинство исследований концентрируется на влиянии производительности технологии, не обращая внимания на доверие и восприятие пользователей.

В своем новом исследовании Макдональд и Ляо решили восполнить этот пробел – изучив настроение – потому что предыдущие исследования показали, что эмоциональные состояния могут влиять на восприятие, которое определяет межличностную надежность, а негативное настроение обычно снижает доверие.

В ходе двух идентичных экспериментов исследователи проанализировали взаимодействия шестидесяти трех участников с имитацией умного динамика, который состоял из микрофона и предварительно записанных ответов, скрытых под деактивированным умным динамиком. Перед тем, как участники использовали динамик, их опросили об их чувстве доверия к машинам и показали изображения, которые, согласно предыдущим исследованиям, могут вызвать у них хорошее или плохое настроение или совсем не изменить их настроение.

Участники задали спикеру 10 заранее определенных вопросов и получили 10 заранее записанных ответов разной степени точности или полезности. После каждого вопроса участники оценивали свое удовлетворение ответом и сообщали, оправдала ли он их ожидания. В конце исследования они описали, насколько доверяют спикеру.

Если участники не считали, что докладчик дал удовлетворительные ответы, ни одна из переменных, измеренных или обработанных в эксперименте, включая возраст, пол, образование и настроение, не изменила их мнение. Однако среди участников, которые заявили, что докладчик оправдал их ожидания, мужчины и люди с меньшим образованием с большей вероятностью доверяли говорящему, а люди старше 65 лет значительно реже доверяли устройству. Самым большим сюрпризом для исследователей стало то, что в группе, чьи ожидания оправдались, прайминг настроения привел к повышению доверия независимо от того, пытались ли исследователи вызвать у них хорошее или плохое настроение. Исследователи не выяснили, почему это произошло, но они отметили, что существующая теория предполагает, что люди могут стать более терпимыми или сочувствующими к продукту, когда они эмоциональны.

«Дизайнеры продукта всегда стараются сделать людей счастливыми, когда они взаимодействуют с продуктом», – сказал Ляо. «Этот результат очень силен, потому что он предполагает, что мы должны не только сосредотачиваться на положительных эмоциях, но и что существует целый эмоциональный спектр, который стоит изучить».

Действовать с осторожностью

Это исследование показывает, что между тем, кто мы есть, и тем, как мы относимся к технологиям, существует тонкая и сложная связь. Разбор деталей потребует дальнейшей работы, но исследователи подчеркивают, что проблема доверия между людьми и автономными технологиями заслуживает повышенного внимания сейчас, как никогда.

«Меня беспокоит, что инженеры притворяются нейтральными по отношению к эмоциям людей, их решениям и суждениям, но все, что они создают, говорит:« Поверьте мне, у меня это полностью под контролем. Я самый высокотехнологичный человек. вы когда-нибудь использовали, ‘? ” – сказал Макдональд. «Мы тестируем автомобили на безопасность, так почему бы нам не тестировать автономные автомобили, чтобы определить, имеет ли водитель необходимый уровень знаний и доверия к транспортному средству для управления им?»

В качестве примера функции, которая могла бы лучше регулировать доверие пользователей, Макдональд вспомнила более заметные предупреждения, которые она видела в навигационных приложениях во время стеклянного пожара, который произошел к северу от Стэнфорда осенью, и которые заставляли людей водить автомобиль осторожно, поскольку пожар мог изменить дорожные условия. . Следуя своим открытиям, исследователи также хотели бы видеть дизайнерские решения, учитывающие влияние настроения пользователей, как хорошего, так и плохого.

«Конечная цель состоит в том, чтобы увидеть, можем ли мы откалибровать эмоции людей с помощью дизайна, чтобы, если продукт недостаточно зрелый или если окружающая среда сложна, мы могли соответствующим образом скорректировать их доверие», – сказал Ляо. «Это, вероятно, будущее через пять-десять лет».

Это исследование финансировалось Исследовательской программой дизайн-мышления Хассо Платтнера.


Источник истории:

Материалы предоставлены Стэнфордским университетом . Оригинал написан Тейлором Куботой. Примечание. Содержимое можно редактировать по стилю и длине.