认可机构如何要求个人信息对于赢得用户信任至关重要纳河
2022-08-13 05:51:50 小源娱乐网
认可机构如何要求个人信息对于赢得用户信任至关重要
人们可能不愿意将其个人信息提供给人工智能系统，即使系统需要这些信息来提供更准确和个性化的服务，但一项新的研究表明，系统向用户询问信息的方式可以做出改变。
在一项研究中，宾夕法尼亚州立大学的研究人员报告说，当AI提供帮助用户或向用户寻求帮助时，用户的反应有所不同。此响应影响用户是否信任其个人信息与AI他们补充说，可以通过某种方式设计来自AI的介绍，以提高用户的信任度，并提高他们对个人信息重要性的认识。
研究人员今天在虚拟的2021 ACM CHI计算系统中人为因素虚拟会议上展示了他们的发现，这是人机交互研究的首要国际会议，他们发现熟悉技术的人-超级用户-首选AI。需要帮助或寻求帮助，而非专家用户则更喜欢将自己介绍为同时寻求帮助者和提供帮助者的AI。
Donald P. Bellisario传播学院媒体效果教授，媒体效果研究副主任S. Shyam Sundar说，随着AI越来越普及，开发人员需要创建与人类更好地联系的系统。实验室。
Sundar说：“我们需要重新考虑AI系统如何与人类用户交流。” “这已经浮出水面，因为人们越来越关注AI系统如何开始接管我们的生活，并且对我们的了解比我们意识到的要多。
因此，考虑到这些担忧，如果我们开始从传统的方法转向传统方法，那就更好了。对话脚本转变为一种更加协作，合作的交流方式，以确认用户的代理机构。”
在这里有帮助吗？
研究人员表示，传统的AI对话通常会提供介绍其作为帮助者角色的介绍。
宾夕法尼亚州立大学计算与数据科学研究院的会员Sundar表示，实际上，高级用户可能会因AI通常与用户进行交流的方式而感到犹豫。例如，研究人员引用了Facebook要求提供生日信息的请求，以便其AI可以为其用户提供适合其年龄的体验。
Sundar说：“ AI在与用户交谈时似乎具有家长式的态度-他们似乎在告诉用户他们在这里为您提供帮助，您需要向他们提供信息以获取好处。”
另一方面，当AI系统向用户寻求帮助时，它被认为是社交的。根据该论文的主要作者，大众传播学的博士生孟梦琪的说法，高级用户发现寻求帮助的AI具有社交智能，被研究人员称为社交存在。
廖说：“如果有人寻求帮助，这是一种固有的社会行为，而且本质上是人际交往，这是有道理的。” “反过来，这种社会参与感会导致更多的信任，并增加向AI提供更多个人信息的意图。高级用户也向寻求帮助的AI给予了更高的评价，即使他们提供的AI结果与其他AI相同。”
Liao补充说，当系统既寻求帮助又告诉用户将来可以为他们提供帮助时，非高级用户对隐私的担忧就会减少。
道德AI
研究人员说，这项研究为设计师提供了一种道德的方式，可以增加对机器的信任，而不会试图诱使人们提供他们的个人信息。
廖说：“我们认为，这些发现对于希望建立策略以打击以用户为食的AI系统的设计师也很有见识。” “例如，我们发现，寻求帮助和提供帮助的线索的存在实际上会引起高级用户之间的隐私问题。因此，只需在解释权力的用户中同时实现这两种提示，就可以使他们变得更加警惕。他们的个人信息。”
对于非超级用户，设计师可以添加寻求帮助的线索，这将减少社交影响力，并鼓励他们变得更加警惕自己的个人信息。
研究人员从在线微任务研究平台招募了330名参与者。参与者被随机分配到一个模拟网站，该网站代表以下四个实验条件之一：求助条件，求助条件，求助条件和控制条件以及控制条件。
在寻求帮助的条件下，AI提供了书面解释，说明它需要用户的帮助和他们的个人信息才能改善和成长。在提供帮助的情况下，它解释说可以使用提交的个人信息来帮助用户查找新闻文章。第三个条件包含寻求帮助和提供帮助的线索。控件未提供任何解释。
研究人员还研究了AI指向自身的方式是否存在任何差异，并且发现人们对AI的称呼比对“该系统”的信任度要低。
未来的研究可能包括调查在更敏感的其他环境中使用AI的情况，例如收集财务和医疗信息，以确定这些介绍如何影响用户对保护此信息的警惕性。