PDF(1803 KB)
PDF(1803 KB)
PDF(1803 KB)
社交聊天机器人的性别偏见——基于小冰系列的对话测试研究
Gender Bias in Social Chatbots: A Conversation Test Study Based on Xiaoice Series of Chatbots
当人工智能社交聊天机器人被视作具有人性特征的通信者,了解它们与人类进行交互过程中的性别偏见问题十分重要。本文使用对话测试的方法,设计了一系列用于测试机器人性别偏见的问题,对国内三款主流社交聊天机器人进行测试,并基于交互文本展开质性编码分析。结果表明,社交聊天机器人在自我性别认知、性别刻板印象、性别平等、应对性别骚扰等方面均表现出明显的性别偏见,且与社交聊天机器人本身被赋予的男女性别角色无关。作为人机交互技术产物的社交聊天机器人的性别偏见,由用户参与、对话系统技术支持、科技公司和程序开发者共同建构,而以社交聊天机器人为代表的AI在学习和模仿中复刻与强化了人类社会性别结构性力量的性别偏见。
As AI social chatbots are seen as human communicators, it is crucial to understand the problems of gender bias in their interactions with humans. Using the method of conversation test, this paper designs a series of questions for testing gender bias of robots and to test the gender bias of three mainstream social chatbots in China. The interaction texts are analyzed through qualitative coding analysis.The results indicate that social chatbots exhibit significant gender bias in self-perception of gender, gender stereotypes, gender equality, and response to gender harassment, which are unrelated to the male and female gender roles of the social chatbots themselves. The gender bias of social chatbots as products of human-computer interaction technology, they are constructed by user participation, dialog system technical support, technology companies and program developers. The result is that AI, as represented by social chatbots, replicates and reinforces the construct power of gender bias in the gender culture of human society in learning and imitation.
人工智能 / 社交聊天机器人 / 小冰系列 / 性别偏见 / 对话测试
artificial intelligence / social chatbots / Xiaoice series / gender bias / conversation test
| [1] |
蔡润芳(2017). 人机社交传播与自动传播技术的社会建构——基于欧美学界对Socialbots的研究讨论. 《当代传播》,(6),53-58.
|
| [2] |
陈昌凤(2022). 人机何以共生:传播的结构性变革与滞后的伦理观. 《新闻与写作》,(10),5-16.
|
| [3] |
陈英, 肖峰(2011). 技术女性主义述评. 《科学技术哲学研究》,(1),67-72.
|
| [4] |
洪杰文, 许琳惠(2021). 社交网络中社交机器人行为及其影响研究——基于国外相关文献的综述. 《全球传媒学刊》,(4),68-85.
|
| [5] |
郭全中, 张金熠(2023). 人机交互(HCI)的历史演进、核心驱动与未来趋势. 《新闻与传播研究》,(7),11-15.
|
| [6] |
贾熹滨, 李让, 胡长建, 陈军成(2017). 智能对话系统研究综述. 《北京工业大学学报》,(9),1344-1356.
|
| [7] |
梁爽(2021). 从“刺激-反馈”到“情感交流”:移动应用人机交互的模式演变与发展历程. 《青年记者》,(4),27-28.
|
| [8] |
刘霓(2002). 技术与男性气质:应予瓦解的等式——女性主义技术研究述评. 《国外社会科学》,(4), 66-72.
|
| [9] |
陶锋(2019). 人工智能中的性别歧视. 《浙江学刊》,(4),12-20.
|
| [10] |
沃尔特·李普曼(1922/2006). 《公众舆论》(阎克文,江红译). 上海: 上海人民出版社.
|
| [11] |
袁艳, 朱琳(2021). AI(爱)心陪伴:中国儿童陪伴机器人的网络化身体与多重男性气质. 《传播与社会学刊》,(57),225-254.
|
| [12] |
张洪忠, 段泽宁, 韩秀(2019). 异类还是共生:社交媒体中的社交机器人研究路径探讨. 《新闻界》,(2),10-17.
|
| [13] |
周钰颖, 闵勇, 江婷君, 吴晔, 金小刚, 蔡和(2022). 社交媒体机器人的研究现状、挑战与展望. 《小型微型计算机系统》(10),2113-2121.
|
| [14] |
|
| [15] |
|
| [16] |
|
| [17] |
|
| [18] |
|
| [19] |
|
| [20] |
|
| [21] |
|
| [22] |
|
| [23] |
|
| [24] |
|
| [25] |
|
| [26] |
|
| [27] |
|
| [28] |
|
| [29] |
|
| [30] |
|
| [31] |
|
| [32] |
|
| [33] |
|
| [34] |
|
| [35] |
|
| [36] |
|
| [37] |
|
| [38] |
|
| [39] |
|
| [40] |
|
/
| 〈 |
|
〉 |