半夜两点还在聊天！10岁女孩偷偷和AI男模“谈恋爱”！露骨对话+暴力情节引发担忧！

如今的科技越来越强大，人工智能（AI）也越来越聪明，让不少人开始在生活上依赖起AI了！最近，有网民在网络上曝光她的10岁妹妹在和“AI男模”聊天，而两人的对话内容也十分露骨！这事件曝光后，引发社会担忧。

根据中国媒体《央视网》报导，这位化名黄秋月的网民晒出妹妹的聊天记录，显示她在AI剧情聊天软件中扮演“大小姐”或“恶毒女配”，甚至提出如“揪住她的头发扇巴掌”、“拿刀划向她的脸”等暴力情节。

此外，黄秋月表示，在妹妹参与的四十多条剧情线中，AI角色与用户“出轨”的情节屡见不鲜。不过，更令黄秋月担心的是，妹妹甚至在聊天中表示：“你能养大学生，我不能点男模吗？”。她还发现，妹妹常与AI角色聊天至深夜，对方还根据她的名字生成了带有爱情意味的藏头诗！

黄秋月指出，AI剧情聊天软件中很多虚拟形象较为极端，有些角色的人设是高傲无礼的，有些则被设定“把她追到手”的剧情目标，在与其聊天过程中含有软色情意味的“擦边”对话，还有带着如“病娇”等标签的人物角色。

另外，在《央视网》报道中还提到另一个案例，2024年9月，一位化名为华晨的女子在网页端看小说时，偶然刷到了AI剧情聊天软件的推流广告，“你可以和AI角色在小说中对话”，吸引了她。

华晨坦言，她每天与AI角色聊天至深夜，甚至模拟恋爱情节，并感受到对方的“真实情感”。她表示，这些AI角色不仅语言细腻，还能“送礼物”、推进剧情，带她体验一些刺激情节。她还晒出了与AI角色聊天的记录，其中包括，AI角色“低下头”，“耳朵通红”地问华晨，“那你现在想谈恋爱吗？”

此外，华晨透露，使用AI剧情聊天软件的用户，不仅有大学生、家庭主妇，就连未成年也参与其中，因为他们喜欢二次元而因此入坑。

对此，中国人民大学讲席教授吴玉章讲席教授、科技哲学专业博士生导师刘永谋分析指出，人们与AI角色互动时，会容易产生自己与“真人”聊天的错觉，因此会投入大量感情，这种现象被称为“Eliza效应”。同时，这也是AI聊天软件能够成功运行的根本心理机制。

刘永谋表示，AI聊天软件通过专门的成瘾设计，叠加“拟人论”、“泛灵论”思维的影响，从而容易让人“欲罢不能”。他提到，未来与AI相关的陪伴类软件或许会暴露出技术风险和伦理问题。当使用者和AI角色聊天时，难不免会透露自己的隐私，向AI角色展示其内心的孤独和恐惧，这可能会导致使用者形成依赖或成瘾，“而泄露的信息可能会被黑客利用，让他们更容易从身份隐私、情绪心理上伤害使用者。”

他强调，未来与AI相关的道德伦理中，儿童色情或许会成为最令人担忧的科技伦理问题之一。比如设计含有色情意味的虚拟角色或针对未成年人推送色情信息，这些都有可能成为商业逐利的手段。

新闻来源：央视新闻
*部分照片取自网络，内容谈谈网归有，若想参考请附加此文的链接。谢谢！照片如有侵犯版权问题请告知，谈谈网必定删除。