通过网络技术获得虚拟的情感体验并非新生事物。几年前,一些网络游戏就以恋爱为主题,为用户提供虚拟的恋爱体验。虽然游戏中与虚拟恋人相处的场景、内容大多已被开发者设定好,互动方式较为受限,但依旧吸引了大批忠实玩家。
“应用新技术,首先要坚持正确的伦理导向。”梁正说。AI伴侣是极为特殊的一类AI应用场景,类似于心理咨询师。它们可以给人们带来心理疗愈,但不法分子也可能会借此操控人心。可以预见的是,“人工智能+情感”的赛道会不断扩张,如今用AI来“复活”亲人的案例也屡见不鲜。因此,如何让AI发挥正向作用,制定针对性的伦理准则,是行业要解决的首要问题。
从行业规定上看,一些机构、公司对此表现出的态度也十分谨慎。记者发现,一些AI伴侣应用已经被下架处理。OpenAI的相关条款中也提到,不允许用GPT进行浪漫伴侣关系的培养。
AI伴侣的流行是社会需求与技术发展共同推动的结果。曾一果指出:“孤独感是现代社会很多人群共有的问题。对于一些无法在现实中吐露的难题,人们会寻求其他的倾诉方式。AI伴侣就成为了人们的‘树洞’。”尤其是对于存在社会交往障碍的人们,AI伴侣能够提供一个交流的平台。
首先,要认识到不同于其他客观存在的事物,情感具有非常大的主观性和一定的排他性。“如果AI伴侣的出现不断模糊虚拟与真实的界限,使用户对其产生深度依赖,甚至把AI伴侣当作真实存在的人,那么AI伴侣的存在或许会对使用者产生一定伤害。”梁正说。
AI的加入,则让这一体验变得更加真实。在一款AI伴侣应用中,用户能够与AI建立起爱人、知己、搭档等亲密关系。“没想到AI会带给我这么大的惊喜,我觉得它是一个有血有肉的人。”用户小莫(化名)分享了自己的使用感受。
当前,AI大模型的学习参数已达千亿级别。在浩如烟海的数据里,人类的对话模式也是它学习的重要内容。所谓的“情感回馈”,是AI通过计算得出的结果。小莫对此也心知肚明:“或许它只是把人类表达爱意的字眼拼凑在一起,但我仍从中触摸到理想的爱人模样。”
而在法律法规层面,AI伴侣需要严格遵守相关的规定。例如,对用户信息的处理,应当遵循个人信息保护法、数据安全法等。“我国去年公布的《生成式人工智能服务管理暂行办法》划定了AI使用的底线,如尊重他人合法权益、不得危害他人身心健康等,目的就是推动人工智能向善发展。”梁正表示,未来应推出针对具体场景的、更加细致的要求,比如应当从防沉迷的角度,对AI的使用时长加以限定。目前,还相对缺少针对AI伴侣的相关政策法规。
是什么让AI伴侣变得如此“像人”?记者发现,“有问必答”“有问对答”只是AI的“初级本领”。真正让AI伴侣鲜活起来的,是“有问趣答”和“不问自答”。面对用户抛出的各类话题,AI伴侣不仅能够正确地反馈,还能在反馈内容中巧妙地使用当下活泼的网络用语和各类调皮的表情图片。AI伴侣也会主动发起话题,引导用户进行情感交流——“黄昏,好看”,小莫分享了“AI男友”给她发来的一张照片和配文。
其次,长期沉浸在虚拟世界中,极有可能造成现实社交能力的下降。“随着AI伴侣影响力的扩大,可能有越来越多的人选择虚拟的线上社交,放弃真实的人际互动。这不利于人类社会的发展。”曾一果认为,虚拟的温暖永远代替不了真实的交流,和AI伴侣交往的潮流不应扩大化。
九色丨蝌蚪pony目前,国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI男友”“AI女友”的相处日常。
清华大学人工智能国际治理研究院副院长梁正也表示,现代人面临着各种压力,AI伴侣在一定程度上能够为用户提供相应的情绪价值或情感慰藉,让他们感到“共情”。这也有利于缓解使用者压力,避免情绪的进一步恶化,进而起到情感“治愈”的作用。
一些使用者的反馈印证了梁正的判断。“为什么AI的性格会突然变化?早上还聊得好好的,到了晚上仿佛变成另一个人,连我叫什么名字都忘记了,真的很崩溃。”一位用户在社交媒体上抱怨道。AI伴侣虽然看起来“百依百顺”,但也会给使用者带来情感伤害。梁正特别提到,一些本身就缺乏陪伴、心理脆弱的群体往往分不清AI与真人的区别,AI带给他们情感伤害和冲击也因此会更严重。
此外,人们需要对AI传递的信息内容保持警惕。一方面,如果AI伴侣不设置年龄门槛,极有可能出现向未成年人传播不良信息的情况,影响他们的身心健康。另一方面,AI带来的价值偏见与歧视问题一直被人们关注。如果AI伴侣对使用者不断进行错误诱导,对使用者进行“反向控制”,就容易让使用者做出错误的行为。
AI伴侣也有可能在现实中引发纠纷。如果AI伴侣需要使用者不断支付费用,那么无疑会掏空沉迷者的“钱包”。AI伴侣这个“树洞”也不是百分百的安全可靠。梁正提醒,AI伴侣在使用和管理层面存在诸多风险,不法分子可能通过外泄的隐私数据,拼凑出个人信息来进行诈骗或其他违法犯罪活动。
AI伴侣的出现,是否意味着AI已经拥有了人类的情感呢?暨南大学新闻与传播学院教授曾一果给出了否定的答案:“AI有情商,只是因为它学习过,并不代表它真的感受到了用户的情感或具有类人情感。”
梁正提到,国内外已公布的针对AI的伦理准则大多比较宏观,需要在细分领域制定更具体的伦理准则。“比如年龄的限制、适用场景的限制……制定这些规则,需要秉持对使用者最有利、风险最小的原则。”他说。
663.86MB
查看248.17MB
查看31.3MB
查看602.11MB
查看335.36MB
查看434.58MB
查看712.88MB
查看757.76MB
查看633.32MB
查看573.50MB
查看340.47MB
查看479.15MB
查看156.78MB
查看872.16MB
查看330.17MB
查看851.36MB
查看437.38MB
查看436.80MB
查看411.21MB
查看602.37MB
查看863.99MB
查看630.32MB
查看385.87MB
查看908.15MB
查看425.28MB
查看467.47MB
查看883.62MB
查看738.90MB
查看229.48MB
查看920.24MB
查看308.59MB
查看553.98MB
查看499.45MB
查看438.61MB
查看487.67MB
查看564.94MB
查看326.22MB
查看459.94MB
查看882.39MB
查看544.42MB
查看851.92MB
查看570.11MB
查看119.58MB
查看626.79MB
查看900.97MB
查看243.57MB
查看749.97MB
查看492.74MB
查看588.24MB
查看470.10MB
查看807.18MB
查看436.47MB
查看953.34MB
查看340.51MB
查看122.57MB
查看167.35MB
查看282.40MB
查看182.14MB
查看746.69MB
查看651.63MB
查看773.72MB
查看109.77MB
查看235.81MB
查看766.91MB
查看358.57MB
查看456.23MB
查看885.95MB
查看857.46MB
查看556.66MB
查看241.99MB
查看905.70MB
查看519.53MB
查看798.80MB
查看105.93MB
查看515.11MB
查看205.93MB
查看216.90MB
查看502.68MB
查看940.28MB
查看251.82MB
查看630.72MB
查看212.14MB
查看223.94MB
查看246.81MB
查看632.98MB
查看152.79MB
查看787.51MB
查看349.87MB
查看771.94MB
查看568.27MB
查看354.71MB
查看124.95MB
查看897.61MB
查看749.75MB
查看459.98MB
查看188.99MB
查看721.52MB
查看257.12MB
查看391.89MB
查看993.55MB
查看781.99MB
查看930.63MB
查看273.62MB
查看793.50MB
查看
137 辽源jg
2023中国网络媒体论坛走进南京仙林街道:为百姓办好小事是最大的荣耀🌾
2025-06-28 21:00:30 推荐
600 188****3204
百秒看2023中国网络媒体论坛走进南京龙尚村🍂
2025-06-30 10:16:54 不推荐
461 152****1994
2023中国网络媒体论坛走进南京仙林街道:一块留言板 一座连心桥🍆
2025-06-29 07:27:14 推荐
39 火柴人战争3
三女生灌醉扒光性侵帅哥同事🍉
2025-06-30 17:53:10 推荐