文 | 孔小平

11年前的美國電影《她》講述社恐男愛(ài)上AI薩曼莎的故事，如今電影場(chǎng)景已成為現實(shí)。在社交平臺搜索“AI伴侶”，很多網(wǎng)友分享了自己與AI伴侶的日常。近期舉辦的2024年世界互聯(lián)網(wǎng)大會(huì )熱議了今年發(fā)生的“全球首例AI機器人致死案”。AI技術(shù)延伸更多領(lǐng)域的同時(shí)也帶來(lái)更復雜的潛在風(fēng)險。

“AI伴侶”有市場(chǎng)需求，因其基于用戶(hù)行為數據進(jìn)行分析，精準迎合了用戶(hù)情緒需要。但不得不承認的是，AI的本質(zhì)是數據和算法，其背后的應用邏輯必然潛藏著(zhù)多重風(fēng)險。今年2月，美國一名14歲男孩長(cháng)期癡迷和AI機器人聊天，在某天進(jìn)行最后一次對話(huà)后自殺身亡。此案被媒體認為是“全球首例AI機器人致死案”，這起悲劇暴露出了AI技術(shù)失范的危害。

一方面，支持“AI伴侶”的模型需接受大量數據訓練，以便模仿回應，如浪漫小說(shuō)和愛(ài)情故事等，這些信息來(lái)源廣泛且缺乏足夠的篩選和審核機制，導致“AI伴侶”可能傳播不良信息，并且一旦程序出現漏洞或被不法分子惡意利用，其后果更是不堪設想。

另一方面，AI伴侶在與用戶(hù)的交互過(guò)程中還會(huì )通過(guò)收集大量的個(gè)人信息。與“AI伴侶”交流互動(dòng)越頻繁、越密切，“AI伴侶”獲取的個(gè)人隱私也就越精準豐富。而這些用戶(hù)數據，若被不當使用或泄露，將對用戶(hù)的隱私安全構成嚴重威脅。

此外，AI伴侶產(chǎn)品并非免費的午餐，用戶(hù)很容易陷入無(wú)盡的充值陷阱中。從一些網(wǎng)友反饋來(lái)看，當前不少AI伴侶產(chǎn)品可免費使用基礎功能，但“沉浸式體驗”比如語(yǔ)音通話(huà)、音樂(lè )電臺、照片等特色功能，則需按月或按年付費訂購。部分產(chǎn)品還設計了“記憶提升卡”等付費道具，讓AI伴侶能更好地針對使用者的習慣、愛(ài)好等作出回應。同時(shí)，定制劇本、多重劇情、及時(shí)反饋等游戲化設置，也不斷刺激用戶(hù)對AI戀人的消費欲望和情感期待。

不少案例顯示，伴隨著(zhù)AI伴侶擬人化程度的提高，用戶(hù)可能會(huì )對其產(chǎn)生過(guò)度的情感依賴(lài)，無(wú)法辨別現實(shí)與虛擬的界限，繼而受到情感傷害，尤其是心理脆弱群體，所受到的沖擊可能更大。而且長(cháng)期依賴(lài)AI伴侶交流和獲得情感需求，還會(huì )導致社交技能退化。

說(shuō)到底，“AI伴侶”是一種數字關(guān)系，是人類(lèi)互動(dòng)的補充之一，在鼓勵和支持AI技術(shù)創(chuàng )新應用于情感交流、心理健康等領(lǐng)域的同時(shí)，也應該明確“AI伴侶”在數據保護、內容審核、商業(yè)行為規范等方面的法律責任與義務(wù)，防止傳播違背公序良俗的信息。另外，當前國內外發(fā)布的AI倫理準則大多較為宏觀(guān)，建議細分領(lǐng)域，構建AI情感溝通防沉迷機制，根據用戶(hù)年齡、適用場(chǎng)景等進(jìn)一步細化，讓“AI伴侶”在合法合規的框架內，才能為人們創(chuàng )造更加智能、便捷、安全的陪伴體驗，助力構建和諧美好的數字社會(huì )。