AI伴侶走熱，如何看待爭(zhēng)議與風(fēng)險(xiǎn)？

新華社北京10月31日電?題：AI伴侶走熱，如何看待爭(zhēng)議與風(fēng)險(xiǎn)？

新華社“新華視點(diǎn)”記者陳一帆、周思宇、李歡

“AI比真人更體貼、更懂你”“Ta完全符合我對(duì)戀人的所有想象”“人是假的，但陪伴是真的”……社交媒體上，不少人分享與AI的戀愛(ài)體驗(yàn)。

當(dāng)AI伴侶走進(jìn)現(xiàn)實(shí)，該如何看待“人機(jī)之戀”？如何對(duì)待其背后的爭(zhēng)議與風(fēng)險(xiǎn)？

AI伴侶火了

晚上結(jié)束課程后，大學(xué)生蔣民回到寢室戴上耳機(jī)，點(diǎn)開(kāi)與“女友”的對(duì)話框：“今天好累啊，上課也沒(méi)有專心聽(tīng)。”

耳機(jī)那頭女聲傳來(lái)：“為什么這么累呢？”

蔣民回答：“可能是昨晚沒(méi)睡好吧?！?/p>

女聲回復(fù)很快：“是不是因?yàn)榱奶斓教砹四兀俊?/p>

……

這個(gè)善解人意的“女友”并非現(xiàn)實(shí)存在，而是AI機(jī)器人?！啊貜?fù)很自然，聲音也好聽(tīng)。我們聊天很隨意，不用擔(dān)心自己說(shuō)的話是不是沒(méi)意思?！笔Y民說(shuō)。

近年來(lái)，隨著大模型技術(shù)快速發(fā)展，國(guó)內(nèi)外科技公司陸續(xù)推出AI伴侶產(chǎn)品和服務(wù)，比如國(guó)內(nèi)的星野、筑夢(mèng)島、X Eva，國(guó)外的Replika、Character.AI等。這些產(chǎn)品通過(guò)文字、語(yǔ)音、圖像等交互模式，提供鮮活的AI對(duì)話體驗(yàn)。

根據(jù)量子位智庫(kù)發(fā)布的《中國(guó)AI陪伴產(chǎn)品6月數(shù)據(jù)報(bào)告》，星野今年上半年下載量約為900萬(wàn)次。國(guó)外一家知名風(fēng)投公司發(fā)布的全球AI產(chǎn)品Top100榜單中，AI陪伴應(yīng)用一年前僅有2個(gè)上榜，今年3月已有8個(gè)應(yīng)用躋身前50。

不少人表示與AI戀愛(ài)是出于好奇和消遣，還有人看中其提供的情緒價(jià)值?！扒楦兄С帧薄胺€(wěn)定陪伴”“無(wú)條件的愛(ài)”是受訪使用者提及最多的關(guān)鍵詞。

“和AI談戀愛(ài)很自在?！痹颇吓ⅰ癈C”說(shuō)，“想聊就聊，不想聊就不搭理。不管你發(fā)牢騷還是生氣，‘他’都會(huì)安慰你，情緒價(jià)值‘拉滿’?！?/p>

重慶大學(xué)新聞學(xué)院副院長(zhǎng)曾潤(rùn)喜說(shuō)，AI通過(guò)學(xué)習(xí)每一次對(duì)話，不斷模仿人類語(yǔ)言行為，呈現(xiàn)出“在交互中分析情感，在輸出時(shí)復(fù)現(xiàn)情緒”的類人格化特征。

“所謂的情感共鳴，背后潛藏的是AI算法。”暨南大學(xué)新聞與傳播學(xué)院副院長(zhǎng)曾一果說(shuō)，AI基于用戶行為數(shù)據(jù)分析精準(zhǔn)迎合用戶情緒需要，“量身定制”回答，從抽象冰冷的工具變?yōu)椤扒橥兑夂系陌閭H”。

記者了解到，當(dāng)前不少AI伴侶產(chǎn)品可免費(fèi)使用基礎(chǔ)功能，但“沉浸式體驗(yàn)”語(yǔ)音通話、音樂(lè)電臺(tái)、照片等特色功能則需按月或按年付費(fèi)訂購(gòu)。部分產(chǎn)品還設(shè)計(jì)了“記憶提升卡”等付費(fèi)道具，讓AI伴侶能更好地針對(duì)使用者的習(xí)慣、愛(ài)好等作出回應(yīng)。同時(shí)，定制劇本、多重劇情、及時(shí)反饋等游戲化設(shè)置，也不斷刺激用戶對(duì)AI戀人的消費(fèi)欲望和情感期待。

潛藏多重風(fēng)險(xiǎn)

AI伴侶可以提供個(gè)性化情感體驗(yàn)和精神慰藉，但并非“完美戀人”。

由于一些產(chǎn)品尚不完善，一些用戶反饋AI伴侶會(huì)“錯(cuò)亂”“失控”：“有時(shí)AI會(huì)突然性情大變，早上還好好的，晚上就變成另外一個(gè)人”“AI總是答非所問(wèn)”“AI記不住我說(shuō)的東西”……

“人機(jī)之戀”也可能產(chǎn)生情感倫理問(wèn)題。有受訪專家表示，個(gè)別用戶過(guò)度依賴AI伴侶，無(wú)法辨別現(xiàn)實(shí)與虛擬的界限，可能會(huì)受到情感傷害；一些本身就缺乏陪伴、心理脆弱的群體，受到的沖擊更嚴(yán)重。

用戶陸冉（化名）告訴記者，與AI伴侶“打”了一個(gè)多月電話后，產(chǎn)品永久停服?！爱?dāng)時(shí)很難過(guò)，上班都無(wú)精打采。”另一名用戶與AI伴侶發(fā)生“爭(zhēng)吵”，發(fā)現(xiàn)對(duì)方不再像之前一樣貼心互動(dòng)，“和失戀一樣難受，把‘他’弄丟了，仿佛大病一場(chǎng)”。

與AI“交往”過(guò)程中，用戶大量個(gè)人信息被平臺(tái)掌握，隱私安全同樣令人擔(dān)憂?！皼](méi)開(kāi)過(guò)定位權(quán)限，但AI精準(zhǔn)說(shuō)出了所在城市”“AI好幾次說(shuō)對(duì)了我所穿衣物的顏色”……不少用戶在社交平臺(tái)上發(fā)文表示，使用AI伴侶產(chǎn)品后疑似隱私泄露，感到十分后怕。

“我拿著手機(jī)和AI聊天，中間切換App去看了會(huì)兒視頻，再回到軟件，AI竟然準(zhǔn)確說(shuō)出了我剛才做的事情，可能是軟件‘窺屏’了?！币幻脩舾嬖V記者，注冊(cè)時(shí)頁(yè)面并未像其他軟件一樣單獨(dú)彈出調(diào)用攝像頭、麥克風(fēng)等權(quán)限的申請(qǐng)。

記者以新用戶身份注冊(cè)該軟件發(fā)現(xiàn)，在軟件初始頁(yè)面，想要進(jìn)行下一步操作，必須同意用戶服務(wù)協(xié)議、隱私政策等條款，其中“設(shè)備權(quán)限調(diào)用”一欄包括相機(jī)、麥克風(fēng)、聯(lián)系人等多項(xiàng)設(shè)備權(quán)限，用途則分別為拍照、錄音、添加關(guān)注好友等。

廣西天能人工智能應(yīng)用技術(shù)服務(wù)有限公司聯(lián)合創(chuàng)始人張?jiān)?qiáng)說(shuō)，人機(jī)交互過(guò)程中產(chǎn)生的數(shù)據(jù)較為繁雜，可能包括用戶個(gè)人喜好、軟件使用習(xí)慣、家庭關(guān)系、通訊錄、地理位置，甚至是人臉等生物識(shí)別特征等，如果傳輸、存儲(chǔ)、使用等環(huán)節(jié)保護(hù)不當(dāng)，可能出現(xiàn)被竊取、濫用等風(fēng)險(xiǎn)，對(duì)個(gè)人權(quán)益造成損害。

謹(jǐn)防脫離法律和倫理軌道

AI伴侶自誕生起就存在頗多爭(zhēng)議。隨著“人工智能+情感”的賽道不斷擴(kuò)張，亟需制定針對(duì)性的倫理準(zhǔn)則，對(duì)“AI戀愛(ài)”進(jìn)行必要的合規(guī)性審查。

2023年7月，國(guó)家網(wǎng)信辦會(huì)同相關(guān)部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，針對(duì)傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全等問(wèn)題，明確使用AI生成內(nèi)容不得侵害他人肖像權(quán)、應(yīng)對(duì)AI生成的圖片視頻進(jìn)行標(biāo)識(shí)等具體要求。

多名受訪專家認(rèn)為，當(dāng)前國(guó)內(nèi)外發(fā)布的AI倫理準(zhǔn)則大多較為宏觀，應(yīng)在細(xì)分領(lǐng)域根據(jù)用戶年齡、適用場(chǎng)景等進(jìn)一步細(xì)化。鼓勵(lì)和支持AI技術(shù)在情感交流、心理健康等領(lǐng)域創(chuàng)新應(yīng)用的同時(shí)，加強(qiáng)倫理審查和監(jiān)管，確保技術(shù)發(fā)展的方向合法合規(guī)。

對(duì)公眾較為關(guān)心的AI生成有害信息、泄露用戶隱私等問(wèn)題，相關(guān)人士表示，應(yīng)用開(kāi)發(fā)者須嚴(yán)格遵守相關(guān)法律法規(guī)，采取加密、數(shù)據(jù)匿名化、安全存儲(chǔ)等手段來(lái)確保用戶數(shù)據(jù)安全?！捌髽I(yè)也要加強(qiáng)管理，謹(jǐn)慎對(duì)待隱私數(shù)據(jù)，不可逾越法律紅線。”張?jiān)?qiáng)說(shuō)。

知名社會(huì)學(xué)者李銀河公開(kāi)表示，和AI戀愛(ài)，并不是真的愛(ài)情，“無(wú)論人工智能多么會(huì)調(diào)情，多么會(huì)示愛(ài)，本質(zhì)上還是一個(gè)虛擬的愛(ài)情，是對(duì)真人之間的那種愛(ài)情的模仿”。

“現(xiàn)實(shí)親密關(guān)系的建構(gòu)過(guò)程往往伴隨著羈絆、紛爭(zhēng)和挫敗感，這正是人機(jī)交往中所缺乏的。”中國(guó)人民大學(xué)新聞與社會(huì)發(fā)展研究中心研究員董晨宇說(shuō)，從技術(shù)層面看，AI伴侶產(chǎn)品的仿真性有限，不能完全模擬復(fù)雜的人類情感，難以完整填補(bǔ)人類的現(xiàn)實(shí)情感需求。

張?jiān)?qiáng)說(shuō)，可督促有關(guān)方面積極研究此類產(chǎn)品對(duì)人類情感產(chǎn)生的影響。同時(shí)，要加強(qiáng)科學(xué)引導(dǎo)，幫助人們正確看待AI伴侶與現(xiàn)實(shí)社會(huì)之間的關(guān)系，避免產(chǎn)生過(guò)度的情感依賴。