人工智能（AI）正在從“工具”走向“伙伴”。相關(guān)調(diào)研顯示，超七成用戶與AI建立起情感聯(lián)結(jié)，甚至產(chǎn)生過(guò)依賴感。從日常工作學(xué)習(xí)到聊天輔助，從情感傾訴到虛擬陪伴，當(dāng)AI扮演起“社交避風(fēng)港”“情緒止痛藥”等角色時(shí)，其背后的價(jià)值觀引導(dǎo)、虛擬情感成癮等潛在風(fēng)險(xiǎn)不容忽視。

日前，國(guó)家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），將于7月15日起施行。《辦法》鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，也規(guī)定了擬人化互動(dòng)服務(wù)提供者的未成年人、老年人權(quán)益保護(hù)和個(gè)人信息保護(hù)等義務(wù)。AI擬人化互動(dòng)產(chǎn)業(yè)進(jìn)入了有規(guī)可依的新發(fā)展階段。

中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng)、教授張凌寒分析，不同于傳統(tǒng)的AI信息發(fā)布或檢索服務(wù)，擬人化互動(dòng)服務(wù)具有主動(dòng)性、個(gè)性化和情感化特征，通過(guò)模擬人類的語(yǔ)言、表情、行為方式等，能夠與用戶建立類似人際關(guān)系的互動(dòng)模式，其影響力和滲透性遠(yuǎn)超傳統(tǒng)互聯(lián)網(wǎng)服務(wù)?！斑@種高度擬人化的交互模式所產(chǎn)生的風(fēng)險(xiǎn)，與一般AI應(yīng)用存在本質(zhì)差異，表現(xiàn)為情感依賴與社交異化、認(rèn)知操縱與價(jià)值觀引導(dǎo)，以及心理健康與安全風(fēng)險(xiǎn)等?！?/p>

騰訊研究院一項(xiàng)針對(duì)2903名18歲至40歲中國(guó)青年網(wǎng)民的調(diào)查顯示，AI社交已近乎全面滲透，94.4%的調(diào)研對(duì)象至少聽(tīng)說(shuō)過(guò)一種AI社交產(chǎn)品或功能，其中98.8%的人有過(guò)實(shí)際使用經(jīng)驗(yàn)。AI社交輔助類工具的使用率最高，達(dá)到62.5%。當(dāng)產(chǎn)生“難以對(duì)人說(shuō)出口”的想法時(shí)，選擇向AI傾訴的比例（56.0%）是選擇向真人傾訴（14.4%）的近4倍。

“大語(yǔ)言模型技術(shù)已經(jīng)從單純的認(rèn)知智能向情感智能躍遷?！辟惖项檰?wèn)人工智能與大數(shù)據(jù)研究中心研究分析師白潤(rùn)軒觀察到，2025年以來(lái)，AI社交互動(dòng)的用戶黏性極高，部分應(yīng)用人均使用頻次甚至超過(guò)了短視頻和游戲?！斑@種深度的情感鏈接雖然帶來(lái)了巨大的商業(yè)價(jià)值，但也伴生了深度沉迷、倫理邊界模糊等風(fēng)險(xiǎn)?！?/p>

特別是對(duì)于未成年人，長(zhǎng)期的AI擬人化情感互動(dòng)帶來(lái)持續(xù)的情感反饋與情緒刺激，促使多巴胺反復(fù)分泌并強(qiáng)化心理愉悅感，逐步形成行為渴求與依賴慣性，“成癮”可能性更大。此次《辦法》的出臺(tái)旨在把隱性風(fēng)險(xiǎn)顯性化、標(biāo)準(zhǔn)化，降低長(zhǎng)期不確定性。不過(guò)，合規(guī)發(fā)展并非“一刀切”，而是分類分級(jí)、風(fēng)險(xiǎn)匹配。例如，《辦法》要求服務(wù)提供者建立情感邊界引導(dǎo)、心理健康保護(hù)等安全能力，設(shè)置防沉迷提醒，對(duì)長(zhǎng)時(shí)間、高強(qiáng)度的互動(dòng)進(jìn)行干預(yù)，規(guī)定用戶連續(xù)使用超過(guò)2個(gè)小時(shí)，就將以彈窗等方式提醒用戶。

“AI擬人化互動(dòng)帶來(lái)的無(wú)摩擦式情感陪伴，確實(shí)容易擠占未成年人現(xiàn)實(shí)社交空間，弱化其線下交往能力與社會(huì)適應(yīng)能力?！睆埩韬硎?，受業(yè)態(tài)發(fā)展階段、技術(shù)適配性以及行業(yè)現(xiàn)實(shí)等多重因素制約，《辦法》目前只是確立了原則性、框架性規(guī)則。她建議，在后續(xù)落地實(shí)施中，需結(jié)合風(fēng)險(xiǎn)等級(jí)、應(yīng)用場(chǎng)景、群體差異進(jìn)行分層細(xì)化，建立更具量化標(biāo)準(zhǔn)、可落地執(zhí)行的法律判定閾值，實(shí)現(xiàn)精細(xì)化治理。

白潤(rùn)軒認(rèn)為，此次《辦法》并非“急剎車”，而是行業(yè)已達(dá)“設(shè)護(hù)欄的臨界點(diǎn)”，旨在防止技術(shù)異化，確保人機(jī)關(guān)系良性發(fā)展。“過(guò)去，部分產(chǎn)品依靠打擦邊球、誘導(dǎo)消費(fèi)來(lái)獲取流量，一定程度上透支了行業(yè)的未來(lái)。新規(guī)實(shí)施后，合規(guī)成本會(huì)上升，但也會(huì)倒逼企業(yè)從流量思維轉(zhuǎn)向產(chǎn)品思維。短期內(nèi)可能會(huì)有洗牌，但長(zhǎng)期看，情緒經(jīng)濟(jì)將進(jìn)入規(guī)范化高質(zhì)量發(fā)展的新階段。監(jiān)管不是消滅AI陪伴，而是把危險(xiǎn)的依賴關(guān)系變成安全的輔助關(guān)系，為養(yǎng)老、教育、心理健康、文化傳播等打開(kāi)更大空間?！?/p>

未來(lái)，AI陪伴類應(yīng)用的算法優(yōu)化需引入更復(fù)雜的獎(jiǎng)勵(lì)模型。白潤(rùn)軒舉例介紹，訓(xùn)練AI在識(shí)別到用戶出現(xiàn)極端情緒、不合理決策或危險(xiǎn)傾向時(shí)，應(yīng)溫和但堅(jiān)定地進(jìn)行干預(yù)，而非盲目附和，這需要從RLHF（人類反饋強(qiáng)化學(xué)習(xí)）階段就植入心理健康和安全準(zhǔn)則。再比如，當(dāng)監(jiān)測(cè)到用戶連續(xù)使用超過(guò)一定時(shí)長(zhǎng)，或者在非常規(guī)時(shí)間段高頻互動(dòng)時(shí)，AI不僅要彈窗提醒，更要在對(duì)話策略上主動(dòng)引導(dǎo)用戶回歸現(xiàn)實(shí)生活。（本文來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 作者：中國(guó)經(jīng)濟(jì)網(wǎng)記者 李 方）