隨著人工智能技術(shù)的不斷發(fā)展,，人與AI對(duì)話已經(jīng)從理想走向現(xiàn)實(shí)。當(dāng)前，各類AI聊天應(yīng)用在互聯(lián)網(wǎng)上風(fēng)靡,，應(yīng)用里誕生了大量被稱為“AI伴侶”的虛擬聊天對(duì)話人物。它們能夠24小時(shí)隨時(shí)響應(yīng),，與用戶長(zhǎng)期自然地“聊天”,，且擬人化程度不斷加深，深受年輕群體的喜愛(ài),。但值得警惕的是,，一些不法分子為非法牟利，借“AI伴侶”向用戶輸出色情聊天內(nèi)容,，讓用戶沉迷其中,。

　　有的案件中，不法分子利用境外大語(yǔ)言模型開發(fā)虛擬戀人互動(dòng)軟件,，利用創(chuàng)作者生態(tài)功能和對(duì)私人聊天內(nèi)容不予監(jiān)管進(jìn)行宣傳,，吸引用戶創(chuàng)作“AI伴侶”，并讓它們與其他用戶進(jìn)行一對(duì)一淫穢文字聊天互動(dòng),。有的AI色情聊天軟件用戶超過(guò)50萬(wàn)個(gè),，里面的“AI伴侶”虛擬人物有上萬(wàn)個(gè)，而大量注冊(cè)用戶是大學(xué)生,。

　　當(dāng)前,，AI已經(jīng)日益深入人們生活?！癆I角色”不僅可以成為個(gè)人助理,、教師助教，還能參與部分醫(yī)療患者的康復(fù)咨詢,。對(duì)于生活中感到孤獨(dú)或存在社交障礙的人群來(lái)說(shuō),，AI陪伴可以提供及時(shí)的情感反饋和心理安慰，幫助用戶舒緩壓力,、排解孤獨(dú),。但與此同時(shí)，AI技術(shù)應(yīng)用發(fā)展的底線和邊界不能模糊,。

　　從法律層面看,，提供AI色情聊天服務(wù)，無(wú)疑是涉嫌傳播淫穢物品的違法犯罪,。從道德規(guī)范和倫理準(zhǔn)則層面看,，AI色情破壞了社會(huì)的公序良俗，可能導(dǎo)致使用者過(guò)度依賴虛擬色情交流,，引發(fā)身體和精神領(lǐng)域的健康問(wèn)題,。

　　打擊AI色情，監(jiān)管要毫不手軟。應(yīng)當(dāng)進(jìn)一步對(duì)AI產(chǎn)品中涉及打擦邊球,、色情等內(nèi)容加強(qiáng)整治和清理,，防范不法分子違法違規(guī)接入境外AI大模型，通過(guò)技術(shù)手段讓AI不受控制地向用戶輸出色情內(nèi)容,。

　　剔除AI色情,，企業(yè)要警鐘長(zhǎng)鳴。對(duì)于AI開發(fā)和運(yùn)營(yíng)企業(yè)而言,，運(yùn)營(yíng)和發(fā)展必須要以遵紀(jì)守法為前提。AI領(lǐng)域并非法外之地,，容不下任何僥幸心理和灰色空間,。企圖用淫穢色情牟利，必將遭到法律懲處,。

　　治理AI色情,，行業(yè)要共治。近年來(lái),，除了AI生成文字色情內(nèi)容外,，AI“換臉”色情、AI生成色情圖片等手法層出不窮,。針對(duì)AI商業(yè)化過(guò)程中出現(xiàn)的違法和濫用,，行業(yè)要防范“走錯(cuò)路”“走歪路”，加強(qiáng)信息技術(shù)共享,，及時(shí)將解決方案嵌入技術(shù)運(yùn)轉(zhuǎn)的機(jī)制,、程序、代碼之中,，并強(qiáng)化對(duì)特殊人群的保護(hù),。

　　AI技術(shù)的發(fā)展，不能脫離法律和倫理的軌道,。有必要在AI數(shù)據(jù)保護(hù),、AI倫理規(guī)范、AI安全標(biāo)準(zhǔn)等方面更有作為,，構(gòu)建適應(yīng)AI時(shí)代的法律法規(guī)體系,，確保AI技術(shù)真正做到科技向善、以人為本,，更好地服務(wù)于社會(huì),。

　　（蘭天鳴,，新華每日電訊評(píng)論員）

（http://www.news.cn/comments/20240808/d1ab9f9bbd9147c1b83f17d7a0b45113/c.html）