《法治日?qǐng)?bào)》記者近日調(diào)查發(fā)現(xiàn),不少未成年人的家長(zhǎng)正在被AI劇情聊天軟件所困擾,這些打著“角色扮演”等旗號(hào)的AI劇情聊天應(yīng)用,在吸引未成年人的同時(shí),也悄然滋生了一些灰色地帶,在部分軟件的對(duì)話中,出現(xiàn)了色情擦邊、語(yǔ)言暴力以及侮辱用戶的內(nèi)容。(《法治日?qǐng)?bào)》11月23日)
此前,ChatGPT的橫空出世猶如一顆火種,點(diǎn)燃了人工智能領(lǐng)域的熱情,催生了各式各樣的創(chuàng)新應(yīng)用。萬(wàn)萬(wàn)沒(méi)想到,這種生成式大語(yǔ)言模型,又一次被帶偏了。
據(jù)報(bào)道,一些打著“角色扮演”旗號(hào)的AI劇情聊天軟件,用色情、暴力的擦邊內(nèi)容吸引未成年人,誘惑他們充值消費(fèi),這不僅引發(fā)了家長(zhǎng)們的強(qiáng)烈擔(dān)憂,也再次凸顯出加強(qiáng)行業(yè)監(jiān)管的緊迫性。
AI劇情聊天軟件依托人工智能技術(shù),模擬虛擬人物與玩家進(jìn)行對(duì)話,為青少年打造了一個(gè)充滿新奇與未知感的虛擬世界,這種創(chuàng)新本身并無(wú)不妥。
問(wèn)題在于,一些軟件開發(fā)平臺(tái)為了吸引用戶,刻意設(shè)置了包含性暗示或暴力元素的對(duì)話內(nèi)容,甚至設(shè)計(jì)了超出青少年認(rèn)知范圍的場(chǎng)景和劇情,如將聊天對(duì)象設(shè)定為“出軌對(duì)象”,并涉及擁抱、親吻等親密行為。更有甚者,部分軟件提供色情內(nèi)容,對(duì)青少年健康成長(zhǎng)造成極大威脅。
在青少年成長(zhǎng)發(fā)育的關(guān)鍵時(shí)期,營(yíng)造健康向上的網(wǎng)絡(luò)環(huán)境至關(guān)重要。倘若他們沉迷于充斥著低俗、暴力內(nèi)容的虛擬世界,甚至進(jìn)行大額充值消費(fèi),無(wú)疑會(huì)對(duì)其價(jià)值觀造成負(fù)面影響。
要確保行業(yè)健康發(fā)展,防止技術(shù)被濫用,必須迅速采取措施,加強(qiáng)監(jiān)管力度,約束平臺(tái)守法合規(guī)運(yùn)營(yíng)。比如,一旦發(fā)現(xiàn)存在色情內(nèi)容,應(yīng)立即對(duì)相關(guān)應(yīng)用軟件進(jìn)行下架處理,以儆效尤。
更為重要的是,要將未成年人保護(hù)機(jī)制真正落到實(shí)處。報(bào)道提到,有些AI劇情聊天軟件,注冊(cè)極為簡(jiǎn)便,無(wú)需實(shí)名驗(yàn)證,根本沒(méi)有對(duì)不同年齡段用戶進(jìn)行區(qū)分。還有的軟件雖然提供了“青少年模式”,但防火墻形同虛設(shè),用戶選擇該模式后,照樣可以看到一些不適合他們觀看的內(nèi)容。
所以,針對(duì)部分AI劇情聊天軟件“偏離正軌”的問(wèn)題,行業(yè)監(jiān)管部門不妨首先系統(tǒng)梳理排查一下,看最基礎(chǔ)性的“青少年模式”到底有沒(méi)有執(zhí)行到位。在此基礎(chǔ)上,加強(qiáng)對(duì)平臺(tái)內(nèi)容的審核,確保生成的內(nèi)容合法合規(guī)。
另一方面,AI劇情聊天軟件的網(wǎng)絡(luò)開發(fā)平臺(tái),也應(yīng)主動(dòng)承擔(dān)起主體責(zé)任,加強(qiáng)自律,建立完善的內(nèi)容審核機(jī)制,在軟件上架前的語(yǔ)言訓(xùn)練階段,就對(duì)可能存在的色情、暴力等有害信息進(jìn)行有效過(guò)濾??傊?,絕不能為了追求用戶數(shù)量而打法律的擦邊球。
AI劇情聊天軟件亂象,對(duì)未成年人身心健康造成的潛在危害,不可不察。無(wú)論如何,人工智能作為新興行業(yè),其快速發(fā)展應(yīng)當(dāng)為社會(huì)經(jīng)濟(jì)帶來(lái)正面的價(jià)值。不能讓技術(shù)跑偏,成為非法牟利的工具。守護(hù)好未成年人身心健康的防線,人工智能才能真正實(shí)現(xiàn)“技術(shù)向善”。
免責(zé)聲明:凡本網(wǎng)注明“來(lái)源:XXX(非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問(wèn)政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái))”的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),作品版權(quán)歸原作者所有,如有侵犯您的原創(chuàng)版權(quán)請(qǐng)告知,我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品,拒絕任何不保留版權(quán)的轉(zhuǎn)載,如需轉(zhuǎn)載請(qǐng)標(biāo)注來(lái)源并添加本文鏈接:http://90m2em.cn/showinfo-124-340009-0.html,否則承擔(dān)相應(yīng)法律后果。
責(zé)任編輯 / 李宗文