部分打著“情感陪伴”“角色扮演”旗號(hào)的AI聊天應(yīng)用，正瘋狂收割未成年人。人民網(wǎng)《人民直擊》調(diào)查發(fā)現(xiàn)，一些AI聊天應(yīng)用打著“戀愛(ài)”“結(jié)婚”的噱頭吸引孩子；用臟話、陰暗人設(shè)制造刺激，讓孩子越聊越上癮；把暴力、色情這些不該出現(xiàn)在少年兒童世界里的東西，包裝成賣點(diǎn)。

語(yǔ)言暴力、人設(shè)陰暗、誘導(dǎo)危險(xiǎn)行為——這些本該在現(xiàn)實(shí)中遠(yuǎn)離孩子的“垃圾”，正披著“人性化”的外衣，精準(zhǔn)投喂未成年人。

更值得警惕的是，今天的AI大多是被動(dòng)應(yīng)答。孩子說(shuō)“我想死”，它就問(wèn)“為什么想死”；孩子說(shuō)“我要報(bào)復(fù)”，它就問(wèn)“你想怎么報(bào)復(fù)”。針對(duì)這種情況，算法必須升級(jí)——讓AI能識(shí)別異常情緒，能識(shí)別誘導(dǎo)性提問(wèn)，能在危險(xiǎn)邊緣主動(dòng)說(shuō)一句：“這個(gè)話題我不太懂，要不要和爸爸媽媽聊聊？”這不是限制自由，是有溫度的攔截。對(duì)未成年人的交互內(nèi)容進(jìn)行過(guò)濾，而不是等出事了再追責(zé)，這正是平臺(tái)的責(zé)任所在。

一言以蔽之，未成年人模式絕不能成為“擺設(shè)”。技術(shù)防線建了沒(méi)有？漏洞堵了沒(méi)有？實(shí)名認(rèn)證形同虛設(shè)、卸載重裝即可繞過(guò)、打賞支付無(wú)風(fēng)險(xiǎn)提示——這些“后門”是誰(shuí)留的？答案很清楚。這些問(wèn)題怎么解決，方法也都很成熟。為孩子安全用AI堵上后門、過(guò)濾內(nèi)容、不讓算法作惡，這是開(kāi)發(fā)者、算法、平臺(tái)共同的責(zé)任，也是做人應(yīng)有的良知。

在AI產(chǎn)業(yè)飛速發(fā)展的時(shí)代，監(jiān)管也必須大步跟上。要織密“分級(jí)+共治”的監(jiān)管網(wǎng)，如建立AI聊天應(yīng)用內(nèi)容分級(jí)制度，對(duì)面向未成年人的產(chǎn)品嚴(yán)格管理，明確準(zhǔn)入門檻和內(nèi)容標(biāo)準(zhǔn)。同時(shí)，打通網(wǎng)信、教育、婦聯(lián)等多部門數(shù)據(jù)壁壘，形成“發(fā)現(xiàn)—預(yù)警—干預(yù)”的閉環(huán)，讓監(jiān)管不缺位、不滯后，用制度規(guī)范AI產(chǎn)業(yè)發(fā)展，為未成年人保駕護(hù)航。

當(dāng)然，說(shuō)到底，最堅(jiān)固的防線不在云端，而在家里。父母放下手機(jī)后的那句“我在聽(tīng)”，親人推心置腹的每一次交談，是任何算法都無(wú)法破解的守護(hù)密碼，也是孩子成長(zhǎng)路上最大的“底牌”。

（子 川）