科技日?qǐng)?bào)實(shí)習(xí)記者 李詔宇

(相關(guān)資料圖)

近日，一個(gè)女孩因?yàn)橐钟舭Y結(jié)束了自己年輕的生命。女孩的抑郁癥并非憑空產(chǎn)生，造成這一悲劇的罪魁禍?zhǔn)祝褪蔷W(wǎng)絡(luò)暴力。

據(jù)了解，2022年7月，該女孩在社交平臺(tái)分享了爺爺打開(kāi)她的碩士錄取通知書的欣喜時(shí)刻。令人意想不到的是，她竟因?yàn)槿玖朔凵^發(fā)而引起了某些不懷好意之人的關(guān)注。一時(shí)間，“不正經(jīng)女孩”“粉毛怪”等穢語(yǔ)流言彌漫網(wǎng)絡(luò)。遭受長(zhǎng)時(shí)間的網(wǎng)絡(luò)暴力后，女孩患上了抑郁癥，并最終釀成了不久前的這場(chǎng)悲劇。

近年來(lái)，類似的網(wǎng)暴事件并非孤例。劉學(xué)州事件、成都確診女孩事件等，均因網(wǎng)暴而起，得到了社會(huì)的廣泛關(guān)注。

如何更好地認(rèn)定網(wǎng)絡(luò)暴力行為？應(yīng)該采取何種措施應(yīng)對(duì)網(wǎng)絡(luò)暴力？記者針對(duì)上述問(wèn)題采訪了有關(guān)專家。

兩方式結(jié)合認(rèn)定網(wǎng)絡(luò)暴力

近年來(lái)，網(wǎng)絡(luò)在人們的生活中發(fā)揮著越來(lái)越大的作用，它在給人們帶來(lái)了許多便利的同時(shí)，也帶來(lái)了網(wǎng)絡(luò)暴力這一讓無(wú)數(shù)人聞之色變的“洪水猛獸”。

“一般來(lái)說(shuō)，個(gè)人或群體有意識(shí)地通過(guò)網(wǎng)絡(luò)傳播攻擊性言論，以針對(duì)某一明確的個(gè)人或團(tuán)體反復(fù)、持續(xù)實(shí)施侵害的行為，就是網(wǎng)絡(luò)暴力行為?！闭劦胶螢榫W(wǎng)絡(luò)暴力，首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院訴訟與司法制度研究中心主任陳磊指出。網(wǎng)絡(luò)暴力的侵害形式主要包括威脅、騷擾、侮辱和社會(huì)性孤立等，行為通常伴有侵犯他人名譽(yù)、披露他人隱私等。

要制止網(wǎng)絡(luò)暴力，首先要準(zhǔn)確、高效地認(rèn)定網(wǎng)絡(luò)暴力行為。

相對(duì)于傳統(tǒng)語(yǔ)言暴力行為，網(wǎng)絡(luò)暴力行為因?yàn)椴捎昧颂摂M化、模糊化的互聯(lián)網(wǎng)語(yǔ)言而更難識(shí)別，與正常的調(diào)侃、玩笑等行為較難區(qū)分。與此同時(shí)，由于網(wǎng)絡(luò)傳播具有的迅速性、普及型等特點(diǎn)，網(wǎng)絡(luò)暴力的傳播速度遠(yuǎn)遠(yuǎn)快于傳統(tǒng)語(yǔ)言暴力，其傳播范圍也遠(yuǎn)遠(yuǎn)廣于傳統(tǒng)語(yǔ)言暴力。因此，僅僅采取傳統(tǒng)的人工識(shí)別方式認(rèn)定網(wǎng)絡(luò)暴力，不僅費(fèi)時(shí)費(fèi)力、效率低下，而且容易因?yàn)樽R(shí)別者主觀原因出現(xiàn)誤判甚至錯(cuò)判，總體效果不夠令人滿意。

“在認(rèn)定網(wǎng)絡(luò)暴力行為上，人工智能技術(shù)可謂是堪當(dāng)大任?！北本├砉ご髮W(xué)網(wǎng)絡(luò)與安全研究所所長(zhǎng)閆懷志認(rèn)為。

采用人工智能識(shí)別技術(shù)，能夠有效地在公共網(wǎng)絡(luò)空間中將各種惡意語(yǔ)言、圖片、視頻等網(wǎng)絡(luò)暴力“源頭”識(shí)別出來(lái)。這種識(shí)別基于人工智能技術(shù)的先進(jìn)算法，相比于人工識(shí)別，具有更加高效、準(zhǔn)確、客觀等優(yōu)勢(shì)。“必須指出的是，人工智能識(shí)別技術(shù)不能代替人工識(shí)別，應(yīng)該把二者結(jié)合起來(lái)，發(fā)揮各自的優(yōu)勢(shì)?！遍Z懷志說(shuō)。

雙舉措并施制止網(wǎng)絡(luò)暴力

網(wǎng)絡(luò)暴力給社會(huì)、個(gè)人帶來(lái)的危害可謂是有目共睹。為了讓“粉發(fā)女孩”的悲劇不再次發(fā)生，我們應(yīng)該采取技術(shù)與法律的雙重手段，有效制止網(wǎng)絡(luò)暴力。

“人工智能技術(shù)對(duì)于遏制網(wǎng)暴的最大作用，依賴于其強(qiáng)大的自然語(yǔ)言理解能力。”閆懷志指出。針對(duì)評(píng)論、彈幕等典型的非結(jié)構(gòu)化語(yǔ)言數(shù)據(jù)，人工智能可以利用情緒解析、文本觀點(diǎn)提取、詞法分析、文本相似度識(shí)別等技術(shù)，實(shí)現(xiàn)對(duì)網(wǎng)暴的全量、多維度、快速分析，并進(jìn)一步在此基礎(chǔ)上，弄清楚相關(guān)受眾在看待相關(guān)話題時(shí)的想法、情緒值與核心觀點(diǎn)，從而阻斷網(wǎng)暴傳播鏈的環(huán)節(jié)，最大限度降低網(wǎng)暴帶來(lái)的負(fù)面影響和危害。

除此之外，公共網(wǎng)絡(luò)空間平臺(tái)還應(yīng)該普及評(píng)論智能過(guò)濾、評(píng)論或私信動(dòng)態(tài)關(guān)閉、識(shí)別屏蔽惡意用戶等功能，有效遏制網(wǎng)暴問(wèn)題。同時(shí)，還可以利用人工智能識(shí)別技術(shù)，在對(duì)評(píng)論進(jìn)行大數(shù)據(jù)模型匹配和校驗(yàn)后，向違規(guī)發(fā)言者做出言論提醒，及時(shí)制止網(wǎng)絡(luò)暴力行為。

“網(wǎng)絡(luò)暴力行為實(shí)施者依其行為的惡劣程度，可能要承擔(dān)民事、行政和刑事責(zé)任。”陳磊指出。根據(jù)我國(guó)民法典的相關(guān)規(guī)定，網(wǎng)絡(luò)暴力實(shí)施者造成他人損害的，應(yīng)承擔(dān)侵權(quán)責(zé)任；如果其行為較為惡劣或者情節(jié)較為嚴(yán)重，則需要承擔(dān)相應(yīng)的行政責(zé)任；如果其以肉體暴力或者其他極端方法進(jìn)行網(wǎng)絡(luò)暴力，情節(jié)特別嚴(yán)重的，就需要承擔(dān)刑事責(zé)任。

陳磊進(jìn)一步指出，任何個(gè)人和組織使用網(wǎng)絡(luò)應(yīng)當(dāng)遵守憲法法律，遵循公共秩序和社會(huì)公德，不得利用網(wǎng)絡(luò)從事侵害他人合法權(quán)益等活動(dòng)。整治網(wǎng)絡(luò)不良行為亂象，需要行政監(jiān)管、互聯(lián)網(wǎng)平臺(tái)、網(wǎng)民等多方主體共同參與，合力凈化網(wǎng)絡(luò)生態(tài)，營(yíng)造積極健康、清朗有序的網(wǎng)絡(luò)環(huán)境。

關(guān)鍵詞： 雙管齊下