您的位置:首頁>新聞 > 創投 >

網易行業首推AI巡邏員,多AI模型24小時護航未成年人暑期游戲安全 | 速途網 環球速看

2023-06-28 22:17:50    來源:速途網

自2021年游戲防沉迷新規落實后,未成年人玩家每周游戲時間被控制在3小時內,但仍存在部分未成年人使用各種手段繞過監管。暑假將至,未成年人防沉迷問題再次引發各界關注。

作為最早構建未成年人保護系統的游戲廠商之一,網易游戲連續第三年開展暑期未成年人保護專項,借助前沿AI大模型技術對未成年保護體系進行智能升級,行業首推AI巡邏員提高未成年風險行為識別準確率,為未成年人保護工作制定更加科學高效的解決方案。同時,網易針對暑期未成年上網安全教育、未成年相關黑產打擊等,強化與家庭、公安等社會力量的協同,不斷加固守護未成年人健康成長的屏障。


(相關資料圖)

系統智能升級,行業首推AI巡邏已識別超千萬未成年玩家

依托領先的技術研發能力與多年積累的未成年人保護工作經驗,網易游戲首推AI未成年保護巡邏技術,提高未成年風險行為識別準確率。據介紹,網易游戲這項AI未成年保護系統,是基于深度學習大模型開發,具備AI識別未成年保護系統、干預未成年玩家不理性消費模型、監控與打擊體系等多項技術體系,可24小時深度參與未成年保護工作的全流程,進行安全護航。

據調研數據顯示,違規登入游戲的未成年玩家主要是使用了成年人的賬號,AI巡邏員的第一項任務就是基于未成年行為精準判斷疑似未成年玩家,并進行行為干預。通過對未成年人的游戲行為進行多方面的大數據分析,網易AI巡邏技術能夠從玩家在游戲中的行為特征,來精準判斷疑似未成年玩家,第一時間攔截管控,并輔以人臉識別進行高效驗證。而針對疑似未成年人的不理性消費行為,AI巡邏員能夠做到提前預測,在消費發生前就介入干預攔截。

除了規范未成年人科學上網,網易游戲AI巡邏員在構建健康的未成年上網環境方面同樣發揮了重要作用。網易AI巡邏員專門配備了多維的監控與打擊體系,包括危害未成年不良信息AI識別模型、不良信息的過濾與隔離機制、未成年人社交風控模型、網絡黑手專項打擊等,以系統化且多維化的監管模式,嚴打網絡中的有害信息,據悉每月過濾不良信息超7300萬條,全方位構建綠色的網絡游戲空間。

據統計,試運行至今,AI巡邏員已成功辨別出使用成年人信息進行實名認證的未成年人超千萬并納入監管,干預上萬個未成年人使用成人賬號的高額消費,處理涉騷擾未成年玩家違規賬號8萬多個,實現未成年人保護工作各環節的提質提效。

這一系列智能化、動態化的精準防護背后,是網易游戲多年來對未成年人保護體系的持續升級。為了加速未成年人相關問題的處理,網易游戲成立了專為未成年人服務的部門“網易游戲未成年人保護中心”,下設防沉迷產品開發、網絡環境治理、網絡安全教育等工作組,系統構建了全新的未成年人保護機制,將保護工作提升到了前所未有的高度。

家企聯合管理,網易家長關愛平臺已助力超10萬家長高效監護

作為未成年人保護工作“最后一公里”的重要環節,家庭監護和教育的作用不容忽視。為此,網易游戲系統構建全新的未成年人保護工作機制,不僅在內部設立“網易游戲未成年人保護中心”,還搭建和不斷完善“網易家長關愛平臺”,幫助解決家庭管理的難點、痛點,也讓雙方的協同管理變得更為高效緊密。目前,網易游戲及125款產品官網、《蛋仔派對》等游戲的登陸界面均設置有“網易家長關愛平臺”入口,方便家長點擊直達,更快速找對渠道解決問題。

“網易家長關愛平臺”是網易游戲為高效幫助家長解決未成年游戲相關各類問題、科學管理未成年游戲行為而專設的平臺。家長可通過微信搜索公眾號“網易家長關愛平臺”,或在游戲官網、登錄界面直接點擊“家長關愛平臺”按鈕,即可登錄平臺操作,能夠隨時隨地通過手機查詢和管理孩子的游戲時間和消費情況,可以設置游戲禁玩、禁止消費,對孩子的游戲情況和行為直觀掌控;當遇到防沉迷、未成年騷擾、未成年詐騙等相關問題,也可以通過平臺咨詢投訴、尋求幫助。截至目前,網易家長關愛平臺已累計幫助超過10萬家長解決了孩子消費異常、時間管理、退款等問題。平臺還邀請了教育專家入駐,為家長與孩子的溝通教育提供更多建設性思路。

同時,網易游戲還設立了一個特殊的客服團隊——網易游戲未成年人保護團隊,快速響應解決家長在未成年游戲行為監管中遇到的問題。保護團隊在接收到家長關愛平臺上的相關舉報后,會以最快的速度查實情況,并與家長溝通解決問題,確保未成年人的網絡安全。并且,保護團隊還專門開辟了一條未成年人專線電話,全年無休在線,節假日時刻待命,第一時間傾聽家長的困擾,解決家長管理孩子游戲的各類問題。

社會協作聯合守護,“疏堵結合”實現保護工作多場景覆蓋

未成年人保護工作是一項系統工程,不僅是行業問題、技術問題、家庭問題,也需要社會各界共同投入力量。以企業為紐帶,網易游戲持續聯合社會各界力量,采用“疏堵結合”的方式,將未成年人保護和教育工作滲透到生活的多個場景。

一方面,網易游戲開展了多個治理專項,通過對網絡空間有害信息、灰黑產的阻斷和打擊,強化網絡防護。據悉網易游戲已對19個平臺維權下架租售網易賬號商品,并協助執法部門對違規售賣實名賬號的工作室進行嚴厲打擊;同時,聯合公安開展聯動打擊,對騷擾游戲內未成年人的黑手重拳出擊,并協助公安立案偵察。

另一方面,通過現實社會的教化和疏導,網易游戲致力于提升青少年網絡素養,讓他們真正形成自己的“免疫力”,能夠去偽存真,對網絡空間形成正確的價值判斷,形成自我保護意識。在線下,網易游戲聯合廣州市人民檢察院、荔灣區人民檢察院、荔灣區教育局舉辦以“未成年人網絡保護”為主題的“檢察開放日”活動;在線上,聯合廣州市檢察院共同打造公益直播視頻專欄,提升未成年人網絡安全素養,進一步強化科學、文明、安全上網的意識和能力。

據相關報告顯示,目前未成年人防沉迷保護相關規定對92%的未成年玩家形成了有效認知,有44%的未成年玩家認為,自己的生活在新規實施后發生了變化。可見,這項重大的事業已經取得階段性顯著成果。守護未成年人,就是守護社會的未來。當保護工作進入“最后一公里”,需要企業技術和體系升級提效、需要家庭監護和教育落到實處、也需要社會各界關切協力,進一步鞏固未成年人保護成果,讓守護的力量覆蓋每一位青少年。

關鍵詞:

相關閱讀