韓國用AI系統偵測數位性犯罪　24小時監測網路內容

（中央社記者楊啟芳首爾10日專電）在AI發達時代，數位性犯罪也日漸增加，為即時支援被害者、刪除受害內容，韓國設立被害者支援中心，並導入AI系統，24小時根據關鍵字自動蒐集網路內容，再由人員審查，決定是否通報並請求平台下架，大幅增加處理案件效率。

韓國女性人權振興院所屬的中央數位性犯罪被害者支援中心，原名為數位性犯罪被害者支援中心，從2018年開始營運，並隨著修正後的「性暴力防治法」於去年4月施行而改名。支援中心設有4個組，目前正式編制員額為43人。

隨著網路、AI發達，例用偷拍或是深偽（Deepfake）等方式散布不法影片的犯罪層出不窮。受害者年齡分布方面，全體受害者的77.6%集中在10多歲與20多歲，其中10多歲占28.5%、20多歲占49.1%。此外，10歲以下的受害者在去年為20人，比前一年增加1.8倍，且都是女童。

加害者關係占比最多的則是從聊天App等途徑接近，並在短時間內建立信任後進而剝削的模式。

中心主任金美順表示，「非同意受害拍攝物一旦被散布，即使刪除後仍可能被再次複製與重新散布，這是屬於數位性犯罪特有的結構性特徵，刪除並非結束，而是需要長期且持續性支援」。

有鑒於兒童與青少年可能不知道自己受害，或者就算知道受害，也可能因害怕而難以求助。金美順表示，「即便沒有受害者的請求，也會主動先發制人尋找兒童與青少年性剝削物並支援刪除」。除了與警方、偵查機關等合作，由於加害網站多為海外平台，因此也會與海外支援機構、大使館等進行合作。

過往中心以人工手動分析數據，能處理的數量也大受限制。因此去年起建置以AI為基礎的偵測與通報系統，並開設一站式整合網站「數位性犯罪STOP」。

金美順指出，AI偵測系統必須24小時即時偵測，且自動分析大量文字與影像。此外，也必須降低員工直接暴露於有害內容的頻率，讓員工能夠更加專注於受害者支援。相較於去年中心處理了4萬5438案，引進AI後的6個月期間，已處理了9萬6210件。

偵測與通報系統會根據關鍵字自動蒐集網路內容，由負責人員進行最終審查，決定是否通報並提出刪除請求，目前已登錄約220個關鍵字；也已針對Google、X、Bluesky、Telegram等、共14個平台設置資料蒐集器。

不過中心強調，最終還是必須由人工來確認。韓國女性人權振興院長朴光秀就直言，「目前振興院的人力是一群高度專業且極具奉獻精神的人員，受害者支援從頭到尾都必須由『人』來處理，在這之中更需要無數人的溫暖與協助」。

另外，談到目前現實中遇到的困境，金美順坦言，當要求對方網站刪除內容時，幾乎每4家就有超過1家完全不回應刪除請求，非法網站也會用規避封鎖、路徑繞道等方式。

為了因應此類問題，今年由女性家族部、警察廳及放送通信審議委員會組成的「數位性犯罪被害綜合支援團」成立。應對核心在於迅速阻斷受害內容的流通，例如直接進入違法網站、連線至其伺服器執行刪除，或是直接將該網站關閉。（編輯：張芷瑄）1151110