星期六, 28 11 月, 2020
23.4 C
Taiwan
更多
    更多
      Home 科技新聞 AI人工智慧 網友留言殺死了16歲美少女!IG毛起來用人工智慧打擊網路霸凌

      網友留言殺死了16歲美少女!IG毛起來用人工智慧打擊網路霸凌

      是什麼讓 Instagram 毛起來,導入人工智慧打擊網路霸凌圖文?其實 IG 上線初衷原本是倡導素人攝影用,但是用戶自有想法,加上族群以學生居多。學生滲透力極強,讓 IG 被濫用為校園流言與霸凌的集散地。他們霸凌的方式有:開假帳號張貼對方醜照、散播惡意圖文、謠言等。


      人工智慧打擊網路霸凌!IG 使用 AI 攔截惡意圖文

      因此 IG 被質疑是助長青少年自殺的工具。極端的例子像是如 2018 年,馬來西亞一名 16 歲少女 Davia Emilia 於 Instagram 發起一項投票活動,詢問網友:「這很重要,請幫我選擇死亡還是活下去。」結果,有 69% 的網友投票要她去尋死。少女不久後即從 3 樓跳樓自殺。報導稱,少女曾患抑鬱症,生前曾在臉書貼文表示「我想離開這令人疲累的生活」(WANNA QUIT F**KING LIFE I’ M TIRED),可能因病症發作自殺。


      網路霸凌死者Davia Emilia
      ▲ 在 IG 上被鼓勵去尋死,最後真的跳樓自盡的 16 歲少女 Davia Emilia

       

      同年在日本熊本,一名女高中生的照片被人盜用開假帳號,還發了邀請給這名女生的親友們,之後再利用這個假帳號貼上一些猥褻的圖片以及文字,偶爾還會從她本人的 IG 偷圖片以及文字,貼在假帳號上。女高中生雖然屢次向 IG 提出檢舉,但只要一個假帳號被關掉,就會出現另外一個假帳號。女孩在身心俱疲以及常被人誤會的情況下,選擇用自殺來解決問題。

      還有更多的網路霸凌事件層出不窮,美國 Pew 研究中心去年調查,72% 的美國青少年擁有 Instagram 帳號,其中 59% 曾遭受網路霸凌。為了防止霸凌事件再發生,IG 導入人工智慧,能自動偵測惡意圖文,並將相關貼文轉送到 IG 官方團隊進行人工審核。


      IG的AI會自動偵測霸凌言論並且發言者再三思考
      ▲ IG 的 AI 會自動偵測疑似霸凌的言論,並在用戶發文前會先再三確認

       

      讓用戶自己隱藏,讓他的言論消失在你的親友圈中!

      雖然 IG 的人工智慧能自動偵測霸凌言論,但是 AI 也是要經過一段學習過程才會知道哪些字跟惡意霸凌有關,難免有漏網之魚。因次 Instagram 推出的另一項功能,就是讓用戶可自行隱藏掉特定人的言論,且不會被那個發言者發現。


      IG 可讓用戶自行隱藏來自霸凌者的所有發言
      ▲ IG 可讓用戶自行隱藏來自霸凌者的所有發言,讓發言只能被霸凌者自己看到

       

      不同於封鎖用戶功能,被隱藏掉的特定人士依舊能在你的貼文上留言、進行其他活動等,但不會被其他人看見他的發言,只有他自己能看見。另外,這位被限制的用戶也無法看見你的即時動態,更不能知道你是否讀過他的私訊、言論等等。

      Instagram 負責人亞當.莫賽里(Adam Mosseri)在今年 4 月底舉辦的 F8 開發者大會上,就表示目前他們的焦點在於解決霸凌問題上。如今推出的新功能,可說是兌現了當初的承諾。杜絕霸凌是條漫長的過程,這次推出的新功能,不過是這條漫漫長路上的兩小步,未來他們也將繼續投入解決霸凌問題,並會有更多後續更新。