嘉義市議員郭定緯今（13日）在市議會質詢時，以AI生成的「與警察局長陳明志騎機車雙載未戴安全帽」照片開場，指近期有民眾懷疑遭AI變造照片檢舉違規，顯見AI科技將對交通檢舉認定、犯罪偵防形成挑戰，面對AI浪潮，問市警局準備好了嗎？嘉義市警察局長陳明志回應，尚未接獲明確AI偽造檢舉案件，會持續研究防偽辨識技術、加強人員訓練。
郭定緯指出，AI技術進步快速，從文字、聲音到影像生成都已普及化，過去詐騙多仰賴人力與話術，如今AI可模擬聲音、生成逼真照片與影片，讓假訊息、假畫面更難分辨，10月已有警方在嘉義市破獲AI變聲詐騙機房，顯示科技濫用問題日益嚴重。
郭定緯指出，AI的應用雖能提升效率，但若被惡意利用，將造成嚴重社會風險，他近期接到民眾陳情，表示開車被檢舉違規，懷疑照片是AI變造，尤其AI技術已可生成全新畫面，包含模擬天氣、光影、角度，甚至製造出動態影片，包括行車紀錄器畫面，如果這類影像被不當使用於檢舉系統，將可能導致無辜民眾被誤罰。
郭定緯說，雖警方尚未查獲確定案例，但目前多以人工比對與檔案屬性檢查為主，顯示現行制度仍不足以應對AI生成影像的挑戰，建議警察局應建立一套正式的「AI影像真偽鑑定流程」，並納入科技化審查工具，以提升辨識效率與準確性。
陳明志回應，民國115年到118年有編列2000多萬預算元，希望科技偵防能跟上犯罪腳步，而目前針對交通違規檢舉，主要由交通組先審核，有狀況再透過資訊室檢測，另中央警政署也有偽造辨識機制，未來如市警局的科技人才和設備都提升，可減少這類情形發生，盼議會支持預算。
郭定緯也建議市警局可在現行「AI智能巡警系統」基礎上，加入影像真偽辨識功能，使AI輔助不僅能協助巡邏與偵防，更能自動偵測疑似造假畫面。
郭定緯呼籲，警察機關應以前瞻態度迎接AI浪潮，將AI科技從「被動防假」轉為「主動識假」與「智慧應用」，在保障民眾權益的同時，也能提升警政效率與科技執法能量。
發表意見
中時新聞網對留言系統使用者發布的文字、圖片或檔案保有片面修改或移除的權利。當使用者使用本網站留言服務時，表示已詳細閱讀並完全了解，且同意配合下述規定：
違反上述規定者，中時新聞網有權刪除留言，或者直接封鎖帳號！請使用者在發言前，務必先閱讀留言板規則，謝謝配合。