防变造检举 嘉市警研议AI抗AI

嘉义市议员郭定纬13日在市议会质询，秀出他和警察局长陈明志骑机车双载未戴安全帽的AI生成照做为范例，指近期有民眾怀疑遭AI变造照片检举交通违规，显见AI科技将对交通检举认定、犯罪侦防形成挑战，要求市警局加以因应。市警局回应，正研议导入AI侦测软体，以AI对抗AI，辅以人工判读，来确保执法公正性与正确性。

郭定纬指出，AI技术进步快速，除模拟声音、生成逼真照片与影片，让假讯息、假画面难分辨外，现AI技术已可生成全新画面，包含模拟天气、光影、角度，甚至制造出动态影片，包括行车纪录器画面等，在检举文化如此盛行下，一旦这类影像被不当使用在检举系统，将可能导致无辜民眾被误罚。

郭定纬说，虽警方尚未查获AI变造案例，但目前多以人工比对与檔案属性检查为主，现行制度恐不足以应对AI生成影像的挑战，建议市警局建立一套正式「AI影像真偽鑑定流程」，纳入科技化审查工具，以提升辨识效率与准确性。

市警局长陈明志说，交通违规检举有专责且严谨程序，会先由交通组审核，有状况再透过资讯室检测，另中央警政署也有偽造辨识机制，未来会精进审核技术，市警局民国115年到118年有编列2000多万元预算，提升人才和器材设备，盼议会支持。

警方私下表示，民眾如使用AI技术偽造、变造照片进行检举，将触犯刑法「偽造文书罪」及相关刑责，加上检举交通违规没有奖金，不符合成本效益下，一般人不太可能会变造或偽造影像来检举他人交通违规，毕竟只要当事人提出申诉，警方就能找到检举人。

另外，郭定纬也建议市警局在现行「AI智能巡警系统」基础上，加入影像真偽辨识功能，从「被动防假」转为「主动识假」与「智慧应用」。