嘉义市议员郭定纬今（13日）在市议会质询时，以AI生成的「与警察局长陈明志骑机车双载未戴安全帽」照片开场，指近期有民眾怀疑遭AI变造照片检举违规，显见AI科技将对交通检举认定、犯罪侦防形成挑战，面对AI浪潮，问市警局准备好了吗？嘉义市警察局长陈明志回应，尚未接获明确AI偽造检举案件，会持续研究防偽辨识技术、加强人员训练。
郭定纬指出，AI技术进步快速，从文字、声音到影像生成都已普及化，过去诈骗多仰赖人力与话术，如今AI可模拟声音、生成逼真照片与影片，让假讯息、假画面更难分辨，10月已有警方在嘉义市破获AI变声诈骗机房，显示科技滥用问题日益严重。
郭定纬指出，AI的应用虽能提升效率，但若被恶意利用，将造成严重社会风险，他近期接到民眾陈情，表示开车被检举违规，怀疑照片是AI变造，尤其AI技术已可生成全新画面，包含模拟天气、光影、角度，甚至制造出动态影片，包括行车纪录器画面，如果这类影像被不当使用于检举系统，将可能导致无辜民眾被误罚。
郭定纬说，虽警方尚未查获确定案例，但目前多以人工比对与檔案属性检查为主，显示现行制度仍不足以应对AI生成影像的挑战，建议警察局应建立一套正式的「AI影像真偽鑑定流程」，并纳入科技化审查工具，以提升辨识效率与准确性。
陈明志回应，民国115年到118年有编列2000多万预算元，希望科技侦防能跟上犯罪脚步，而目前针对交通违规检举，主要由交通组先审核，有状况再透过资讯室检测，另中央警政署也有偽造辨识机制，未来如市警局的科技人才和设备都提升，可减少这类情形发生，盼议会支持预算。
郭定纬也建议市警局可在现行「AI智能巡警系统」基础上，加入影像真偽辨识功能，使AI辅助不仅能协助巡逻与侦防，更能自动侦测疑似造假画面。
郭定纬呼吁，警察机关应以前瞻态度迎接AI浪潮，将AI科技从「被动防假」转为「主动识假」与「智慧应用」，在保障民眾权益的同时，也能提升警政效率与科技执法能量。
发表意见
中时新闻网对留言系统使用者发布的文字、图片或檔案保有片面修改或移除的权利。当使用者使用本网站留言服务时，表示已详细阅读并完全了解，且同意配合下述规定：
违反上述规定者，中时新闻网有权删除留言，或者直接封锁帐号！请使用者在发言前，务必先阅读留言板规则，谢谢配合。