愈來愈多員工利用人工智慧(AI)技術製造假收據,採用這種老套伎倆來瞞騙公司,促使雇主也回過頭來運用AI技術,找出超出人類辨識能力、足以以假亂真的假收據。
英國金融時報(FT)報導,各大銷帳軟體平台表示,隨著OpenAI、Google推出新AI圖片生成模型,近幾個月大量出現以AI生成、再提交給公司的假收據。
軟體供應商AppZen表示,9月提交給企業的造假文件中,假AI收據占大約14%,去年的占比為零。金融科技(FinTech)業者Ramp表示,其新軟體在90天內,辨識出總價值破100萬美元的假收據。
銷帳管理平台Medius則指出,約30%受訪的英美財務人員表示,隨著OpenAI的GPT-4o模型在去年問世,已見到假收據數量跳增。
SAP Concur資深副總與產品行銷長朱諾說:「這些收據已逼真到我們跟客戶說『不要相信自己的眼睛』。」該公司是全球領先的銷帳平台,每月利用AI進行8,000多萬筆的合規檢驗。
OpenAI已表示,當使用政策被侵犯,或資料附屬資訊暗示圖片由ChatGPT生成時,會採取相應行動。
以往若要捏造假收據,員工需具備修圖技術,或付費透過網路平台取得這類服務。隨著免費圖片生成軟體的普及,員工只需透過簡單文字提示聊天機器人,分秒間即可生成一張假收據。
隨著假收據日益逼真、已超出人類辨識能力範圍,促使企業也尋求AI幫助,以找出假收據。這類AI軟體可掃描收據,查看資料附屬資訊,確認圖片是否由AI平台生成,不過,當用戶對AI生成圖片拍照或截圖後,就能移除這類資料附屬資訊。
為應對這種作法,企業會同時分析收據上傳時的伺服器名稱與上傳時間是否重複,藉此識別可疑的大量生成行為,並比對員工實際出差行程等背景資訊。
Ramp產品管理資深總監李凱文(音譯)表示,這項科技可鉅細靡遺地觀察所有情事,聚焦於人類總會出錯,在一段時間後漏洞終究會浮現。
SAP 7月的研究發現,近70%的企業財務長認為,自家員工正利用AI造假差旅支出或捏造假收據,約有10%受訪者篤定,這些欺詐行為正在公司內部發生。
舞弊稽核師協會研究總監威爾德說,AI生成假收據已構成企業的重大問題,如今人們可無障礙地捏造收據,不像五年前至少還需具備使用Photoshop的技術。