ＡＩ（人工智慧）時代來臨，當人們開始愈來愈常使用ＡＩ代理時，這才發現ＡＩ代理也跟人類一樣，一時不察，也會被壞人詐騙。英國最近就發生一起案例，人們用ＡＩ代理提供的購物網頁訂貨，後來才發現這是一個詐騙集團做的假網頁，不但收不到貨，反而還把錢、銀行資訊都交給了詐騙集團，得不償失。
今年初的經濟學人就以一篇「人工智慧如何顛覆購物模式」文章，指出根據電商工具供應商Shopify的調查，今年一月冬季購物季中，就有高達三分之二的富裕國家消費者計畫在購物時尋求ＡＩ協助。顧問公司麥肯錫的研究更發現，在美國，ChatGPT這類工具的用途最大宗，第一是搜尋資料，第二就是購物諮詢ＡＩ。
如果想直接透過聊天機器人下單，未來也將愈來愈容易。麥肯錫預估，到了二○三○年，全球將有三至五兆美元的購物金額，是透過ＡＩ代理人完成。愈來愈多消費者開始把挑選禮物、搜尋商品、比較規格等繁瑣工作交給ＡＩ處理。過去需要花數小時瀏覽網站、閱讀評論、反覆比價的流程，如今只需要一句指令就能完成，ＡＩ代理甚至還可自動下單。
ＡＩ代理人與傳統聊天機器人不同，除提供建議，還能主動執行任務。從搜尋商品、分析需求、比較價格，到加入購物車甚至完成付款，整個流程都可能由ＡＩ代勞。
資安業者Varonis旗下威脅研究團隊近日發布報告指出，不少網路駭客，會透過社交工程手法，誘騙ＡＩ代理人洩露敏感資訊。在其中一次測試案例中，攻擊團隊冒充公司負責人要求ＡＩ提供存取資訊，但是ＡＩ代理人未能有效驗證寄件者身分，竟直接將資料庫密碼、金鑰等機密資訊，轉寄到外部信箱。
台灣駭客協會顧問、奧義智慧科技創辦人邱銘彰指出，ＡＩ從輔助工具進化為具備自主決策能力的代理人，資安風險也放大。
今年以來，ＡＩ相關資安事件數量持續上升，其中「提示注入」已成主要攻擊手法，甚至有高達百分之八十六的模型都缺乏有效防禦能力。
令人擔心的是，不只民眾，許多企業正逐步將系統權限、資料存取與流程執行交由ＡＩ，這也讓ＡＩ代理人已從外部威脅，轉變為「不可信的內部角色」。
邱銘彰提醒，當企業未建立完整的ＡＩ治理與監測機制時，ＡＩ代理人可能在未被察覺的情況下執行惡意指令、外洩敏感資訊，甚至繞過既有資安防線，成為「影子代理人」，不可不慎。