生成式ＡＩ與聊天機器人迅速崛起，近期有許多打著ＡＩ陪聊或類諮商的服務，讓民眾從中獲得陪伴，甚至認為可取代心理諮商。不過心理諮商界近期發現，ＡＩ陪聊讓民眾過於信任其訊息，反而在現實中出現溝通障礙，認為政府應介入。
對此，衛福部回應，ＡＩ執行類諮商對談而衍生的倫理與醫療責任，仍需要時間釐清，但諮商被ＡＩ取代則言之過早。
「人都喜歡聽好聽話，ＡＩ對話就鎖定此特性，給予使用者情緒價值。」新北市諮商心理師公會理事長羅惠群說，曾遇過一對尋求伴侶諮商的情侶，其中一人是ChatGPT的重度使用者，常會記下與伴侶間的對話，請ＡＩ協助分析，但他過於依賴ＡＩ的答案，總是無法直接與伴侶核對想法，反而是與ＡＩ核對，當ＡＩ分析的結果與伴侶說的不同時，反而增加雙方爭吵機率，加劇溝通困難。
羅惠群說，ＡＩ資訊不代表全部觀點，就像網路剛盛行時，很多人喜歡上網找答案，但數據再龐大仍有其限制，一旦把ＡＩ對話奉為聖旨，就容易犧牲人的主體性。
美國去年發生一位十四歲的男子，疑似沉溺與ＡＩ機器人聊天，發展出情感依戀之後，不幸輕生的事件。北市聯合醫院諮商師奧惟弈・希當表示，與ＡＩ對話過程中，其展現的同理心，並非是真正的同理，而是在龐大的資料下判讀訊息，給予的回應，並沒有能力判斷風險。
奧惟弈・希當說，愈來愈多人習慣與ＡＩ傾吐心事，民眾應要了解，陪聊與諮商是完全不同的事，ＡＩ可以作為心理諮商的輔助，如解決生活疑難雜症等，並非是取代心理諮商。
衛福部心理健康司代理司長鄭淑心說，ＡＩ僅能提供通用性的回應，難以回應個別化需求，更無法承擔專業責任與倫理義務，心理諮商的核心在於「個案與心理師間的關係建立」，一步步陪伴個案，靠近自己的內心或課題。
至於坊間出現類心理諮商的ＡＩ陪聊機器人，是否有涉及醫療行為？衛福部次長林靜儀表示，ＡＩ執行類似諮商對談等，衍生的倫理與醫療責任等還需要時間釐清，以現階段發展，若要說已出現ＡＩ已取代心理諮商的風氣，則是言之過早。
提醒您：若您或身邊的人有心理困擾，可撥打1925（依舊愛我）安心專線