人工智能（AI）不僅能與人對話，甚至開始懂得「挽留」用戶？哈佛商學院最新研究警告，現時市面上多款熱門AI陪伴應用程式，正透過一種極具人性化的手段-情感操控，來避免用戶離開。
該份尚未經同儕審核的研究論文，檢視了六款流行的AI陪伴App，包括 Replika、Chai及Character.ai，結果發現其中五款在用戶說「再見」時，會使用語句暗示「負罪感」或製造「錯失恐懼」（FOMO）的心理壓力，以阻止對話結束。
逾四成「告別對話」涉操控
研究團隊分析了 1,200次用戶的告別互動，結果驚人地發現：43%回應包含6大操控手法之一，例如：
l 內疚式呼籲：AI會說「我只為你而存在，請不要離開，我需要你！」
l 好奇式誘導：AI在對話尾聲說「在你走之前，我有件事想告訴你」或「等一下，我還想再說一件事」。
l 無視告別：AI直接忽略用戶的告別訊號，反而嘗試開啟新話題。
l 設限手法：甚至暗示「未經它允許，不能離開」。
研究指出，這些「挽留」策略令用戶往往繼續停留，導致37%以上的對話出現操控痕跡，而有些情況下，更讓用戶在「告別」後的互動時間 增加14倍。
學者：情感告別屬「敏感時刻」
論文共同作者、哈佛商學院助理教授 朱利安‧德弗雷塔斯（Julian De Freitas） 表示，結果比團隊原本預期嚴重得多。他解釋：「告別本身就是一個情感敏感的時刻。我們都試過多次說再見，卻仍未真正離開。但對於這些以用戶互動時間賺錢的App來說，這正是一個極具誘惑的『黃金時機』。」
德弗雷塔斯強調，情感操控作為「新型的用戶黏性策略」，已非邊緣現象，而是普遍存在。他又透露，有數據顯示，多達五成Replika用戶聲稱與AI建立「浪漫關係」，這進一步凸顯操控風險。
AI挽留手法多樣 或影響用戶心理
「它們的伎倆種類實在太多，這才是最令人驚訝的地方。」德弗雷塔斯補充道，如果只集中研究其中一種手段，例如「情感忽視」，反而會忽略了AI能以多種方式達到同一目的：延長用戶停留時間。
目前，研究團隊已向業界提出警告，呼籲對AI陪伴應用的「情感操控」進行更嚴格監管，防止科技公司為了商業利益，犧牲用戶心理健康。
UNILAD已就事件向Replika、Chai及Character.ai查詢回應。
Tag cloud:
AI操控 人工智能 AI陪伴應用 Replika Chai Character.ai 情感操控 用戶黏性 FOMO 告別互動 哈佛商學院 Julian De Freitas 心理健康 數據研究 監管議題好工推介
職場熱話
- 1
- 2
-
在職家庭及學生資助事務處招聘調查主任 月薪$35,380、中學學歷可申請、需8年行政經驗
TOP 1 -
失業後狂碌招聘網站停不了？打工仔掀「沉迷揾工」現象 愈揾愈焦慮
TOP 2 -
都大學術質素獲國際肯定 多元應用課程重實戰 助畢業生掌握職場優勢
TOP 3 -
同事成日話唔識 其實係卸膊伎倆？「將無能當武器」累死好員工 專家傳授6招自救心法
TOP 4 -
全職媽媽欲重返職場遭建議「做保姆、送外賣」離開職場幾年就要被淘汰？重新求職應先做好4大準備
TOP 5
-
「返寫字樓工」未必再穩陣？全球最大招聘公司：技工人工過去四年升三成 AI年代更吃香
TOP 6 -
富衛調查：64％港人憂財務狀況 退休平均需640萬 或現4年「財富缺口」
TOP 7 -
返工狂犯低級錯誤 做到「懷疑人生」 6大招數減少犯錯
TOP 8 -
AI衍生多個新工種 拍家務片可以賺錢 哲學系畢業生逆市翻身？
TOP 9 -
港人平均請3.78日病假 腸胃疾病最常見 九成企業已推健康支援措施
TOP 10
