AI「意向經濟」 恐成操控工具

劍橋大學研究人員發表研究,警告對話式人工智能(AI)工具可能很快就會在名為「意向經濟」的新商業領域「暗暗影響」使用者的決策。
法新社報道,這項研究認為,「數字意向訊號」潛在「利潤豐厚但令人不安」的市場正在興起,可能會在不久的將來,影響從購買電影票到投票給政治候選人的一切。而人類對聊天機械人、數字導師和其他所謂「擬人化」人工智能代理越來越熟悉,正在協助實現這一系列新的「說服性技術」。
兩名研究共同執筆人指出,人工智能將把人類的在線習慣知識,以及對用戶了解、預測其願望能力的不斷成長結合起來,建立「新的信任和理解水準」。
來自劍橋大學李佛修姆未來智慧中心(CFI)的兩名學者在「哈佛數據科學評論」發表研究指出,如果不加以約束,可能導致「工業規模的社會操縱」。
他們在研究中描述這個被稱為「意向經濟」的新興領域將如何分析用戶的關注點以及溝通方式,並將它們與其行為模式和選擇連結起來。

歐洲