歐盟正式對美國科技大亨馬斯克旗下社交平台X展開調查,關注其人工智能聊天工具Grok是否被用來生成涉及真實人物的色情深偽(deepfake)圖像,並可能違反《數碼服務法》(DSA)相關規定。
歐盟委員會表示,調查將評估X是否曾向歐盟用戶展示「經操控的色情影像」,以及平台是否有妥善評估及緩解相關風險。若最終裁定違規,X或面臨最高相當於其全球年度營業額6%的巨額罰款,並不排除在調查期間施加臨時限制措施。
歐盟科技主權、保安及民主事務執行副主席亨娜.維爾庫寧形容,色情深偽屬「暴力且不可接受的貶損行為」,強調會審視X是否將歐洲公民、包括婦女及兒童的權利,視為科技服務下的「附帶損害」。愛爾蘭籍歐洲議會議員多赫蒂亦指出,對於X等大型平台是否有依法評估風險、防止非法及有害內容擴散。
是次歐盟行動,緊接英國通訊管理局(Ofcom)今年1月宣布的同類調查。監管機構及受害者團體普遍批評,有關功能「本不應存在」。X方面過往曾表示,已在部分司法管轄區,禁止Grok對人物照片進行「去衣」式數碼修改。
歐盟同時宣布,擴大去年12月已啟動的另一項調查,檢視X的推薦演算法是否構成系統性風險。據Grok聲稱,該工具在短短30日內已生成逾55億張圖像,引發外界對其監管漏洞的憂慮。