比利時安特衛普大學的衍生公司Textgain擬打造首個能檢測網絡仇恨言論的人工智能(AI)應用程序,將覆蓋歐洲所有官方語言。
據《布魯塞爾時報》報道,Textgain首席執行官表示,其他大型語言模型如ChatGPT或Google Translate,是拒絕處理惡意言論的。Textgain的模型不僅能處理惡意語言,還可識別有害資訊,找出它們的具體內容、目標人群,並了解更深層的模式。「例如,我們監控足球運動員的社交媒體內容,有時他們互相調侃其實是一種樂趣,而真正仇恨言論的門檻要高得多。」
因擔心他人利用公司模型大規模製造仇恨言論,Textgain首席執行官認為應該採取保護措施,並決定不開源。Textgain還希望能與社交媒體公司和執法部門合作,打擊網上非法內容和虛假資訊。