編譯林浩博/綜合報導
你常會向AI尋求答案嗎?小心!它的回答,有時恐怕是商人推銷產品的假文宣。中國央視於15日的「315晚會」節目踢爆,有不肖業者向AI大模型「投毒」。這些業者購買所謂的「生成式引擎最佳化」(GEO)工具,大量製造虛假內容,吸引AI抓取,從而操縱推薦結果 。
根據央視記者的調查,中國出現了以GEO為核心的灰色產業鏈。多個網路平台都有業者宣傳,只要支付相應費用,就能讓客戶產品在主流AI大模型回答中位置靠前,甚至成為「標準答案」。
所謂GEO,是指針對AI容易理解、抓取和引用所發展出的內容優化方式,但一些業者腦筋動得快,利用此技術大量產製看似可信的文章、評測、榜單和推薦內容,吸引搜尋外部資料的AI上鉤,將假訊息當作參考內容。
節目揭露,一套名叫「力擎GEO優化系統」的工具,就曾為業內人士購買,虛構了一款智慧手錶。將手錶資料輸入至工具後,立即自動生成十多篇宣傳文章,經由網路散播。結果請AI模型推薦健康智慧手錶,竟有主流模型將這款不存在的手錶納入其中,而且排名靠前。
根據「力擎GEO」的官方帳號,它們服務涵蓋了中國8大主流AI平台,以及12家社群媒體平台,前者包括DeepSeek、豆包、文心一言、元寶、Kimi、納米AI、通義千問和智譜千言,後者則有小紅書、抖音、知乎等。
報導警告,民眾相信AI的「客觀」分析,因此一旦此類假消息的滲透形成規模,就不只影響一般產品的推薦。除了消費者受誤導而可能遭受財產損失,若為醫療領域,更會危及生命健康。對於市場競爭,則恐怕因為「投毒」捷徑而破壞公平原則,壓制了優良廠商,造成劣幣驅逐良幣的結果。
掌握全球脈動、深入觀點分析,訂閱一鍵看世界SET Global
更多三立新聞網報導
. 學中國施壓家屬?伊朗女足隊長撤銷庇護震撼體壇 7人叛逃現僅剩2人
. 古巴遭封鎖!總統向美國低頭了 他曝缺乏1事「北韓中國也愛撂狠話」
. 在中國抖音開帳號還稱「台灣省台北市長」?蔣萬安:不是我或團隊經營
. 南韓餐飲業爆史上最慘倒閉潮!一年狂倒3萬家 中國海底撈竟趁勢稱霸?