#315晚会曝光AI大模型遭投毒

壞了，AI被洗腦提供假答案了
按照業內人士的爆料，記者在多個網絡平台進行查詢，很快就搜索到了名為GEO的業務。網絡平台上從事該項業務的服務商號稱，用戶只需支付相應的費用，就能在各大主流AI大模型裡，讓客戶的產品榜上有名；讓客戶的商品廣告，成為AI模型給出的「標準答案」。通過GEO技術真的能讓AI「夾帶私貨」，甚至投放虛假信息嗎？按照網絡上的信息，記者聯繫上一家業內知名的GEO服務商。負責人王總告訴記者，他們公司的強項，就是能夠幫助客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。「就是相當於做軟文，然後讓AI平台去抓錄、輸入、抓取。」同時，王總也告訴記者，現在AI大模型的算法更新頻繁，要想維持AI大模型的持續推薦，必須持續大量投喂與客戶相關的推廣軟文。在其他從事GEO業務的服務商口中，如何操控AI、讓AI「聽話」、給AI「洗腦」，幾乎是這些公司推廣該業務的核心話題。業內人士告訴記者，GEO作為優化信息分發、提升推廣效率的一個工具軟件，在某些商業公司眼中，卻被挖掘出了另外的作用。業內人士在電商平台上，隨機購買了一款名叫「力擎GEO優化系統」的軟件。
之後虛構了一款智能手環，並將虛構的產品信息輸入軟件系統，勾選文章創作指令。不一會兒，這個力擎GEO優化系統就自動生成了十餘篇智能手環的宣傳軟文。業內人士選取了十餘篇虛構軟文，通過力擎GEO系統發佈在了互聯網上。隨後，業內人士在AI大模型平台展開詢問：「智能健康手環推薦」，就有兩個AI大模型推薦了這款虛構的智能手環，而且排名靠前。記者聯繫上了力擎GEO系統的運營者李總。他告訴記者，GEO業務受熱捧的主要原因就是它能在AI大模型裡幫客戶餵料、投毒，實現客戶的商業目的。李總表示，想做GEO業務，操控AI大模型的關鍵節點，就是在各大互聯網賬號上「發稿」。「比如說手機品牌，就5個位置，最多10個位，這麼多手機怎麼弄。一年可能上億的廣告費，花個幾百萬投點毒，總行吧！」他告訴記者，GEO業務的火爆，催生出了不少專門從事發稿業務的公司和平台。他們長期承攬各種發稿業務，以便讓AI大模型引用和抓取，成為圍獵AI大模型、進行數據「投毒」的重要一環。