人工智能推薦演算法如何決定您在網上看到和購買的內容

幾乎每個主要的在線平台現在都使用人工智能驅動的推薦系統來決定向每位訪問者展示什麼。這些系統決定了Netflix主頁的順序、YouTube上排隊播放的下一個視頻,以及Amazon上「客戶也購買了」下列出的產品。公司對機制的描述不同,但基本方法遵循相似的模式:收集行為數據,將其與其他用戶的數據進行比較,然後按預測相關性對內容或產品進行排名。

根據平台本身的說法,這些系統如何運作

Netflix幫助中心表示,其推薦系統評估會員的觀看歷史、他們如何評分其他標題,以及口味相似的其他會員的模式——這種方法被稱為協作過濾。它還考慮了內容元數據,如類型、演員和發行年份,以及上下文信號,包括時間、設備類型和首選語言。Netflix明確表示該系統不考慮年齡或性別等人口統計信息。

YouTube官方的「YouTube如何運作」網站及其博客表示,推薦系統利用超過80億個信號,包括觀看歷史、搜索歷史、訂閱、點讚,以及用戶將視頻評分從一到五星的滿意度調查回應。只有四星和五星回應計入YouTube所謂的「有價值觀看時間」。該公司表示推薦主要出現在主頁和「下一個」面板中,對於新聞和信息主題,它旨在推廣來自其定義的權威來源的視頻,同時減少邊界內容的可見性,即使該內容可能會產生更多點擊。

Amazon公開記錄的推薦技術Amazon Personalize主要從「項目交互數據」生成推薦,即用戶在目錄中點擊、查看或購買項目的記錄。根據AWS文檔,該服務還可以包含項目或用戶屬性,如類型或價格,並支持包括「查看X的客戶也查看」、個性化搜索排名和目標營銷細分的用例。

為什麼這引起了監管審視

在歐盟,《數字服務法》對推薦系統施加了特定的義務。根據追蹤該法律實施的研究網絡DSA觀察所的法律分析,第27條要求平台以清晰的語言解釋其推薦系統使用的主要參數,並在存在多個選項時讓用戶調整這些設置。第38條對最大的平台進一步要求,至少要有一個不基於分析的推薦選項。DSA觀察所指出,在沒有詳細監管指導的情況下,平台對披露規則的解釋不一致,並且主要針對參與度——點擊、點讚、分享和觀看時間——優化的系統可能會造成超越簡單消費者煩擾的風險。

在美國,聯邦貿易委員會在2024年9月發佈了一份工作人員報告,該報告是在對九家社交媒體和視頻流媒體公司進行多年調查後發佈的。該報告得出結論,這些公司將用戶和非用戶個人信息輸入自動化系統,包括算法和人工智能,同時給人們幾乎沒有或沒有選擇退出如何使用其數據的能力。該機構還發現這些系統在公司之間的內部測試不一致。當時的FTC主席Lina Khan表示,基礎數據實踐「可能危害人們的隱私,威脅他們的自由,並使他們面臨一系列傷害,從身份盜竊到騷擾。」該報告建議國會通過全面的隱私立法。

平台對數據和限制的說法

開放的問題

平台通常將基於參與度的個性化呈現為一種便利,可幫助用戶更快地找到相關內容。專注於FTC報告和歐盟DSA的監管機構將相同的機制框架化為透明度和數據治理問題,指出用戶對行為數據的收集和重新使用的控制有限,以及對涉及的自動化系統的監督不一致。兩種描述都依賴於相同的基本事實:推薦引擎使用跨大型用戶群體比較的歷史行為數據對內容和產品進行排名,並隨著新交互的出現而不斷完善。