Jak algorytmy rekomendacji AI decydują, co widzisz i kupujesz online

Prawie każda duża platforma internetowa decyduje teraz, co pokazać każdemu odwiedzającemu, używając systemu rekomendacji opartego na AI. Te systemy określają kolejność strony głównej Netflix, następne wideo w kolejce na YouTube i produkty wymienione w sekcji "Klienci kupili również" na Amazon. Firmy opisują mechanikę inaczej, ale podstawowe podejście następuje podobny wzór: zbierać dane behawioralne, porównać je z danymi innych użytkowników i klasyfikować zawartość lub produkty według przewidywanej istotności.

Jak działają systemy, według samych platform

Centrum pomocy Netflix stwierdza, że jego system rekomendacji ocenia historię oglądania członka, sposób oceny innych tytułów oraz wzorce innych członków o podobnych gustach — metoda znana jako filtrowanie kolaboracyjne. Bierze również pod uwagę metadane zawartości, takie jak gatunek, aktorzy i rok wydania, a także sygnały kontekstowe, w tym porę dnia, typ urządzenia i preferowany język. Netflix wyraźnie stwierdza, że system nie uwzględnia informacji demograficznych, takich jak wiek lub płeć.

Oficjalna strona YouTube "Jak działa YouTube" i jego blog stwierdzają, że system rekomendacji opiera się na ponad 80 miliardach sygnałów, w tym historia oglądania, historia wyszukiwania, subskrypcje, polubienia i odpowiedzi na ankiety dotyczące zadowolenia, w których użytkownicy oceniają filmy od jednej do pięciu gwiazdek. Tylko oceny czterech i pięciu gwiazdek liczą się do tego, co YouTube określa jako "cenny czas oglądania". Firma twierdzi, że rekomendacje pojawiają się głównie na stronie głównej i w panelu "Dalej", a w przypadku tematów informacyjnych i wiadomościowych stara się promować filmy z tego, co definiuje jako wiarygodne źródła, jednocześnie zmniejszając widoczność zawartości granicznej, nawet jeśli ta zawartość mogłaby w innym przypadku generować więcej kliknięć.

Publicznie udokumentowana technologia rekomendacji Amazon, Amazon Personalize, generuje rekomendacje głównie z "danych interakcji z elementami", czyli zapisów użytkowników klikających, przeglądających lub kupujących elementy w katalogu. Zgodnie z dokumentacją AWS usługa może również zawierać atrybuty elementów lub użytkowników, takie jak gatunek lub cena, i obsługuje przypadki użycia, w tym "klienci, którzy oglądali X, oglądali również", spersonalizowaną klasyfikację wyszukiwania i docelowe segmenty marketingowe.

Dlaczego przyciąga to uwagę regulatorów

W Unii Europejskiej Ustawa o usługach cyfrowych nakłada określone obowiązki na systemy rekomendacji. Artykuł 27 wymaga od platform wyjaśnienia w prostym języku głównych parametrów, które wykorzystują ich systemy rekomendacji, i umożliwienia użytkownikom dostosowania tych ustawień, gdy istnieje wiele opcji, zgodnie z analizą prawną DSA Observatory, sieci badawczej śledzące wdrażanie ustawy. Artykuł 38 idzie dalej dla największych platform, wymagając przynajmniej jednej opcji rekomendacji, która nie jest oparta na profilowaniu. DSA Observatory odnotowuje, że platformy niekoniecznie spójnie interpretowały przepisy dotyczące ujawniania w przypadku braku szczegółowych wytycznych regulacyjnych, i że systemy zoptymalizowane głównie dla zaangażowania — klikania, polubień, udziałów i czasu oglądania — mogą stworzyć ryzyka wykraczające poza zwykłe niedogodności konsumenckie.

W Stanach Zjednoczonych Federalna Komisja Handlu opublikowała raport personelu we wrześniu 2024 r. w wyniku wieloletniej kontroli dziewięciu firm mediów społeczniowych i przesyłania wideo. W raporcie stwierdzono, że firmy te wprowadzały osobiste informacje użytkowników i osób niebędących użytkownikami do zautomatyzowanych systemów, w tym algorytmów i AI, przy jednoczesnym udzieleniu osobom niewielkiej lub żadnej możliwości rezygnacji z tego, w jaki sposób ich dane były wykorzystywane. Agencja stwierdziła również niespójne wewnętrzne testowanie tych systemów w obrębie firm. Ówczesna przewodnicząca FTC Lina Khan powiedziała, że podstawowe praktyki dotyczące danych "mogą zagrażać prywatności ludzi, zagrażać ich wolnościom i narazać ich na szereg szkód, od kradzieży tożsamości do nękania". W raporcie rekomendowano, aby Kongres uchwalił kompleksowe ustawodawstwo dotyczące ochrony prywatności.

Co platformy mówią o danych i ograniczeniach

Otwarte pytania

Platformy na ogół przedstawiają personalizację opartą na zaangażowaniu jako wygodę, która pomaga użytkownikom szybciej znaleźć istotną zawartość. Regulatorzy skupieni na raporcie FTC i ustawie o usługach cyfrowych UE utrzymali tę samą mechanikę jako problem przejrzystości i zarządzania danymi, wskazując na ograniczoną kontrolę użytkownika nad tym, jak dane behawioralne są zbierane i ponownie wykorzystywane, oraz na niespójny nadzór nad zaangażowanymi zautomatyzowanymi systemami. Obie linie opisu opierają się na tym samym fakcie podstawowym: silniki rekomendacji klasyfikują zawartość i produkty przy użyciu historycznych danych behawioralnych porównywanych w obrębie dużych populacji użytkowników, stale udoskonalanych w miarę pojawiania się nowych interakcji.