چگونه الگوریتمهای توصیه شده هوش مصنوعی تصمیم می‌گیرند که چه چیزی را ببینید و بخرید

تقریباً هر پلتفرم بزرگ اینترنتی اکنون تصمیم می‌گیرد که برای هر بازدیدکننده چه نمایش دهد با استفاده از یک سیستم توصیه مبتنی بر هوش مصنوعی. این سیستمها ترتیب صفحه اصلی Netflix را، ویدیویی که در بعدی YouTube منتظر است، و محصولاتی که تحت "مشتریان همچنین خریده‌اند" در Amazon نمایش داده می‌شود، تعیین می‌کنند. شرکت‌ها مکانیزم را به طرق مختلفی توضیح می‌دهند، اما رویکرد بنیادی از یک الگوی مشابه پیروی می‌کند: داده‌های رفتاری را جمع‌آوری کنید، آن را با داده‌های سایر کاربران مقایسه کنید، و محتوا یا محصولات را بر اساس ربط پیش‌بینی‌شده رتبه‌بندی کنید.

نحوه عملکرد این سیستمها، طبق نظر خود پلتفرم‌ها

مرکز کمک Netflix بیان می‌کند که سیستم توصیه آن سابقه تماشای یک عضو، نحوه رتبه‌بندی آن‌ها برای عناوین دیگر، و الگوهای سایر اعضایی که سلیقه‌های مشابهی دارند را ارزیابی می‌کند - روشی که "فیلتر کردن همکاری‌ای" نام دارد. همچنین متادیتای محتوا مثل ژانر، بازیگران و سال انتشار، به علاوه سیگنال‌های زمینه‌ای نظیر ساعت روز، نوع دستگاه و زبان ترجیح‌داده را در نظر می‌گیرد. Netflix به صراحت می‌گوید که سیستم اطلاعات جمعیت‌شناختی مثل سن یا جنس را در نظر نمی‌گیرد.

وب‌سایت رسمی YouTube "چگونه YouTube کار می‌کند" و وبلاگ آن بیان می‌کنند که سیستم توصیه بیش از 80 میلیارد سیگنال را استفاده می‌کند، شامل سابقه تماشا، سابقه جستجو، اشتراک‌ها، لایک‌ها، و پاسخ‌های به نظرسنجی رضایت جایی که کاربران ویدیوها را از یک تا پنج ستاره رتبه‌بندی می‌کنند. فقط پاسخ‌های چهار و پنج ستاره به آنچه YouTube "مدت تماشای ارزیابی‌شده" می‌نامد کمک می‌کنند. شرکت می‌گوید که توصیه‌ها عمدتاً در صفحه اصلی و درپنل "ویدیوی بعدی" ظاهر می‌شوند، و برای مواضیع خبری و اطلاعاتی هدف آن ترویج ویدیوهایی از آنچه به عنوان منابع معتبر تعریف می‌کند در حالی که دید محتوای مرزی را کاهش می‌دهد، حتی وقتی این محتوا ممکن است کلیک بیشتری تولید کند.

تکنولوجی توصیه موثق Amazon، Amazon Personalize، توصیه‌ها را عمدتاً از "داده تعامل مورد"، یعنی سوابق کاربرانی که روی موارد در فهرست کلیک می‌کنند، آن‌ها را مشاهده می‌کنند یا می‌خرند، تولید می‌کند. طبق مستندات AWS، خدمة می‌تواند همچنین مشخصات مورد یا کاربر مثل ژانر یا قیمت را شامل کند، و موارد استفاده شامل "مشتریانی که X را مشاهده کرده‌اند همچنین مشاهده کردند"، رتبه‌بندی جستجوی شخصی‌شده، و بخش‌های بازاریابی هدف‌داردو را پشتیبانی می‌کند.

چرا این مورد نظارت نظارتی را جلب می‌کند

در اتحادیه اروپا، قانون خدمات دیجیتالی تعهدات خاصی را بر سیستمهای توصیه تحمیل می‌کند. ماده 27 نیاز دارد که پلتفرم‌ها، به زبان ساده، پارامترهای اصلی را که سیستمهای توصیه‌شان استفاده می‌کنند توضیح دهند و به کاربران اجازه دهند این تنظیمات را زمانی که گزینه‌های متعدد وجود دارند تغییر دهند، طبق تجزیه‌وتحلیل قانونی از رصدخانه DSA، شبکه تحقیقاتی که اجرای قانون را ردیابی می‌کند. ماده 38 برای پلتفرم‌های بزرگ‌تر بیشتر می‌رود، که به کمترین یک گزینه توصیه‌ای نیاز دارد که بر بندی پروفایل مبتنی نیست. رصدخانه DSA توجه می‌دهد که پلتفرم‌ها قوانین افشاء را در غیاب دستورالعمل‌های نظارتی جزیی به طرق متناقضی تفسیر کرده‌اند، و سیستمهایی که عمدتاً برای نشاط بهینه‌شده‌اند - کلیک‌ها، لایک‌ها، اشتراک‌ها و مدت تماشا - می‌توانند خطراتی ایجاد کنند که فراتر از مزاحمت ساده مصرف‌کننده است.

در ایالات متحده، کمیسیون تجارت فدرال گزارش کادری را در سپتامبر 2024 منتشر کرد پس از تحقیقی چند ساله در نه شرکت رسانه اجتماعی و پخش ویدیویی. گزارش نتیجه‌گیری کرد که این شرکت‌ها اطلاعات شخصی کاربران و غیرکاربران را در سیستمهای خودکار، شامل الگوریتمها و هوش مصنوعی، تغذیه کردند، در حالی که مردم کمتر یا هیچ توانایی انصراف از نحوه استفاده از داده‌های خود را ندادند. آژانس همچنین آزمایش درونی ناسازگار این سیستمها را در سراسر شرکت‌ها یافت. رئیس سابق کمیسیون تجارت فدرال لینا خان گفت که شیوه‌های داده زیربنایی "می‌تواند حریم خصوصی مردم را به خطر بیاندازد، آزادی‌های آن‌ها را تهدید کند، و آن‌ها را در معرض یک میزبان آسیب‌ها قرار دهد، از سرقت هویت تا تعقیب." گزارش توصیه کرد که کنگره قانونی جامع حریم خصوصی تصویب کند.

آنچه پلتفرم‌ها درباره داده و محدودیت‌ها می‌گویند

سؤالات باز

پلتفرم‌ها عموماً شخصی‌سازی مبتنی بر نشاط را به عنوان راحتی نشان می‌دهند که کاربران را کمک می‌کند محتوای مرتبط را سریع‌تر بیابند. تنظیم‌کنندگان تمرکز بر گزارش کمیسیون تجارت فدرال و قانون خدمات دیجیتالی اتحادیه اروپا نفس مکانیزمها را به عنوان مسئله شفافیت و حکومت‌داری داده، اشاره به کنترل محدود کاربر بر نحوه جمع‌آوری و استفاده مجدد داده‌های رفتاری، و نظارت ناسازگار بر سیستمهای خودکار درگیر. هر دو خط توضیح بر همان حقیقت بنیادی تکیه می‌کند: موتورهای توصیه محتوا و محصولات را با استفاده از داده‌های رفتاری تاریخی مقایسه‌شده در جمعیت‌های کاربری بزرگ، و بهبود مستمر با تعامل جدید رتبه‌بندی می‌کنند.