Meta 的新“系统卡”让 Instagram 的人工智能算法不再那么神秘

周三，Facebook 和 Instagram 的母公司 Meta 在一次虚拟活动中宣布，它将利用人工智能功能为其未来的元宇宙平台和现有的一系列应用程序提供一系列任务，例如通用翻译和新一代人工智能助手。一款可以提出建议和设置提醒的早期数字助理已经开始在 Meta 的视频聊天设备 Portal 上推出。

随着新的人工智能技术项目的推出，Meta 还通过一种名为“系统卡”的新解释工具，努力展示人工智能在幕后的工作原理。

Meta 在昨天的一篇博文中表示：“AI 为个性化、推荐和排名等后端服务提供支持。但对于日常用户和其他人来说，理解 AI 的运作方式和原因可能很困难。我们的目标是改变这一现状。”

[相关：深入了解TikTok看似无所不知的算法]

人工智能模型可用于执行各种任务。例如，Meta 的图像分类模型旨在预测图像的内容，但它们也可以检测和标记有害内容，或为推荐系统提供支持，以显示特定用户可能感兴趣的帖子。除此之外，不同的模型可以在任何给定系统中交互并协同完成任务。

这些新的系统卡将展示人工智能系统如何使用个人在应用程序上的互动历史、偏好和帐户设置等信息来构建一个模型，该模型可以告知用户在应用程序浏览过程中帖子的显示顺序。Meta 解释说，它“旨在深入了解人工智能系统的底层架构，并帮助更好地解释人工智能的运作方式”。

Meta 的试点系统卡将尝试展示 Instagram 如何对其信息流进行排序。Meta 在其博客上的幻灯片动画中介绍了人工智能模型对用户信息流中的帖子进行排序的不同步骤。首先，用户关注的帐户中所有未看到的帖子都会经过预先排序过滤系统，该系统会删除违反 Instagram 社区准则的内容。

[相关： Instagram 现在允许您管理“敏感内容”。以下是使用方法。 ]

然后，模型会收集帖子的属性，并将其与您与帐户互动的频率等信息整合在一起，以预测您对该帖子点赞、保存、点击、分享或评论的可能性。它会根据此为每篇帖子分配一个数值概率分数。分数较高的帖子比分数较低的帖子出现得更早，而较新的帖子会提升到时间线的顶部。该过程适用于普通的照片帖子、视频、视频卷轴、购物帖子和关注的主题标签。第三方事实核查人员会将包含“错误信息”的帖子降级。

该系统还将应用一般规则，在信息流中推广各种媒体类型、作者和内容的帖子。例如，这些规则告诉系统“同一帐户连续显示的帖子不得超过三篇”。在系统卡工具网站上，公众可以通过假设的用户资料进行互动练习，了解各种组件在实践中的应用情况。该工具似乎以 Instagram 高管 Adam Mosseri 去年 6 月撰写的一篇较长的解释性帖子为基础，该帖子试图阐明 Instagram 算法的工作原理。

经过数月的监管审查，Meta 推出了提高其应用程序算法透明度的新举措。

[相关：以下是 Instagram 向国会承诺将做出的所有改变]

立法者提出了一系列立法提案，目的是要求互联网平台充分告知用户其服务如何使用他们的个人数据。据Axios报道，去年 11 月，众议院立法者提出了《过滤气泡透明度法案》，要求平台提供不根据个人数据选择内容的服务版本。2 月初提出的一项参议院两党法案旨在推动对各种平台设计的影响进行更多研究。本月提出的另一项参议院法案将迫使社交媒体公司向联邦贸易委员会等消费者保护机构报告其算法实践。

Meta 的旗舰应用程序 Facebook 最近对其信息流进行了重新命名，据The Verge报道，此举可能是为了回应人们对其算法排名内容可能产生的有害影响日益增多的批评。

但 Meta 也承认，在向普通受众解释 AI 系统如何运作时，系统卡能做的事情非常有限。Meta 在博客中指出：“单个系统卡对每个看到它的人来说可能并不具有相同的相关性，因为我们会继续为用户测试新的体验。”此外，该公司辩称，“我们的某些系统卡中的信息太多，可能会让恶意行为者获得足够的系统或模型知识，从而对其进行逆向工程”，这可能会危及产品的安全性，并可能损害用户。