如何远离算法之“算计”？——新规之下的网民算法素养调研.docx

如何远离算法之“算计 ？新规之下的网民算法素养调研被调查者占比其中，一度活跃于“饭圈”的“数据粉”就是依靠与算法的“你来我往”试图影响信息排序的一群人。“数据粉”群体通常 通过组织信息点击和发布，对偶像的作品点赞、带话题转发等， 提高相关内容的热度，从而影响算法，令与偶像相关的内容跻身 更显著的位置，高调抢占群众注意力。借算法平台谋取红利的“栖身式共存”。“以前我只选感兴 趣的内容创作，但有一次偶然剪辑制作了 一部爆款影视剧介绍， 流量特别好，自此以后我开始琢磨怎么才能更火。”余家豪是一 名业余的视频网站内容创作者，受和他类似感受的牵引，越来越 多的MCN （多频道网络）及自媒体创作者全心“栖身”于算法主 导的内容世界，迎合代码规那么、抓住流量密码、实现商业变现， 构成了算法化生存的另一种模式。调研中，在“是否主动迎合推 荐机制发布内容”的回答中，选择“是”的比重超过三分之二。 调研也发现，局部内容生产者不惜使用“三俗内容” “打擦边球” 等方式迎合算法准那么。反思：走出算法困境究竟难在哪里？平台价值观嵌入算法程序，增加了普通个体发觉偏见的难 度。调研中，接受访谈的算法工程师表示，算法并不是绝对客观 中立的技术，数据采集的范围与平台的市场意图等都会写进代 码、影响样本分布或数据集，从而将“倾向”与“立场”嵌入程 序设计中。对于普通用户而言，由于算法本身以数字、公式的方 式呈现，具有“技术无意识”的特征，因此，个体更难发觉和追 溯价值偏见的源头。例如以“流量至上”为代表的畸形的内容评 价体系就是算法逻辑潜移默化作用的结果。算法设计方与社会公众之间存在知识鸿沟，导致算法难以被 理解和诠释。按照行业惯例，大局部算法设计者并不会将运算的 细节公之于众，算法存在着看不见的“黑箱”。长期以来，这种 不透明的机制被看作是“自然化”的存在，很少有人去质疑其合 理性，严重影响了社会对算法的监督。算法工程师与其他社会主 体之间缺少公开而持续的算法解释环节，建立相关的多方算法沟 通机制迫在眉睫。算法使用者处于弱势地位，加剧了个体维权难题。调研组发 现，真正了解算法运行机制的人并不多，仅有43.0%的人认为自 己熟悉算法，更多被访者表示自己对算法“一知半解”“知道又 好像不太熟悉”。在我国当下有关媒介素养的教育中，“算法素 养”培育仍然缺位。欧盟委员会于2020年开始呼吁成员国各国 培育公众对算法系统功能及其影响的意识和素养。开展算法治理的配套措施和机制尚未到位。作为日常技术， 算法深刻改变了人们的生活，但社会尚未跟上算法开展的步伐。 换言之，技术的开展并没有完善的“基础设施”来配套。同时， 算法行业的伦理意识尚显薄弱，缺少行业自治的伦理标准。有关 算法推荐信息服务的管理规定虽然已经出台，但是与之相配套的 治理算法的体制机制、保障措施还有待完善，整个社会对算法开 展“协同共治”的气氛意识和参与渠道，都需要持续探索、切实 推进。未来：全面提升算法素养，与规定形成互补规定出台让自上而下的算法治理有了法理依据，但在自 下而上的算法素养提升方面仍有较大差距，需从以下方面着手开 展相关工作。融通多元渠道，上好全民的“算法普及课”，形成社会共识 与知识共享，打破“算法崇拜”。算法思维不仅应用于算法领域, 也在更广泛的层面上影响着实践。增强算法思维，一方面要深入 理解算法逻辑，提高运用计算思维、数据思维分析和解决问题的 能力；另一方面，要防止走入“算法崇拜”的误区，着力培养算 法素养与人文素养兼容的新思维。如今，系统化的算法思维教育 仍然缺位，亟须全民共上“算法普及课”，补上算法思维教育的 缺口。2018年起，算法相关课程已写进高中“新课标”，未来 还需增加中小学算法课程，“从娃娃抓起”培养算法思维；加强 算法科普读物与影视作品创作，以文化产业助推算法思维教育； 建立算法思维评价指标体系，推动算法思维教育科学化开展。将提升算法素养与现有消费权益、隐私权益、特殊人群权利 保护体系“有效对接”“精准匹配”，构建向上向善的算法传播 格局。配合规定对透明性、可解释的算法规那么的要求，基于 公开的算法机制，增强用户对算法过滤信息的区分力，同时加强 对热点排序等功能的人工干预；在应对“隐私危机”方面，树立 个体信息保护意识，厘清个人普通信息与个人敏感信息边界；在 个人信息输入页面设置隐私泄露提醒，防止盲目泄露个人信息； 加强隐私权相关案例的媒体报道，树立公众维权意识；加强理性 消费、公平消费等知识宣传，开通差异化定价投诉渠道，明确奖 惩机制，严格整治“大数据杀熟”等侵犯消费者权益行为，帮助 群众避开“消费陷阱”。构建“主流价值观+行业伦理+公共监管”的协同治理体系， 强化算法问责，营造合法规、有情怀、可追溯的算法开发环境。 算法素养主体既包括算法使用者，也包括算法开发者。提升算法 开发者的算法素养，更需要多元协力、携手共治。应追踪互联 网信息服务算法推荐管理规定等法规的实施效果，对违规应用 算法技术的企业进行处分、约谈等，实现刚性约束；在行业内广 泛开展对算法伦理的宣传与讨论，加强主流价值观的行业内宣 传，将社会公德和职业道德引入行业价值体系，实现柔性制约； 催促互联网行业建立实践层面的操作规范，着意防范“算法偏见” “算法歧视”等现象，从开发设计环节追求算法公平，实现技术创新与伦理之间的平衡；推进算法开发过程公开化、透明化，引 入公众监督，营造依法、审慎、道德的行业环境。（执笔人：北京市习近平新时代中国特色社会主义思想研究中心特约研究员毛湛文、记者白雪蕾；调研组其他成员：赵安琪、 聂一丹、于昊、季芸、代宁）（2022 年）完全不困比20%不太811t 40%图片为光明图片/视觉中国使用软件前必须签订隐私条例局部钦件强制使用手机权限不认为侵犯瞰中立认为WB 了咏用户对侵害隐私的感知情况图片为光明图片/视觉中国编者按3月1日,家互联网信息办公室等四部门联合发布的互联网信息服务算法推荐管理规定（简称规定）正式实施。规定对算法推荐服务做出全面规范，明确了算法治理体制机 制，科学构建了网络平台问责体系o随之启动的2022年“清朗算 法综合治理”专项行动,要求催促整改算法不合理应用带来的“信 息茧房”“算法歧视”“大数据杀熟”等问题。上述新规及举措 是在数字化变革时代对算法治理的有效回应。在“与算法共存” 的时代中，网民作为网络行为主体，如何提升自身的算法素养, 远离算法之“算计”，更加平安自主地享受网络生活？鉴此，光 明日报联合中央民族大学调研组，进行了问卷调查（有效问卷 912人次）及深度访谈，就个人用户的使用体验，梳理了算法化生存中的困境、挑战及具体应对表现，并就如何提升算法素养提 出建议。“以前总是被安排看到自己'想看'的内容，关闭个性 化推荐后，感觉看到了更广阔的世界。”“开了推荐，网购平台 似乎比我更懂我，总让我忍不住买买买；不开吧，又怕错过合适 的商品。”“关闭推荐之前，常刷到的短视频总让我欲罢不能， 有美妆教程、精致生活，关闭之后刷到的竟是情景恶搞、土味情 话我赶紧又默默翻开了个性化推荐。”随着规定发布，抖音、微信、淘宝、百度、京东、微博 等App均已上线“个性化推荐”一键关闭功能。然而，调查中部 分用户对于“个性化推荐”关不关表示纠结：有人觉得关闭后“打 开了新世界的大门”，也有人觉得关闭后降低了用户体验，难以 适应。从疫情防控中的行程追踪到智能出行中的路况计算，从符合 口味的资讯内容到满足个性喜好的商品推荐大数据时代，须 臾不可离的算法已广泛渗透到社会各个层面，成为人的“技术伴 侣”。我们需要算法的存在，享受它所带来的便利；同时又要对 其带来的控制和其他风险有足够的识别与对抗能力。调查结果显 示，有56. 9%的受访者认为算法程序提升了电子产品使用体验， 但北京大学互联网开展研究中心发布的中国大平安感知报告 (2021)也显示，70%的调研对象担忧个人喜好与兴趣被算法 “算计”，50%表示在算法束缚下想要逃离网络、远离手机。隐忧：身处算法社会，我们正遭遇哪些困境?潜藏在算法推荐之下的“差异化待遇”。3月初，北京市消 协发布的互联网消费大数据“杀熟”问题调查显示，其在调查了 16个平台、提取了 32个模拟消费体验样本后发现，有14个样 本新老账户的价格不一致。调研发现，用户与算法平台之间存在 着鲜明的“信息沟壑”，平台掌握着算法的模型公式和呈现规那么, 通过对信息筛选标准的个性化设计，以及对其他平台的“数据跟 踪”，让用户处在信息金字塔的底端。精准推荐的背后来自平台 对个人数据的标签化运算，进而是将用户消费能力划分为“三六 九等”，形成算法歧视。算法歧视不仅损害用户利益，更会激化社会的原有偏见。调 研发现，新闻推送中的女性、老年人等弱势群体更容易受到人们 的关注，有68. 7%的受访者认为“女司机”“女大学生”等带有 性别指向的词汇更容易上热搜，性别议题更易激起讨论。平台利 用“用户画像”和“贴标签”区别个体、扁平化用户，强化现实 生活中的刻板印象，可能引发社会舆论。无处可逃的信息收集与“隐私威胁” o热播的黑色幽默短剧 大妈的世界中有这样一段情节：广场舞大妈们正发愁买什么 颜色的演出服，此时王大妈随口说了一句晚上吃西红柿炒蛋，并 拜托杨大妈去接“熊猫班”的外孙，结果手机购物App就分别给 她推送了红黄相间、黑白配色的衣服。平台以“偷听”的方式窃 取数据用以计算用户的偏好，再“突袭式”地进行信息推荐，己 引起普遍关注。调研中多位被访者表示，置身于平台与算法联手 建立的系统中，被“偷听”已成“家常便饭”。很多企业、App、 第三方机构在共享用户的个人信息之际，试图掌控更多的个人隐 私。访谈中，不少用户表示，浏览器总能“记住”其搜索历史并 且同步到其他设备上，在首页反复推送搜索过的同类内容，让人 有一种“被泄密”的不安感。基于收集个人信息的算法推荐服务带来的困扰不止于此。一 方面，不当的推荐表现在“量”上，过多同质化的内容形成了信 息冗余，容易使个体产生心理疲劳与隐私焦虑；另一方面，算法 推荐的“度”也常常超出应该推荐的内容范围，色情、低俗等有 违主流价值观的内容常常被置入开机页诱导用户点击。被算法过滤与掌控的“渐进式依赖”。“平时吃饭、遛娃我 都会找App上排序靠前的餐厅和游乐场”，31岁的二胎妈妈孙 颖表示，依靠应用平台推荐虽然也“踩过雷”，但这样的选择对 于她而言更省时省力。互联网时代，不少网民越来越多地将事物 的优劣判断交给算法。算法凭借着“优先”“分类” “联想”“过 滤”等机制在很大程度上建构了 “人们在互联网上的感知与现 实”。调查显示，超六成的受访者会根据平台的排名、评分等数 据做出个人决策，尽管他们并不认同排名靠前的商品或内容一定 是更好的。调研还发现，不少提供算法推荐服务的平台，更是通过将相 关内容放在突出位置、屏蔽其他平台链接等方式，实现“入口垄 断”与“自我优待”。这些平台在热搜榜、首屏、弹窗等重点环 节，通过设置关键词、定向推送等方式将特定内容推至榜单前列, 暗中控制人们可关注的信息范围。72. 1%的被访者认为平台会推 荐与自身兴趣相似的内容。当人们习惯由平台供应信息时，有可 能陷入算法设置的“过滤气泡”中，人委身成为数据的“附属品”, 渐渐丧失接触多元信息的机会。应对：从“逃避”到“栖身”的用户生存之道从对“大数据杀熟”的诟病，到对“信息茧房”的熟知，普 通用户在强势的算法技术应用面前，不得不选择以妥协的方式忍 受算法带来的种种问题。调查中，超过半数受访者表示自己意识 到了平台或商家对个人信息的收集，但如果不勾选“用户知情同 意书”，就无法使用软件所提供的功能。让渡隐私来换取服务， 成为普通人与算法共存时“无奈而自洽”的心态。然而，在“受 制于算法”的大多数情形之外，仍有不少用户选择同算法“斗智 斗勇”，规避算法的消极影响。善用“反追踪”策略的“数字隐身”。大学生高宇是社交平 台的“重度用户”，在和算法推荐日复一日的相处中，她练就了 一身“躲避”算法的本领：“我每次在首页刷到不想看的内容就 会'以迅雷不及掩耳之势'划过。”此外，她还在同一个社交平 台注册了 “小号”，“大号用来追逐热点资讯，小号用来发日常, 这样不想看到相关内容的时候就有个地方可以躲'了"。当下，身处各类默认设置协议中的普通个体，开展出多元的 “算法回避”策略。他们或更换手机号码、建立多个账号，以此 迷惑算法；或采取不点赞、不发表、不评论的方式，减少在互联 网中的数字痕迹；或因不喜欢某些软件的推荐机制而选择关闭或 停用，直至寻求到算法友好的替代性产品；或想方法关闭手机收 音功能，从硬件设备端对可能的算法监听予以阻隔。这些方式呈 现出共性的算法化生存之策一一“断连”与“隐形”。然而，调 研中许多用户表示虽然可以远离算法软件，却无法躲避算法思维 的连锁反响。调查显示，只有54. 9%的人认为这种逃避产生了效 果，霸王条款、偷用隐私、强行定位等情况依然难以靠个体力量 得到缓解。“因地制宜”投喂算法的“反向规训”。依据算法情境“因 地制宜”地制定使用策略，主动探究算法运作的规那么与思维方式, 通过意图鲜明的点赞、收藏、点击“不感兴趣”等行为设置自主 偏好，甚至在感兴趣的帖子下留言称“大数据请记住我，多向我 推送这样的（帖子）”调研发现，局部用户选择以主动“喂 养”的方式寻求与算法的相处之道。