作茧自缚，困锁其中，听着就挺郁闷吧？不少人都有这经历。

比如岛叔刚念叨“今天做点啥选题呀，想得头发都掉了”，视频APP立马推荐“要想治脱发，就用xxx”；一个手滑不小心，APP就天天给推荐“这几个生活习惯会致癌”；刚在这个界面刷到某个商品，转头购物APP疯狂给你推送……

这是典型的被算法控制。最近，国家网信办公布新规，专门管理“互联网信息服务算法推荐”。

（图源：央视）

一

算法推荐，大家不陌生，通过抓取用户数据、分析喜好，实现精准推送。

这能提高推送效率，但易使人局限在固定领域，无法获取全面客观的信息。若不慎点了违法不良信息，还可能被平台打上标签，类似推送接踵而至：虚假广告、小道消息、香艳八卦、“科普”伪料……管他真假高下，只管“投其所好”。

算法推荐背靠海量数据、精密计算，投用户所好，把他们吃得死死的。不加甄别，很可能吃亏：有人惨遇假郎中，有人被平台“杀熟”，还有人中了假明星的招……

视频网站上，“当红明星”一张俊脸，话语痴缠：“我没有等风没有等雨就是在等你”。屏幕这端心旌摇荡，屏幕那侧，“点一点小红心”“买个贵妇霜吧”。

有人不接受洗脑，却逃不开算法控制。比如困在系统里的外卖骑手，在平台算法与数据驱动下，骑手配送时间被压缩，被迫超速、逆行、闯红灯；岛妹曾看到骑手摔倒在地，匆匆抹去头上血痕，继续送餐。路人劝他去医院，他说“要超时了”。

算法简化了红灯与路况，不考虑排队和电梯升降时间，所谓冷峻理性背后，是走向极端的效率经济导向。有学者说，“把决定权交给机器，有很大的公平可靠性风险”。由此细思，被困在系统里的何止外卖小哥？

更严峻的还有安全问题。如果算法如脱缰野马，假新闻、针对性政治谣言、煽动性恐慌信息等，很容易带来“舆论战”“认知战”等风险，不得不察。

（图源：央视）

二

越来越多人看清算法的影响，直言“自己不想被控制”。北京大学互联网发展研究中心2021年发布的报告显示，7成受访者认为算法能获取使用喜好并“算计”自己，5成受访者则称“被算法束缚，想逃”。

本次出台的管理规定抓住了许多要害。比如针对饭圈乱象、“互撕”“控评”，新规要求不得利用算法操纵榜单、控制热搜，干预信息呈现。要知道，长久以来，深谙“流量可变现”的明星团队热衷于炒话题、引骂战、精神控制粉丝，给网络增添一股子拜金、暴戾气息。要扶正走歪的价值取向，必须在算法中搭建平和稳健的筛选标准。

又如，现在零工经济蔚然成风，劳动者权益保障提上日程。外卖骑手、专车司机、家政阿姨等群体，就常在订单和好评间打转。有家政阿姨弯腰忙碌、饭也来不及吃，在系统催促下奔赴另一家；有处长体验了一天网约车司机之后感叹，“这钱挣得也太不容易”。

新规指出，应建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，保护劳动者取得报酬、休息休假等合法权益。同时，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等。

新规还特别提到两类群体：未成年人和老年人。前者甄别能力有待提升，易沉迷于网络或受不良信息熏染；后者因信息不对称，屡遭网络诈骗蒙蔽。因此，规定要求，不得向未成年人推送影响其身心健康的信息，不得用算法推荐服务诱导其沉迷网络；要充分考虑老年人出行、就医、消费需求，提供智能化适老服务，开展涉电信网络诈骗信息监测、识别、处置，助老年人安全用网。

作为新技术，算法本身并非洪水猛兽，关键看能不能用好，能不能发挥其提升效率、调配资源乃至精准化服务的优势，规避、约束其负面外溢效应。

中国数字经济发展正迎来新周期，此时对算法进行规范管理，有利于平衡技术设计与公序良俗，引导“算法向善”，破除信息茧房、算法黑箱等积弊，最终维护社会公共利益、保障国家信息安全。

说到底，人是“目的”而非“手段”，不应成为技术的奴隶。如何科学、精细、高效地把算法关进“笼子”，是信息时代无法回避也亟待破解的一道新难题。

文/云中歌

来源：侠客岛微信公众号

责编：赵宽、张婧妍