算法“黑箱”，已被盯上

有一段时间，我经常反思自己是不是“乡村风味”太重了。短视频平台总是给我推农村大妈八卦的视频，要么是媳妇抱怨婆婆凶狠挑剔，要么是婆婆注重儿媳懒惰贪婪。后来我才意识到，这些都是算法套路，因为这些家庭纠纷是最好的。挑起普通人的情绪，而且愤怒、躁动的情绪是流量的无尽源泉。

那些短视频博主也很清楚这个道理，所以网上到处都是“还有大事！”“家人笑不出来”开头的视频让人看了一会儿就觉得心跳加快。本来我拿起手机睡觉是为了放松心情，但是已经是半夜了。

毫无疑问，算法是一种更强大的生产力，它有一双洞察一切的双眼，和驱动一切大手，有时它比自己更了解你。但是就像倚天剑也是一把双刃剑，张三丰用和灭绝师用得太多，效果完全不同。

算法在大大提高效率的同时，也会“窥视”你的消费规律，然后偷偷加价，用大数据“杀熟”。它洞察人性的优势，知道什么会让人上瘾。通过消耗你的时间，你可以将你的注意力转化为它的商业价值。当它把提高效率作为第一目标时，送货员只能走过人群和红绿灯，以赶上压缩时间越来越短的送货时间。

这是一个长期受到批评的问题，已被盯上。最近，中央网信办等四个部门联合发布了《关于开展“清朗”的问题・“专项行动”网络平台算法典型问题治理通知，创建“信息茧房”、典型的问题，如非法操纵干涉榜单炒作热点、盲目追求利益损害新就业形式的劳动者权益、使用算法实施大数据“杀熟”等，都在纠正中。

事实上，人类社会自古以来就存在着通过思考人性的弱点来获得更多利益或试图强迫员工提高效率的现象。然而，在算法诞生之前，这只是个人和个人之间的智商游戏。无论一个企业的水平有多高，都不可能算计全世界的人。

但是有了大数据和算法之后，一切都不一样了，人工智能计算水平有了指数级的提高，这几乎能全方位计算出人们的所有行为。。在商业力量的帮助下，算法完全渗透到社会的每一个角落，普通人甚至很难意识到自己被算法操纵，这是非常值得警惕的。但算法发展到一定程度后，仅靠个人警惕是不可能“反算法”的，必须由主管部门从外部控制。

在这次专项行动中非常重要的一点是，要求平台公开算法原理。比如热搜榜要能说明新闻事件上的热搜是基于什么数据指标，杜绝“买热搜”和“炒热搜”。快递平台应公开配速时间估算、路线导航等算法规则，避免不合理压缩配送时间，让快递员工作更加从容。购票购物平台要明确说明新手享受了什么折扣，为什么老客户没有，杜绝“杀熟”。

平台还应及时总结算法是否有负面影响，并及时对算法模型进行安全评估，配合相关部门的监督检查。未来算法在社会运行中的作用只会越来越大，这是不可逆转的，对社会影响越深的“利器”，越应该放在大家的眼前。不要做任何人都不知道的“黑箱”。

归根结底，算法毕竟只是一种技术，技术是中立的，它扮演什么角色，全靠操作技术的人。所以，算法问题治理的落脚点，也在于网络平台本身的操作算法。这些“大工厂”每天都非常注重创造一个承担社会责任的形象。爱心捐赠当然是一个方面，但企业的社会责任更需要体现在其经营的业务给社会带来整体进步，让更多人的生活变得更美好，从头到尾贯彻积极的价值观。要做到这一点，关键在于在追求技术进步的同时，永远不要忘记技术必须“向上向善”。

社会不是巨型计算机，人也不是生产数据的载体。无论技术如何发展，技术都不能“异化”人，否则会被自我攻击。对于这一点，持有算法工具的人应该仔细思考和使用。

（文 / 于永杰）

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com