2024年竞争秩序场：算法治理仍在路上，端侧AI带来新的隐私课题

竞争秩序，总是常说的新话题。尤其在新老产业更替的时候。

在过去的一年里，我们可以看到网络平台旧脚本的问题还没有解决，股票竞争中的差异越来越突出。人工智能带来的新故事也充满了安全和治理的欺骗。

从现在开始，我们将推出《2024》 年度竞争秩序场报告集中在电子商务、社交平台和端侧 AI 三个领域，从过去一年的典型案例入手，整理出竞争秩序的裂缝和演变。这不是解决问题的清单，而是抛出问题的地图:哪些秩序有裂缝？未来的市场格局将如何塑造？

一 实测六大社交平台：推荐系统大底？

推荐系统的多重难题

推荐系统的本质是内容分发，旨在提高信息分发的效率。2012 2017年，最典型的推荐系统商品今日头条诞生； 2008年，Tiktok引入了智能推荐算法。从星火燎原到火烧油，各大社交平台开始准确预测用户喜好，通过分析用户的历史行为、兴趣偏好和个性特征，构建信息流内容推荐系统。

就工作原理而言，目前的推荐系统主要由客户、项目、用户对项的操作行为三个要素组成。

简单理解，“客户”是指每个用户独特的兴趣特征、身份特征等。“项目”是用户与内容的相似性。比如算法会找到最类似于某个用户兴趣的群体，然后向他们推荐一方感兴趣，另一方没有接触过的内容；“操作行为”主要包括每个用户的点击、购买、观看和浏览数据。

在这些大数据的基础上，推荐系统可以越来越准确地“流行推荐”，引起越来越多的争议。争议点可以概括为客观上的“不安全”和主观上的“不安全感”。

一方面，推荐系统是平台提高用户粘性的主要竞争策略。它越能准确地向用户推荐符合自己喜好的内容，客户看到的信息就越单一。从长远来看，它可能会停留在算法结构的“过滤气泡”中。

此外，推荐系统越来越能“读人心”，但透明度没有实时跟进。面对新技术的艰苦创造，公众不可避免地会产生怀疑和不信任。

需要提到的是，也有不同的观点认为，平台在实践中有追求算法多样性的内在动力，因为用户可以消费更多种类的内容和产品，这对平台的商业实现更有利。在研究算法成瘾问题时，海外学者进一步发现，平台留住用户的最佳方式其实是“提供两个不感兴趣的内容，再提供三个感兴趣的内容”。这种间歇性的“内容奖励”会让人产生更多的胆碱，心理原理类似于“老虎机”的赌瘾过程，所以算法成瘾问题也值得关注。

评价：“算法透明”长路漫漫长路

为解决信息茧房和上瘾问题，2024 年 11 月，国家网信办发布了《关于开展清朗》 · “专项行动”网络平台算法典型问题治理的通知要求相当明确：禁止推送高度同质化的内容来诱导顾客上瘾。不得强制用户选择兴趣标签，不得将违法和不良信息记录在用户标签中并根据推送信息，不得超范围收集用户个人信息进行内容推送。设置“不感兴趣”等负反馈功能。

南财合规科技研究院结合专项整治需求， -21 世纪经济报道微信公众号，微博，抖音，快手，小红书，B 对站内推荐系统的合理性进行了评价，评价分为三个方面：算法可解释性、客户自主性、防沉迷措施。

就算法可解释性而言，目前只有微博对推荐内容给出了非常简单的解释。在“关注”页面上，如果你刷了一个纯粹由算法推荐的博客，顶部会有一个小字解释:看到这个内容是因为你关心的朋友。" xx 关注“或者你关心的朋友” xx 点赞了"。对于为何在众多内容中选择算法推荐这一条，并未给出更多维度的解释。不过，在抖音推荐页面上，如果朋友喜欢，会提示“ ×× 推荐"；对于朋友页面，可以看到关注朋友发布的视频。

同时，微博、抖音、哔哩哔哩都采用了类似的兴趣标签管理设计:长按一个内容，可以看到“减少” xx 顾客“减少” xx “降低频道” xx “标签推送”的选择在一定程度上解释了该内容在算法中的分类，也让用户更容易管理算法偏好。然而，微博和英里并没有设置统一的、全方位的偏好管理界面。

这就是客户在自动算法面前能掌握多少自主性的问题。评价发现，小红书、Aautorapper、Tiktok都有统一的标签管理界面，客户可以在这些页面中调整每个内容的算法推荐强度，并且有100种内容标签。

但是必须注意的是，这些标签管理界面的入口都隐藏得很深，比如抖音的点开步骤如下：Tab “我”→右上角的“设置”→“更多功能”→“使用管理助手”→"内容管理"，五步操作后方可进入最后页面，并且“使用管理助手”的名字也很难让普通人直观理解含义。相比之下，快手的"内容偏好设置"直接放在了侧栏。

近三年来，客户需要关闭“智能推荐”，这是一个反复提及的需求。将智能推荐的开关放入“隐私设置”中也是一种常见的做法，但评估中仍然有两个问题需要注意:第一，关闭入口隐藏较深，至少需要四次操作，几乎每次操作都需要拉到页面底部；第二，所有平台的个性化内容推荐和个性化广告推荐都需要分开关闭，甚至有些关闭按钮在完全不同的目录中。举例来说，在独立的“理解和管理广告推送”功能中，抖音的“个性化广告”。

最后，在防止上瘾的问题上，视频平台的措施相对完善——颤音和哔哩哔哩都有独立的时间管理功能，客户可以限制使用时间或为自己设置提醒。其他平台只有用户打开青少年模式后才能使用类似的功能。

二 实测多款 AI 移动电话：技术发展背后的蛰伏风险

行业现状：AI 注入新活力

继 2023 年创出 10 年度最低纪录之后，全球智能手机市场的下行趋势出现逆转。根据市场调研机构 Counterpoint 报告，全球智能手机市场 2024 年销售额同比增长 连续两年下滑后，4%首次迎来复苏。

对于未来，Counterpoint 还预测到，2025 2008年全球智能手机市场将继续增长，其中收益将增加 销售增长8% 前景好的4%。

数字客观折射的直观现状：2023 多年前，以手机为代表的消费电子产业已经低迷多年，各行各业的手机厂商在外观、芯片、续航等功能上下了很大功夫。

2022 年末 ChatGPT 爆红引发了人工智能的生成热潮，大型模型成为市场下注的趋势。随着技术的发展迭代，大型模型逐渐走向手机、汽车、智能产品等终端。AI 与端边的结合被认为是一个新的创新锚点，成为手机制造商刺激增长的抓手。

2023 从2000年开始，每个手机厂商都推出了自己的大模型。手机厂商布局大模型不是噱头，而是可以带来手机性能的提升和商业模式的创新。

终端大模型是指智能终端(如智能手机、平板电脑、PC、大型预训练模型在智能可穿戴设备、自动驾驶和身体智能等方面运行。实时、低延迟等。是端侧和侧侧 AI 最吸引人的优势。借助端侧大模型，客户的大部分数据处理都是在当地完成的，只有少量高计算能力需求的场景会调用云计算率，大大提高响应速度。

大模型落地在手机上有天然的优势。移动终端直接接触用户，拥有丰富的用户数据，可以与模型互动，提高模型性能，提升用户体验。

这个故事正是手机厂商新商业故事的开始，原来荣耀手机 CEO 赵明说，AI 移动电话的核心是基于计算能力的个人定制操作系统，“没有生成式。 AI 功能性手机叫做 AI 移动电话，未来 AI 移动电话是一款能够真正理解你的手机。

能看见，从 2024 从2008年下半年开始，各手机厂商推出新机型的主要卖点是 AI 智能身体，类似于大型身体，作为用户和数字世界的交互入口。比如用户只需要和智能身体聊天，就可以一键修图和转发文章到朋友圈；一句话，智能身体可以直接点外卖、出租车、购物。

在更广阔的未来，智能体将是您最忠实的助手和最熟悉的合作伙伴，了解客户，预测客户需求，提供人性化的服务和情感共鸣，拓宽业务界限。

当前市场预测证实了对智能体商业逻辑的肯定：最新的市场调查，预计到 2030 年，全球 AI 智能体市场的规模将会存在 2024 年 51 亿美元飙升至 471 年平均复合增长率为亿美元 44.8%。

隐私保护：AI 移动电话商业故事的开始

智能体的大型技术特性和功能定位决定了 AI 时代隐私保护问题的复杂性。

第一，信息是 AI “食粮”模型，AI 为了提高其准确性和性能，模型的建立依赖于大量的数据进行练习和优化。

第二，为提供更精确的人性化服务，必须对客户的行为习惯、偏好等信息进行收集和分析。

为了收集更多的个人数据，每个手机智能体还会嵌入“智能强化”等功能。比如荣誉 YOYO “个人记忆”将收集日程信息、交易数据和重要人物。 / 位置，纪念日信息；小布的意向感知服务将收集:定位信息、应用信息、屏幕照明状态、开关信息、运动健康信息(计步、睡眠)等。

另外，在运行 AI 任务之后，还需要足够的数据来处理和分析。这些信息可能来自手机内置的传感器、用户输入的信息和从云中获得的数据。

能够看见，AI 手机的功能必须“吞噬”大量的个人数据才能建立。因此，隐私保护已经成为所有商业故事的开始。如果隐私保护不到位，会直接影响客户的信任。

评价：我的隐私是否被滥用？

检测多款 AI 移动电话之后，一种明显的感觉是：隐私政策变得前所未有。

AI 时至今日，手机制造商不仅是功能汇聚的核心，也是数据流通的节点，隐私政策变得更加细腻，难以解读。

" AI 几乎每一个功能都会有一个独立的隐私政策，就像不同的功能一样。 App，对不同的模块负责，然后衍生出多个说明文件。

这种“分工明确”的隐私条款，一方面体现了厂商对数据保护的重视，另一方面也让客户一不注意就陷入了信息谜题，很难真正理解如何收集和使用自己的数据。

而且更令人担忧的是，手机厂商是否“挂羊头卖狗肉”，更难辫别。

南财合规科技研究院在实测过程中 -21 世纪经济报道发现许多地区与手机制造商的宣传不同，首当其冲的是端侧处理与云侧处理之争。

上面提到的，端侧 AI 大多数用户的数据处理都是在当地完成的，这就决定了端侧 AI 私密性方面的优势。荣誉宣传强调“端边” AI 智慧感受更加个性化、个性化、隐私保护。" vivo 还表面上说:“今年我们有十几个、几十个功能都是端侧化的，未来聊天、识别、决策、执行都可能是端侧化的。”

但是现实中，我们现在的国家 AI 移动电话的许多功能仍然高度依赖于云侧处理。

数据一旦上传到云端，隐私泄露的风险就会成倍增加。

聪明的厂商未雨绸缪地强调自己的数据保护方法：采用优先本土化(端侧)处理 加密云处理措施。虽然机制保证了安全，但数据云确实放大了数据隐私保护的风险，不符合端侧大模型的卖点。

另外，智能体对用户的反应，大多依赖于“识屏” 行业安全技术专家告诉模拟点击“技术路线” 21 《世纪经济报道》记者背后的技术逻辑大概是“无障碍权限”，这就引发了更深层次的问题。

无障碍权本身就是为残疾人提供无障碍支持，包括 iOS 的 VoiceOver(旁白)功能，Android 的 TalkBack 功能。但是近年来，无障碍权已经成为许多厂商钻空子的切入点，成为绕过用户授权的秘密通道。

比如自动抢红包 App、游戏自动插件等，均采用无障碍权限。和第三方 App 不同的是，智能体是手机厂商打造的超级助手，具有更接近技术体系的优势和更高的调用权限的能力，使得滥用无障碍权限的话题更加敏感。

在实测中，21 世纪经济报道记者发现 OPPO、vivo、在荣耀手机的隐私政策中，无障碍权限的表现还不够清晰。比如荣誉就是其“荣誉” AI · 在基本服务中提到的情景感知功能中，会动态地借助系统的无障碍功能，但是哪些具体操作在无障碍功能中并没有显示出来。

相比之下，OPPO 小布识别屏幕的隐私政策略显清晰。提到这个功能会调用无障碍权限防止意外触摸和阅读文章，但是在打开权限的时候没有要求用户明确授权。荣誉和 vivo 由于其表述比较模糊，不清楚哪些功能涉及到无障碍功能，所以在实际测量中无法确定是否询问客户。

对此，OPPO 回应 21 据《世纪经济报道》记者报道，无障碍服务只会用来帮助有困难的客户更好地使用智能产品。由于方便等一些客观因素，无障碍服务可以在不授权的情况下调用；然而，无障碍服务的应用前提仍然需要遵循用户隐私规范。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com