采访｜美国社会政策专家：人类和公民利益是“科技监管”大讨论的关键

法拉赫，西弗吉尼亚大学的公共管理和社会政策教授（Paolo Farah）。报纸记者 赵昀 图

他说：“这是利用(社交平台)匿名，乱用技术。这种犯罪行为是完全违法的。”

在最近爆发的韩国数字犯罪中，韩国总统尹锡悦作出了上述声明。

据韩国警方统计，韩国网上深度伪性犯罪数量激增。今年前7个月，韩国报告了297起类似案件，在2021年案件总数的基础上翻了一番。2023年，韩国有180起此类案件。

随着科学技术的飞速发展，利弊并存，其中一个全球性的问题就是控制，韩国最近的数字犯罪案例就是其中之一。

然而，如何在科技发展和社会之间保持稳定也是一个难题。经过三年多轮审议，欧盟《人工智能法案》于今年8月1日正式生效。该法案是世界上第一部全面控制人工智能的法律法规，这意味着欧盟在规范人工智能技术方面迈出了重要的一步。然而，亚马逊、Meta等公司认为该法案不利于科技创新。

美国西弗吉尼亚大学公共管理与社会政策教授法拉赫作为公共政策和法律的专家，（Paolo Farah）近日，在参加“中国现代化与世界未来”明德战略对话活动期间，本报接受了科技监管话题。（www.thepaper.cn）采访。

法拉赫说，在科技和社会上，控制可能很难保持稳定，但你不能什么都不做。至少，多方可以根据现有经验制定自己的科技监管政策。

科学技术的发展，要控制还是要创新？

澎湃新闻：你最近正在研究社会政策、技术和法律领域。在科技飞速发展的背景下，如何从社会政策的角度看待维持市场活力和科技公司创新的问题？

法拉赫：本人在这方面所做的工作，特别关注技术的概念化，技术是否有利于各国社会的整体状况。

重要的是评估这些公司是否以透明的方式推广技术。我不是在讨论开放获取或提供技术，而是(技术发展)对社会和技术的积极影响，这是社会发展的基础。比如我可以来上海，这是技术发展和沟通的结果。

自从互联网时代开始以来，每个人都有很多方便交流的机会。但是现在，有一种观点和更多的理解是，技术确实对社会有很好的影响，但也可能给社会带来挑战和风险。想想人工智能（AI）批评，AI可以是很积极的，也可以是对每个人都有问题。

如果我们发现自己面临着开放市场的考验，让科技公司保持创新，继续投资创新，这将给人们带来许多改进的机会。

但另一方面，当一些技术发展完成时，可能会给人类带来问题。这个时候，人类就会变得高度脆弱。在这种情况下我们应该如何应对？我们不应该在技术先进、科技公司富裕之前进行干预和监督吗？因此，有一种观点认为，监督和政策只有在技术发展之后才能颁布，法律和政策会试图赶上实施的技术。

所以在技术发展之前，我们是否应该做些什么？(欧盟)人工智能法案就是朝着这个方向发展的，试图在科技公司发展之前预测可能出现的问题。这是因为我们实际上在保护我们想要控制的社会中的人权和思想。在我们被私营部门的公司和市场、自由贸易、自由投资和自由技术的市场目标所支配之前，我们应该考虑我们想要什么样的社会。

因此，这是一个非常复杂的话题和讨论，因为一旦朝着不同的方向发展，就会对投资、信任、技术产生重要影响。

例如，美国科技公司Meta和亚马逊认为控制有害创新。但是，从监管的角度来看，不太可能考虑科技公司的这种想法或这些想法是否可以实现。

如果我们看看其它地方的法律法规，就会考虑到保密性和透明度的控制，数据和信息的传输。举例来说，在新的AI法规中，(欧盟)《通用数据保护条例》和AI控制之间的交接点是什么？我问自己，这些(法律法规)对行业和技术是积极的还是消极的，但至少对社会是积极的，因为(法律法规)掌握了(技术)。在这些领域，我试图研究技术对社会的影响，人类和公民是这个讨论的中心。

澎湃新闻：你刚才提到了风险，还提到有时候控制比创新晚。但是，另一方面，你认为监管会影响科技创新吗？

法拉赫：我真的这么认为这种影响可以是积极的，也可以是消极的。正如我所说，我们应该问的核心问题是控制是否过于严格，是否会限制技术创新的概率。所以(控制)规则要尽可能均衡，但有时候会很复杂。

在(科技)行业，这些企业实际上更喜欢失控。这些企业试图尽快发展，以防止法律法规出现在企业发展健全之前。因此，我认为监管会对发展、技术和创新产业产生负面影响。

但是什么都不做不好。如今，这种类型的技术已经发展到一定程度，可以影响社会，把社会引向一个方向。我认为我们需要小心控制它。

科技在一定程度上为公司提供了投资创新的概率，但同时(企业)要负责任、透明，估计潜在的负面风险。例如，一些科技公司因欧盟的《人工智能法案》和《通用数据保护条例》而受到批评。

我们需要观察和理解所谓的布鲁塞尔效应(让欧洲在全球科技竞争中保持知名度)是否会出现。因为欧洲市场太有趣太重要，不能完全排除，行业可以对此感兴趣。

但是我意识到我们必须做一些事情来保持对美国市场的兴趣。但是你在做什么呢？在这种情况下，行业和其他国家的阻力可能会迫使你改变和重新审视，我不确定。这是会发生的，但我们必须观察。

总的来说，欧盟颁布的法律法规已经做出了一定的改变和决定，这肯定会影响一些行业的投资或决定投资方式。

对我来说，最重要的是技术发展的方式是否考虑到我们仍然是一个由人类和公民组成的社会。因此，如果这项技术对每个人都有不利影响，那么我认为控制应该介入，甚至在研发被创建之前，我们需要控制它，并努力与行业保持开放的沟通渠道。但这并不意味着允许(行业)游说并试图将其引入另一个方向。

然而，试图收集信息，一些小的变化可以给行业的持续发展和创新带来重要而巨大的变化。这种平衡非常复杂。

法拉赫，西弗吉尼亚大学的公共管理和社会政策教授（Paolo Farah）接受《上海报》记者专访的报道。报纸记者 赵昀 图

相互学习经验，制定更加完善的政策

澎湃新闻：在类似的政策制定方面，比如欧盟有《数字服务法》，其他国家也在处理类似技术带来的问题。你认为不同的国家在制定自己的政策时，可以参考其他国家/组织现有的政策吗？

法拉赫：我相信是这样的。比如(不限于科技监管)，一般来说，中国根据中国的背景，制定了一些法律法规和政策，同时了解美国和欧盟的经验。这可能是基于竞争，也可能是基于与欧盟和美国同行的多年合作和交流，但这并不意味着中国已经完全复制了他们所做的事情。

因此，我认为欧盟在科技方面的监管可以是一个例子，其他国家可以参考(目前的法律法规)。这是在全球法律和政策层面工作的好方法。比如欧盟在一个领域做得很好，可以作为榜样。这意味着(其他国家)可以从这次经历中了解为什么(欧盟)做出了一些决定，并以特定的方式制定政策。

这种“交换”对于欧盟来说是非常积极的，因为在科技监管方面，会有中国、美国等国家。基于类似的监管政策，如有利于美国企业在其他国家进行交易和贸易。

对我来说，我认为政策和法规是一体的。从某种意义上说，有时候政策是第一位的，法律法规是第二位的，但有时候，法律法规是先颁布的，政策是解释和证明的。当我们讨论法律和政策时，国家之间需要有很多对话和交流，理解差异，并在特定方面密切合作。

根据具体的法律法规，我们尝试制定新的法律法规和政策，考虑到全球环境，我们认为中国应该做出最好的选择。这是中国多年来一直在做的事情。在此之前，中国一直走在某些领域的前列。

聊天机器人“不完美”

澎湃新闻：下一个问题与社交平台有关。你们有没有注意到，美国两党都试图通过社交平台争取选票？

法拉赫：我认为奥巴马当选美国总统时，其竞选活动已经广泛应用于广播和社交平台，然后是特朗普当选。近年来，社交平台不仅被用于竞选活动，还被组织和团体用于竞选活动之外的这些平台，试图支持某个学校。

我相信这在过去也发生过，但我不认为它会像现在这样产生如此大的影响。以剑桥分析公司为例，8700万脸书用户的信息被不当泄露给这家政治咨询公司，以便特朗普在2016年总统选举中获胜。扎克伯格(脸书首席执行官)也去国会山听证。

因此，我认为，这些问题必须在美国的政治环境中得到讨论和明确处理，因为它们可以使选举结果发生重要变化，即除了竞选活动之外的参与类型。

澎湃新闻：近来(社交平台)“X“美国总统拜登退选后，聊天机器人Grok发布了关于多个州投票截止日期的虚假信息。许多州已经要求“X"从社会政策的角度来看，整改，你怎么看？

法拉赫：这至少说明聊天机器人或者AI在这方面并不完美。很多其他的例子也证明了这一点:这是一种试图让客户开心的回复方式，更倾向于用户想要的信息，但这可能是一个错误的信息。如果你想传播一些(正确的)信息，你需要再次确认。

比如我们需要大量的信息来确定某个问题，消除它不可能的发展方向。就像我们参加这次会议一样，我们需要听到彼此之间的各种声音，这样我们就可以在不遗漏重点的情况下进行研究和平衡。一般来说，基于这些想法，聊天机器人和AI可以是额外的帮助。

正如我现在所看到的，科学技术还在继续发展，但是每个人都可以选择结束它。

比如未来，书可能就不存在了。网络上的一切都是信息。如今，聊天机器人对书籍进行了“攻击”。这种“攻击”是无法控制的，因为书籍可能被视为过去的代表。

我担心的是，这可能是一种趋势。比如你再也接触不到过去出版的书了，你还说现在可以在网上找到这些书了。确实如此，但是你确定网络版会和原版完全一样吗？会不会省略几页？

我只是说，如果我们最终完全相信聊天机器人，我们可能会出现这样的情况(类似于书本)。我认为一些强大的企业或行业可能会决定一些历史事件或情况，比如风险。

法拉赫，西弗吉尼亚大学的公共管理和社会政策教授（Paolo Farah）接受《上海报》记者专访的报道。报纸记者 赵昀 图

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com