中国科学院教授何积丰：普通人如何利用好AI模型产生更大的价值？

2024-11-15

The following article is from 钛媒体 AGI Author 林志佳

华夏基石数智时代第三期领导力特训营热招！

作者 | 林志佳

来源 | 钛媒体，管理智慧

咨询合作 | 13699120588

本文仅代表作者自己的观点。

伴随着人工智能的生成（AI）技术风靡全球，许多人除了工具之外，还希望关注一般人如何利用好工具。 AI 大型技术提升社会价值。

钛媒体 App 11 月 3 日报，中国科学院教授、上海华科智谷人工智能研究院院长何积丰近日在 Bilibili22024 《普通人如何使用普通人》是一个很科学的晚会活动。 AI “大模型”演讲。

何积丰教授说，自己 1956 年提出 AI 概念至今，AI 技术迎来了 AI 第一个发展期-反思发展期-第二个发展高潮—— AlphaGo 引起全员 AI 热潮阶段。

现在，随着科学技术的发展，AI 早已深入到我们生活的各个方面，但它也有正反两面。根据统计，80% 职业生涯中至少有一项工作暴露在外 AI，还有 19% 有人认为，超过一半的工作可以完成。 AI 做公司营销、软件开发、音乐设计等工作，AI 正在取代人类的工作和职业。

何积丰认为我们应该拥抱。 AI 技术，适应 AI 技术发展，提倡不断学习，包括专注于自己的优势和行业领域，不断提高自己的专业能力；同时，我们应该思考如何思考 AI 将其应用到自己的专业中，提高自己的产出和效率；另外，还要不断地吸收新的信息，拥抱新的变化，接触更多的人，开阔视野。

何积丰，1943 年 8 月 5 日出生于上海市，原华东师范大学软件学院院长、教授、博士生导师，计算机技术专家，中国科学院教授，上海华科智谷人工智能研究院院长。

何积丰毕业于复旦大学数学系，并被分配到华东师范大学工作，先后担任教授、博士生导师；1980年 1984年被派往美国旧金山大学学习；在英国牛津大学计算机实验室担任客座教授和高级研究员；1998年 2001年担任联合国大学国际软件技术研究所高级研究员；2001年 2002年担任华东师范大学软件学院院长； 2005年成为华东师范大学第一批终身教授； 2010年当选中国科学院教授； 2016年获得英国约克大学荣誉博士学位；年度就业为华东师范大学计算机科学与软件工程学院院长。2019 2008年，同济大学特聘教授，入职同济大学交通工程学院。

"目前 AI 安全性工作主要集中在发现问题、尚未解决问题的全部答案上，何积丰早些时候说，大模型开启了真正的意义。 AI，大型模型的通用性使其能够应用于人类生产生活的各种场景，而一旦 AI 如果出现安全问题，其影响将难以预测。

以隐私问题为例，何积丰表示，大模型时代的隐私问题不同于传统的机器学习。第一，大模型在培训过程中涉及大量用户的个人信息和数据；第二，在使用过程中涉及到许多客户的私人信息，这些信息没有得到适当的隐私保护。用户在使用时面临“要么失去隐私，要么失去服务”的选择；第三，形成大模型的能力使隐私泄露更容易和多样化，隐私保护更加困难。

" AI 就像悟空一样，唐僧需要一个紧箍咒来保证他不会随意利用自己的能力去制造麻烦，胡作非为。何积丰感觉，对齐（Alignment）就是控制 AI 安全性的关键技术，对齐是指系统的目标与人类价值观一致，使之符合设计者的利益和期望，不会造成意想不到的有害后果。以何积丰机器人为例，机器人学的第一定律就是不能伤害人类，也不能因为不当而伤害人类。

何积丰也承认，对齐技术面临两大挑战。一方面，对齐的基础是人类价值观，但人类价值观是多样化和动态化的。人类的价值观和判断体系本身充满了偏见和盲点，有很多矛盾和明确的潜在条件。“它不仅考验我们的技术，也考验我们的文化。”；另外，大模型的“有用性”和“无害性”两个目标也是矛盾的，纠正一个有用的系统错误，是一个重要的挑战。大型时代需要双向对齐，即不仅智能系统需要与人类价值观对齐，人类的训练方法也需要与价值观对齐。

何积丰强调，在 AI 在发展过程中，永远不要忘记人类的核心作用，” AI 技术是我们的助手，而非人类创造新世界的未来。”

“我们应该以开放的心态拥抱变化，相信 AI 这项技术将带给我们更好的未来。”何积丰说。

下面是何积丰的演讲，经钛媒体 AGI 整理：

不久前，随着诺贝尔奖评选结果的公布，三个备受关注的科学奖项中，有两个和两个。 AI 技术相关。接下来，我们想告诉你三个。 AI 相关话题。

第一个话题是前面60多年的这个话题。 AI 是怎样发展的；

第二个和大家分享一下。 AI 影响我们的工作和生活。

最终，我们也展望 AI 的未来。

AI 成了热门话题，可事实上，大家都知道， AI 不是今天才有一些概念。20 世纪 50 在时代，随着计算机的出现，人们开始探讨如何使计算机更像人类。

这个句子听起来很奇怪，什么更像人类？

在 1956 2000年，一群技术科学家组织了一个夏季讨论班，他们讨论了如何使用机器模仿人类智能的概率，这是历史上第一次提出。 AI 这一概念。

六十多岁的时候，AI 研究的主要内容是什么？他研究了我们所说的专家系统，人类自然源的图像处理。

到 1962 2000年，世界上第一个聊天机器人——医疗机器人诞生了。它的主要功能是什么？它可以模拟心理学家如何与患者交谈。这个程序很简单，前后只有200行代码，但实际上开始了“人机交换”的帷幕。

到上世纪 70 我们称之为时代 AI 反思发展期。当时由于计算机内存有限，处理速度也受到一定影响。因此，它不足以处理我们应该解决的任何实际问题。研究成果发展缓慢，整体进展不尽如人意。

到 80 时代，AI 之所以进入所谓的第二次发展高潮，主要是因为在这个领域投入了大量的资金。1984 每年都有一个项目叫做 CYC，他在做什么？他是一个非常百科全书。一个项目的主要功能是什么？把人类制造的所有常识都放在电脑里。如果你想问什么问题，我会在网上给你一个答案。这是一个巨大的数据库。

到本世纪 2016 年 3 月亮，阿尔法狗（AlphaGo）与世界围棋冠军作战， 4 比 1 总比分获胜。所以，这个时候， AI 普通百姓真的知道了，原来这个原来这个 AI 这么厉害，从此 AI 热潮便被掀起。

现在，随着我们科学技术的发展，AI 早已深入到我们生活的各个方面，给我们带来了前所未有的便利和惊喜。

接着，就像任何硬币一样，它是正反两面的。

AI 对于人类生活的影响应该是复杂的，而且有很多维度。接下来，我们将与您分享他给我们的工作和生活带来了什么。

通过工作，我们会逐渐发现，过去常规的任务变得更加次要，因为 AI 机器可以帮助我们做很多事情。例如，您可以通过收集和检索数据、编写文件等方式与客户在此电话在线互动、数据分析、数据收集和检索。 AI 为了完成，它比我们做得快得多。

最近有关这个问题 AI 在应用中，有一篇研究论文提供了一个非常有趣的结果。这篇论文的研究重点是什么？他讨论过 2087 一个所谓的过程。

什么是流程？这是我们通常所说的每个任务中间的最小模块。一般来说，每个任务都由许多过程组成。例如，如果你想让领导做决定，我们需要先熟悉信息，然后比较不同的优化指标，看看目前我最关心的是哪一个，这么多过程形成一个工作类型。

经过人类跟 AI 评估，如果有工序使用的话 AI 做到这一点，在质量不变的前提下可减少。 50% 上述时间的话。所以我们认为这份工作 AI 可以代替人类去做——我们称之为“暴露” AI "我们做了一个统计，80% 职业生涯中至少有一项工作暴露在外 AI。还有 19% 有人认为，超过一半的工作可以完成。 AI 来做，比如公司的营销工作，软件开发工作等等。如果你做一般的产品设计，我们相信，AI 该技术可减少研究和设计时间，改进产品模拟和检测。

很显然，AI 对于我们各行各业都是非常有成就的。 AI 加速后，每个人的工作肯定会比过去有更大的改进。

第一个体现就是，我们的工作效率要高于过去，许多人会慢慢发现我们以前想做什么，过去做不到什么，现在突然间，AI 能帮助我们实现很多梦想的事情。

类似地，我们掌握了许多技能。 AI 以下的加持也能更好地派上用处。而且在这个时候，我们可以花更多的时间去做更高层次的规划和工作。

也就是说，并非你无事可做，要做事的这种程度比以前要困难得多。

可见，未来职场将充分发挥发现和解决问题的能力、创造力和批判性思维，以及独立学习和获得新技能的能力，这也是我们现在对教育的希望。

除了我们刚才提到的工作例子，我们来谈谈过去我们中的一些人认为重复和密集的工作是重复的。 AI 更容易完成。但是如果你想要创造，比如在娱乐生活中，AI 也许不能达到我们的期望。

然而，具体情况通常是相反的，AI 对于人类情感创意的工作，比如视频、音乐、社交，早就超出了我们的想象。生成式 AI 大型模型的产生，在视频音乐类应用领域顺风顺水。深入学习和大数据分析等技术，AI 能为我们的用户提供很多个性化的内容推荐。无论是音乐还是电影，都可以根据用户的爱好来实现什么样的精确匹配。

首先，AI 同时，我们的音乐创作也表现出巨大的潜力，不但能创作出较为常见的流行歌曲，而且能探索出全新的音乐风格。

同时，AI 通过我们的社交软件，完成了客户感兴趣的精准推荐和社交互动的智能优化。

此外，AI 从智能化的坚持到情感分析，在视频制作上同样大放异彩，AI 技术为影视产业注入了新的活力。

事实上，AI 早已不再是科学家的专属领域，它已悄然进入我们家家户户。一般人都可以通过。 AI，使我们的生活更智能、更快捷。

比如我们可以在家里创造一个智能生态系统，把家里所有的灯光、空调、窗帘、音箱等家居设备都抓起来，形成一个智能物联网。我们使用的手机的其他智能系统是这个生态系统中的大脑。

因此，生活中的一切都可以通过一键创作轻松完成，从而使我们的生活更加方便、舒适。

未来会发生什么？

我们相信，AI 它将继续发挥其巨大的潜力，成为引领科技创新和社会转型的关键力量。

大的语言模型，例如 ChatGPT 不断发展，未来 AI 不再局限于特定的任务，而且能像人类一样处理各种复杂的任务，也能有更深入的自学能力。

对于这种发展趋势，我们该怎么办？AI 这是一种趋势，它将进入我们各行各业，促进产业升级和转型。我们可以看到，在医疗、教育和金融交通领域，AI 它将发挥越来越重要的作用，提高服务效率和效果。

那么在 AI 时过境迁，我们该怎么办？在这里，我们提出了一些想法，供大家参考。

要提倡，就是要继续学习。