过分依赖DeepSeek的致命缺点,比AI撒谎更可怕

04-03 05:17

国产人工智能AI)大型DeepSeek风靡全网,被网友开发出各种神奇功能:高考志愿咨询;算命风水;寻找伴侣,寻求婚姻;看病;赛博判官,评价哪个明星最美...


一代人拥有一代人的搜索引擎,年轻人每天一睁眼就向DeepSeek求助,但是玩着玩着发现,AI已经掌握了糊弄学,准确地学习了胡编的技巧。


一些大学生试图让AI写论文,它直接合理地编写不存在的参考文献…


有人问AI:“如果我把手机扔进水里,你能帮我干吗?”它能煞有介事地列出N种操作方案…


最可怕的不是搜索错误和严肃的胡说八道,有时候AI会积累专业词汇,以使答案看起来可靠。,比如量子纠缠,熵增,熵减等等,一下子就会使人虚张声势…


如果被识破的答案是错误的,AI可以冷静下来,不跳下去:“对不起,我的答案确实是错的”,然后继续胡说八道,坚决不改...


或者,直接就是一个“服务器忙,请稍后再试”。



每个人都愿意相信人工智能的判断,因为AI可以在很短的时间内搜索到大量的信息,“听了就清楚了”。比任何人类掌握更多信息的人工智能一定比任何人类都更明智。


我们在实际使用中已经发现,并非如此。


有些网民调侃说,AI在小说中的弱点是不会说谎,但是AI在现实中太爱撒谎了。



甚至还有AI造谣引发舆论风波的社会事件。



AI使得信息收集更加容易,每个人都很难辨别真假信息,但是。这是一个信息泛滥的时代,知识似乎是免费的,触手可及,但实际上到处都是陷阱。


面临着相互矛盾的医疗建议,该听谁的?


任何行业都有可能被取代,如何进行职业规划?


怎样与那些理解信息或者与我们不同价值观的人合作?


……


每一个人都会遇到这样一个容错率突然下降到狭路相遇的时刻,我们无法想象如果一步选错了会带来什么后果。


希望在这个不确定的世界里保持稳定,走向成功,我们迫切需要思考重大问题,并提供有效的决策能力。


你能学会这种能力吗?当然可以。


如果你是美国加州大学伯克利分校的学生,可以选修三位著名教授-2011年索尔·珀尔马特,诺贝尔物理获得者约翰·坎贝尔哲学教授,以及法学教授、社会心理学家罗伯特·麦考恩——联合授课的思维课程《理性、情感与科学》,学习科学家用来理解世界上各种各样的思想、工具和方法,做出合理的决定,处理各种各样的问题。


这门课程中,索尔·珀尔马特讲述了科学家的真实想法,以及自己亲身经历的科学研究,让非科学领域的人也能与之产生共鸣;


从哲学的角度来看,约翰·坎贝尔追根溯源。,同时也提供了许多来自多方的观点;


罗伯特·麦考恩在公共政策和法律方面有丰富的经验,从社会心理学家的角度来看对每个人的行为进行分析。



在“理性、情感、科学”课程的早期合影中,第一排中间有三位教授。左五名是罗伯特·麦考恩,右四名是索尔·珀尔马特,右三名是约翰·坎贝尔。


它们的课程非常受欢迎,已经建立了十多年,甚至出现了一些改编和模仿。很多学生都通过这门课程找到了重新思考世界的方法。,并且学会以新的方式做出个人决策和解决社会问题。三位教授受到了极大的鼓舞,希望进一步造福班外各个年龄段的学生和公众。


好消息是,现在你不用去海外读名校了,还可以学习这门口碑很好的课程。——三位教授将课程出版成册,命名为《第三千年思维》



聚集三方的力量,跨越四个学科。《第三千年思维》可以通过启迪思维的思想实验,以轻松有趣的方式引用来自世界各地的许多贴近生活的案例,向读者介绍和展示科学思维的要素。


千年思维的第三个



现在距离这门课已经十几年了。信息技术的发展明显加剧了信息传播的局限性,构成了所谓的“信息茧房”。整个社会的裂缝更深,每个人在个人、事业和生活中都面临着更多的挑战。这本书提供的科学思维框架具有更深的现实意义。


再一次了解世界


普通人应该如何保持清醒,辨别真假,在信息洪流面前做出明智的决定?


用几十个生动的现实案例,教你如何用科学的方法和工具来评价信息的稳定性和合理性,在《第三千年思维》中。


决定是否有效取决于决定三个要素准确的信息来自可靠的专家,仔细考虑价值观要素,并将决策权交给利益相关者。


为了满足这些条件,我们可以遵循以下三个步骤来准备我们的思想工具:


理解现实的第一步。


每当发生一些有争议的社会事件时,每个人都认为自己的观点是客观的,但事实上,人们的想法不可避免地会受到价值观和身份认同的影响。这时,我们需要科学的工具来帮助我们了解现实。


理解逻辑关系是解决问题的核心。逻辑关系是一种杠杆,我们可以通过它来预测我们采取的行动会产生什么样的影响。如果我们不知道事情的来龙去脉,就很难在实际决策中帮助我们。


但因为不能随心所欲地控制自己的输出,收到现实世界的反馈,在复杂难分的情况下,对于因果关系,我们几乎总是有缺陷。所以,为了确保我们能在适当的时候采取合理的行动,我们应该找到一种方法来解释这种不确定性。


步骤二,理解不确定性。


人类生存的本能让我们害怕未知,我们总是希望在做之前能100%确定一件事。然而,科学是反直觉的,需要摆脱这种非黑即白的思维模式,建立“概率思维”。概率思维帮助我们量化置信度,在面对不确定性和不完整的信息时做出更合理的决定。每个人都能更好地控制风险,通过评估不同选项的概率。


概率思维使我们能够不完整的信息使用顺利顺利。。科学家们已经掌握了几种表达不确定性的方法,其中之一就是尽可能地给预测一个值(概率),以量化预测来确定水平。例如,科学家们会说,“五一假期,北京降水的概率是35.3%”。这是0%到100%的相信范围它是科学研究的工具之一,每个人都能用它来理解这个世界。



通过澄清和分享对自己解释的信任,也可以让你在必要时更加灵活。在很多事情上,我们没有达到99.9999%。当你说“我有95%的选择C”时,信任给你留下了5%的改变想法的空间。它保留了偏差的概率,可以让你充分关注一切可能性,更有效地讨论动态发展中的事物,进而对世界有持续深入的了解。


这两个步骤看起来很容易,但可能很难做到,因为虽然人类对新事物有很强的好奇心,但懒惰的本性可能会阻碍它们发挥积极的作用。


步骤三,培养“敢做能为”的科学观


一种鲜为人知的科学工具,应对人类3分钟热度的天性,有了立足之地。这是科学文化在发展过程中创造的一种简单的心理技能,也就是所谓的科学乐观主义。


与我们日常生活中的一般乐观主义不同,它更像是一种“敢做能做”的精神——期待解决我们面前的问题。


换言之,不管面前的问题有多复杂和棘手,如果你相信总有一天能找到解决办法,你就更有可能解决它。


科学乐观主义就像一个良方,可以缓解焦虑,提供信心,为我们提供全新的视角和起点,让我们做出长期更有利的决策。


日常可用的思维工具


思想准备完成,落入具体使用,提供了一系列科学思维工具的《第三千年思维》,帮你解决大大小小的难题。



思维工具的重要性


例如,你是一个对前景感到焦虑的职场人,“概率思维”这将为您带来帮助:科学家们并不执着于寻找唯一正确的答案,而是对各种可能性进行理性分析,权衡利弊,不断迭代优化。


职业规划也是如此,我们不必一次性找到“终极答案”。与其被困在“完美策略”的追求中,不如把注意力转向可执行的下一步,通过不断的改进和积累,为未来创造更多的可能性。当焦虑从“一定要找到完美的解决方案”转向“尝试更好的选择”时,焦虑就可以得到缓解。



这种思维模式对忙于职业转型、帮助孩子规划学业或规划公司并购的人都有好处。与其害怕不确定性,不如拆解目标,制定阶段性计划,用行动降低未知风险。


另外一种在生活中运用概率思维的方法,检查是否给予置信度


技术上有专业化,在我们不熟悉的领域经常需要参考专家的意见,什么样的专家更可靠?不妨仔细听听他们如何描述他们的信心。专家是否在他们的观点中提供了信任声明,是区分真正专家和伪专家的重要信息来源。他们是否表达了绝对的肯定,或者是否使用了“可能性”、"存在……的风险"或"有一种观点认为……"等等?


虽然大众常常更喜欢自信的专家,但是在一个不确定性已经成为常态的世界里,那些自我修正的专家是更严格的专家。



科学的思维方式对日常生活也大有裨益。例如,在人际交往中遇到摩擦时,我们过去常用的方法是“一报一报”:诚实,你诚实,很好;诚实,你不诚实,那我就报复你。


但是游戏论采用计算机模拟的方法,计算出收益最高的策略,称为“两报还一报”:我会给你一个无意中失去的机会,两次才认定你是故意的,我会用彼此的方式施彼身。


因为人有一个基本的归因错误,那就是我们专注于认定别人的恶行是人之常情,我们的错误是无意的,所以我们对别人更严格,对自己更宽容。两个报纸和一个报纸的策略更加包容,这种游戏的整体收获会更大。


此外,在整理难以验证的因果关系时,也可使用,判断一致性、时效性和合理性的原则;或在听到耸人听闻的数据时,使用费米估算进行验证;或使用盲法分析来减少决策时的主观偏见…


然而,这些科学思维工具早已存在,我们真正缺少的一直是一个很好的诠释,一个简洁的指南。。它不仅要用通俗易懂的方式表达科学研究的方法,还要指出它们在日常生活中的实际应用方法。



三位作者正在讨论他们的新书《第三个千年思维》


而且《第三千年思维》正能满足这种需要,书中并非简单的工具列举,而是简单的工具列举,构建一个完整的思想体系利用跨领域的生动案例来说明原理,拆解条分分析,教你怎样使用它


三位教授真想教我们啊!


三千年,更大的挑战


人类时代的第三个千年已经过去了2.5%,我们将在19975年面对它。这是一个社会两极分化越来越严重的世界,每个人都要面对虚假信息、错误信息、偏见和刻板印象的误导和挑战。


越来越难以判断自己所看到或听到的信息是否真实可靠:它们是由人工智能产生的,还是有些人为了经济利益、政治动机或其它目的而故意伪造?


现实对话已经被狭隘的新闻和社交媒体的信息茧效应切断,错误信息和虚假信息的病毒传播也限制了公众的视野。人工智能技术的快速发展也会带来前所未有的虚假现实。


所有这些灾难都是我们缺乏有效的理解当前海量数据的工具,这些信息不但庞大而复杂,有时甚至自相矛盾。



世界上稀缺的数据和数据被少数精锐人群通过信件、广播、报纸等其他联络网络消化,为普通大众提供决策所需答案的时代早已消失。也许人类历史上第三千年最显著的区别是,每一个人都是“游戏玩家”,无论您是否愿意,在因特网的帮助下,我们已经彼此紧密相连,没有人再是一个孤岛。


鉴于每个人都可以在广阔的数据海洋中畅游,应该根据什么事实做出决定,什么时候应该独立研究,什么时候应该寻求专家的帮助,什么专家值得信赖,什么时候应该在价值观的整合上找到明智的指导。我们都需要自己去判断。



“三千年思维”并非一个简单的决策指南,它为我们提供了一种全新的世界思维模式。


通过科学思维,我们学会在不确定性中找到可行的突破口,以事实和逻辑为基础,远离盲目的恐惧和不必要的偏见


同时,它也在与他人合作时,引导我们更加包容和务实。,然后,在复杂的时代背景下,开辟了一条更加清晰、稳健的发展道路。


这不仅仅是一本关于思维方法的书,更是一本关于人类未来发展的指南。适用于不同领域、不同年龄段的读者。,不管是从事科学研究的专业人士,还是学生,普通人,都可以从中学习宝贵的思维技能,提高自己的管理能力。


当生活充满变数,社会竞争激烈的时候,我们比以往任何时候都更需要这些科学思维来引导我们的行动,摆脱眼前的迷雾,应对挑战。


《第三千年思维》将帮助你在信息泛滥的时代保持清醒的头脑,做出明智的决定,成为一个更理性、更有洞察力的思想家。


让我们一起拥抱三千年的思想,一起迎接更美好的未来。


千年思维的第三个



编者:醒醒|审批:孙小悠


本文来自微信微信官方账号“中信出版”,作者:阿信,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com