根据Nature的调查，AI正在改变科学家的研究方法

十月十二日，智东西消息，世界顶级科学学术期刊《Nature》十月十日，科学家们发表了一篇文章，使用人工智能（AI）对工具进行科学研究的行业观察发现，AI工具正在改变传统的科学研究方法。目前，许多AI工具可以帮助研究人员在大量文献中选择所需的材料，从而使科学研究更加高效。

基于大语言模型的AI工具用于科学研究和检索。（LLM），它不仅可以收集和选择当前的研究文献，还可以总结和列出文本中的关键发现。背后的AI公司不断提升这些模型的性能，及时推出新的AI工具。

《Nature》在采访了许多AI科学检索工具的开发者和用户后，该杂志汇集了他们的实际感受和使用这些AI工具的潜在风险。

文章地址：https://doi.org/10.1038/d41586-024-02942-0

科学家使用AI工具了解科学研究方向，收集科学研究资料，撰写文献综述

据《Nature》据统计，市场上最受欢迎的AI科学检索工具包括Elicit、Consensus和You，他们为研究人员提供了多种有效的方法来完成文献综述。

1、Elicititit是美国AI论文生成公司：自动完成文献综述

在Elicit中输入一项研究问题后，AI工具将列出相关论文，并对这些论文的主要发现进行总结。

在此基础上，研究人员还可以继续对某一篇论文提出问题，并指定留下某一期刊或某一研究类型的内容。

2、美国AI学术搜索引擎公司Consensusus：可视化研究行业共识

Consensus公司同名AI工具可以帮助研究人员收集和整理科学界对某个科学项目的看法和争议。

例如，当研究人员输入“氯胺酮能治疗抑郁症吗？”这个问题时，AI工具就会产生一个“Consensus meter(共识测量器)”，它将对这一假设的论点和论据进行总结、反对或不确定，以显示科学界对这一问题的共识。

EricConsensus的首席执行官 Olson(埃里克·奥尔森)表示，虽然其AI工具不能取代研究人员对论文内容进行深入分析，但它可以有效地帮助他们快速浏览研究动态，总结主流研究内容。

3、Youu是美国AI学术搜索引擎公司：个性化研究

You自称是同名AI工具“You“这是第一个AI检索工具，它整合了最新的文献引用数据。这个AI工具为研究人员提供了多种模式来探索和研究问题，比如“genius mode“以图表的形式反馈检索结果(天才方式)”。

上个月，You还推出了一个AI工具，允许很多人合作。R&D人员可以合作定制和分享个性化的AI聊天框，让他们自动执行特定的任务，比如事实验证。

AI科研检索工具支持多语种，有望打破学术交流语言堡垒

Elicit除了受欢迎之外。、除了Consensus和You之外，其它AI检索工具也在探索更多使用AI技术提高科研效率的应用场景。

BioloGPT是美国AI生物学知识问答网站中大量垂直于单一学科的AI工具之一，可以针对生物学问题生成更具总结性和深度的答案。

今年9月，英国一站式研究服务公司Clarivate推出了一款AI检索工具，研究人员可以快速调用Web of 内容在Science数据库中。根据Clarivate的说法，在AI检索工具的基础上，研究人员输入一个研究问题后，可以通过图谱查看相关的论文摘要、研究主题和引用文献，可以看到每个参考文献的标记，从而更有效地找到关键论文及其论点。

另外，即使是Web of 英文论文包含在Science中，Clarivate的AI检索工具也可以用英语以外的语言来总结文章中的关键信息。Francescascascascarivate商品副总裁 Buckland(弗朗西斯卡·巴克兰德)认为，将多语言翻译能力融入AI搜索工具背后的大模型是一件“非常有潜力”的事情，可以减少全球科研资源的不平等。

建议使用AI检索工具各自的优势来检查数据，但是要记得检查。

当被《Nature》当被问及“什么是最好的AI检索工具”时，加拿大流行病学家Razia Aliani(拉齐娅·阿利亚尼)说：“我认为这通常取决于实际研究目的。”现在她在澳大利亚一家非营利性文献综述公司工作，公司名叫Covidence。

Aliani将专注于使用Consensus，如果你需要了解一个科学研究主题的不同观点和共识。但是，在审批大型数据库时，她会选择使用Elicit等其它AI检索工具。

最初的研究方向在Elicit上抛出后，Aliani会根据AI工具的检索结果，排除与研究内容无关的论文，然后深入其余相关性较强的文献，对初始研究内容进行微调。

AI科研检索工具不仅可以节省时间，而且可以提高科研工作质量，激发创造力，缓解科研压力。

Anna Mills(安娜·米尔斯)马林学院在美国加利福尼亚州教授基础写作课程，通常涉及如何开展研究过程。虽然她真的很想向学生推荐这些AI搜索工具，但她也担心这些工具会阻碍学生对一些学术研究的深入理解。

与使用AI检索工具获取研究信息相比，她更愿意教学生如何识别AI检索结果中的错误，从而培养他们识别和使用AI工具的能力。

BioloGPT创始人Connerner美国AI生物学知识问答网站 Lambden(康纳·兰登)也认为:“学会对一切都保持怀疑，包括你自己使用的研究方法，是成为一名优秀科学家的唯一途径。”

AI错误引用文献，部分科学家因此停止使用，开发者正在补救。

“幻觉”不时出现在AI大模型的检索过程中，已经成为一个老生常谈的问题。在AI领域，“幻觉”（Hallucination）“指AI模型编造、引用、导出一些误导、虚假、无中生有的信息。

关于ChatGPT等主流AI聊天机器人回答准确性的担忧也蔓延到了AI科学检索工具上。许多研究人员建议他们应该谨慎使用这些AI科学检索工具。

在使用AI检索工具进行科学研究时，常见的错误包括编造统计数据、误解引用论文、AI大模型偏见。

体育学家Alec Thomas(亚历克·托马斯)目前正在瑞士洛桑大学做研究，他曾经“非常欣赏AI检索工具”。

然而，在亲自尝试了一些AI搜索工具后，他的态度发生了180度的大转弯。Thomas之所以决定放弃使用这些AI搜索工具，是因为他发现AI的答案中有“严重的基础错误”。

例如，当他使用AI搜索工具研究“参加体育活动对饮食失调的人的影响”时，AI引用了一篇与研究问题无关的论文来生成研究结果。

Thomas直言不讳地说：“我们不会相信一种认同可能随时产生幻觉的人类，那么为什么要相信AI有类似的疾病呢？”

据多名接纳《Nature》采访的AI检索工具开发人员透露，为了提高AI检索的准确性，他们采取了安全措施。

美国AI论文生成公司Elicit项目实施负责人James Brady(詹姆斯·布拉迪)表示，该公司非常重视AI检索工具的准确性，并在AI回答中使用多个安全系统检查错误。

Clarivate商品副总裁Buckland是英国一站式科研服务公司，Web of Science的AI工具有一个“可靠的保护机制”，以避免AI产生欺骗和不准确的内容。在测试过程中，她的R&D团队为了调节AI检索的准确性，与约15000名研究人员进行了整合和反馈。

尽管经过开发者的不断纠正，AI检索工具的使用体验得到了改善，但美国AI学术搜索引擎公司Consensus的首席执行官 Olson认为，这不仅不能治愈AI的“幻觉”，而且可能会加重“病情”。

Olson解释说，人工反馈调整的AI搜索工具侧重于获得对人有益的答案，并且会独立填补一些不存在的事实。

结论：未来的AI工具需要竞争专业性。

从《Nature》在调查中，我们可以看到AI检索的使用场景，并逐渐渗透到细分领域。

也就是说，与AI科研检索领域相似，未来AI大模型及其产品对专业性、准确性的要求更加严格。

目前，对于行业领域微调后的AI模型来说，“幻觉”的概率和频率会降低，偏见问题不能仅靠技术更新来解决。

2015年，李飞飞联合创建了AI4All项目，旨在吸收更多的AI人才，如女性、有色人种和工薪阶层，以缓解AI模型开发过程中的偏见。

Andrew Hoblitzell(安德鲁·霍布里策尔)是印度的一名生成式AI研究员，他已经在许多大学设立了一个关于AI4All项目的讲座。

AI检索工具在一定程度上可以支持科学研究过程，但前提是科学家亲自验证了AI产生的信息。

所谓的Hoblitzell：在这个阶段，这些AI检索工具应该是科学研究的辅助工具，而非最终的结果来源。

本文来源于“智物”，编译：徐豫，编辑：心缘，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com