Nature官方发声，ChatGPT给科研圈带来的危机！

最近，Chat GPT的横空出世⚡️强势渗透入各行各业并一夜之间统治热点 ，

写方案，写邮件，写行业概况，作诗画图写代码，兼具智慧与人性的回答常常惊艳四座，

也让科研工作者们激动万分而又同时忐忑不安 。

是帮助还是威胁？是助力还是压力？该利用还是该防备？

资本是最敏锐的风向标，微软决定向Chat GPT的公司Open AI追加投资100亿美金 继续开发，这几乎注定着它在不久的将来就要被强势整合到我们的日常生活和工作中。

这一次，似乎是真的感觉到了科技变革风口浪尖 ，却又捕捉不到时机和方向？

上周，Nature官方发声 ，

全面解读了Chat GPT给科研圈带来的「危 & 机」。

1. 润色一篇学术论文，只要0.5美元 ？

目前，市面上润色一篇学术论文的报价至少是5000rmb起步，毕业论文级别的甚至是好几万块，用时则是几天到几周不等。去年12月，计算生物学家Casey Greene和Milton Pividori用GPT-3润色了3篇学术论文的introduction部分。每篇耗时几秒钟 ，花费0.5美元 ，最后得到的结果很出人意料，可谓是又快又好，语言流利度得到了大幅度提升，还发现了一处公式引用错误。

这不可思议的吸引力，这毫无门槛的润色服务，很难让人不跃跃欲试 ‍♀️，尤其是写作困难户。（注意，仅限于introduction部分）

以下为他们对GPT下的具体指令框架：

(划定主题)
“Revise the following paragraph from the introduction of an academic paper (with thetitle: xxxxx, andkeywords: xx, xx, xx)
(要求锁定参考文献)
so most of thecitationsto other academic papers are kept,
（提出需要修改部分：语法，语气，拼写，句子结构）
the text minimizesthe use of jargon, the textgrammaris correct,spelling erros are fixed, and the text is inactive voiceand has a clearsentence structure.”

所以这笔巨额的语言润色服务费真的可以省回口袋吗 ？我觉得也未必。。。

多家公司开始着手研发反AI监测软件，用于判断文章是机写还是人写✍ 。其中，著名的学术查重公司Turnitin从2020年起就在开发针对AI的检测软件，并预计在2023年上半年正式发布。所以，润色文章的钱可能反手就被查重公司卷走了 ‍♀️。

2. 失控的学术写作 流利但随时出错

• If asked to write an academic paper,they make up fictitious citations
  The tool cannot be trusted to get facts right or produce reliable references," noted a January editorial on Chat GPT in the journalNature Machine Intelligence.

接上一点，

如果说Chat GPT在一定的指令框架内修改一些语法问题和一般性内容还算是能力范围内的，那么一旦涉及专业性技术性知识，胡编乱造的大bug就会出现了，

例如编造参考文献，创造专业术语，虚构事实等等 ，这对于学术写作来说可是致命伤。

失控的流利度带来的是虚假的学术写作内容 。

在Nature的采访中，部分科学家认为在专家的监督 和把控下，Chat GPT很适合被用于加快论文和基金的撰写速度，比如introduction部分，前提是这些专家们必须有足够的知识和经验可以迅速识别错误并修正答案。

而对于一个科研小白来说，直接用它来写作是非常危险的。（The tools might mislead naive users.）

换句话说，这个工具，只能被降维使用，不能升维学习。

3. 一个关于思考模式的悖论 ‍♀️

• A further worry is that by offloading thinking to automated chatbots,researchers might lose the ability to articulate their own thoughts.

对AI的写作依赖一旦养成，就会让科研人员产生创新思考上的惰性。

我觉得这里就是一个逻辑上的悖论 ：

「知识的诅咒」

AI是程序员开发出来的，这一点是毋庸置疑的。

如果一个程序员用AI学习写程序，那他可能就成为不了能写出AI的程序员。

换个例子，

如果不学习学术写作，就认不出AI机器写作的错误；

如果学习了学术写作，那也就不太需要AI帮忙写作了。

换个例子，

为什么小学数学考试不允许直接按计算器按？又快又准

（以上全部为个人观点夹杂）

最后，说点离题的。

我猛然想起来去年11月中旬呼兰讲过的一个脱口秀段子，说他有段时间在写程序，在教人工智能写段子，开发“智能喜剧”。

他说他要站在科技与人文的十字路口，无怨无悔/装神弄鬼。不知道有多少人还记得这个段子。

现在回头看，也就是他这段播完之后的1个月，ChatGPT就发布了。

可以写段子的人工智能真的出现了，

不寒而栗，一切都才是刚刚开始而已……

• Reference
  1.https://www.nature.com/articles/d41586-023-00340-6
  2.https://www.science.org/doi/10.1126/science.adg7879
  3.https://www.biorxiv.org/content/10.

本文转自LabGirls，内容仅做学术分享。

更多学术资讯\论文润色服务\论文翻译服务 都在公众号【艾德思editspring】