全球今头条!“AI笔替”入法，管得住学术不端吗

　　原标题：“AI笔替”入法，管得住学术不端吗

　　来源：中国科学报

　　■本报记者 王昊昊

　　面世不到一年的ChatGPT，引发了大模型时代变革，在掀起又一波人工智能（AI）浪潮的同时，也带来了泄露隐私、引发“饭碗焦虑”、暗藏侵权风险等一系列问题。

　　ChatGPT以及百度文心一言、讯飞星火认知大模型等的出现，标志着人工智能进入新发展阶段。

　　但同时，学术期刊纷纷发文，指出人工智能威胁着科学的透明度。

　　多国教育部门也出台政策，禁止在学校使用ChatGPT。

　　在我国，学位法草案不久前提请十四届全国人大常委会第五次会议初次审议。

　　草案对学位获得者利用人工智能代写学位论文等行为，明确了相应的法律责任——经学位评定委员会审议决定由学位授予单位撤销学位证书。

　　但在实际操作中，利用人工智能代写学位论文这类学术不端行为如何查证？这些学术不端行为和适度应用人工智能的尺度标准又如何界定？

　　现状：在“混乱”中慌忙应对

　　ChatGPT面世已大半年，它对科教界究竟产生了何种影响？

　　今年1月，美国某网站发文称，ChatGPT才出现两个月，就造成了难以言喻的混乱。

　　《中国科学报》记者梳理发现，学术界和高校更多是在令人眼花缭乱的应用场景出现后才出台政策，仓促“应战”。

　　《科学》主编索普曾发文称，ChatGPT已成为一种文化轰动，对科学界和学术界造成严重影响，并表示最近的研究发现，大量由ChatGPT创建的论文摘要被提交给学术审稿人。

　　索普说，《科学》正在更新编辑规则，强调不能在作品中使用由ChatGPT（或任何其他人工智能工具）生成的文本、数字、图像或图形。

　　包括《自然》《细胞》等许多科学类期刊也发布了大体一致的规则。

　　高校受到的影响似乎更大。

　　今年初，美国斯坦福大学的一项非正式民意调查显示，该校有大量学生在期末考试中使用了ChatGPT。

　　同时，《福布斯》发文称，89%的学生承认使用ChatGPT做家庭作业，其中48%的学生承认使用ChatGPT进行家庭测试或测验、53%的学生用它写了一篇论文、22%的学生用它写了一篇论文大纲。

　　72%的大学生认为ChatGPT应在大学网络中被禁用。

　　“在称赞ChatGPT功能强大的背后，人们应看到其给学术界带来的焦虑与恐慌。

　　”中国人民大学首都发展与战略研究院副院长郭英剑表示，美国一些高校已将新技术纳入学术诚信中，有些高校已将使用ChatGPT等人工智能工具纳入剽窃等学术不端范围。

　　郭英剑表示，人工智能造成的剽窃行为在当下学术规则中很难被证明。

　　这些负面影响开始让人们思考是否应在学术界和高校禁用ChatGPT。

　　担忧：怕学生丧失独立思考能力

　　“高校或学术界全面禁止人工智能产品是不可能的，也有违历史潮流。

　　”长沙理工大学特聘教授刘小春表示，应引导学生正确认识和使用人工智能产品而非禁止。

　　决定能否使用人工智能辅助的关键，应是相关产品是否涉及受教育者创新能力的培养。

　　湖南大学法学院副院长蒋海松说，ChatGPT已成为教育领域的强大工具，并带来颠覆性影响，尤其对他所在的传统法律教育领域的冲击更大。

　　ChatGPT的母公司OpenAI表示，GPT-4在律师资格考试中可击败90％的考生。

　　在“ChatGPT会取代哪些岗位”的热门词条中，法律工作者高居榜首。

　　“即便如此，人为禁止ChatGPT仍毫无意义，也会丧失学术进步的机遇。

　　”在蒋海松看来，是否禁用人工智能产品不能一概而论，要积极面对新技术带来的机遇与挑战，引导学生正确看待科技，并加大规制力度，尽量降低其在教育与学术研究中可能产生的风险。

　　那么，科研人员和教师在使用人工智能产品的过程中有何疑虑？《中国科学报》记者在采访中发现，教师的担忧集中在过多使用可能导致学生丧失独立思考的能力。

　　“我对ChatGPT的出现持完全支持的态度，我的不少学生也在用。

　　”郭英剑表示，ChatGPT的功能确实强大，但他很担心学生经常使用会产生依赖心理，导致其缺乏思辨性，这对学生的写作能力培养很不利。

　　郭英剑认为，ChatGPT等人工智能产品的出现，就像算盘时代出现了计算器，或马车时代出现了机动车。

　　这种革命性变化任何人都无法阻挡，应允许并支持学生从积极方面使用人工智能产品。

　　至于学生的态度，北京理工大学博士生蒋量表示，科研中，ChatGPT可作为一种工具辅助开展相关工作，但研究生仍应以独立思考为主。

　　人工智能可提高学习效率，但不能作为学习主体。

　　“有必要在研究生培养中限制ChatGPT的使用。

　　”

　　“ChatGPT像有点‘小聪明’的学生，产生的信息不一定准确，但在逻辑上可能是对的。

　　”蒋量认为，未来人工智能在搜集信息方面的优势会愈加明显，关键是规范此类工具的使用，使其更好帮助人们学习和思考，又不直接替代人的学习和思考。

　　据蒋海松的观察，理工科学生对ChatGPT的使用更多，也有学生用它完成部分作业。

　　“关键是在使用过程中坚持自主思考，保持警觉与谨慎、合理合规使用，同时加强信息素养的培养，接受人工智能相关知识的学习和培训。

　　”

　　中国人民大学哲学院教授刘永谋表示，目前大语言模型对教育的冲击刚刚显现，未来会愈演愈烈。

　　就已经出现的问题看，生成式人工智能将给就业、信息安全等领域带来极大挑战，这些领域都与教育相关。

　　人工智能新产品对人文社科类学科的教学科研，以及文科类就业岗位的冲击将是巨大的，如以ChatGPT为代表的自然语言处理技术擅长各种文字、翻译、信息汇总和编程等工作。

　　“未来，学生将生活在人工智能辅助的环境中。

　　因此，不该在高校和学术界禁用相关产品。

　　否则，培养的学生将落后于社会。

　　”刘永谋说，对于学生和教师应用人工智能产品进行学习和研究，高校和学术界应制定细致的指导意见，对于哪些应用被允许、哪些被禁止作出详细规定。

　　未来：界定尺度和标准

　　学位法草案就利用人工智能代写学位论文等行为规定了相应法律责任。

　　那么，此前用人工智能产品写论文会触犯法律吗？有无相关法律规定？

　　对此，蒋海松表示，利用人工智能写学位论文本质上属于学术不端行为。

　　在现行法律法规框架下，其行为同样违法。

　　他介绍，人工智能作为“笔替”创作的文章可拟制为“他人代写的范畴”，被归类为学术不端的范畴。

　　根据2016年颁布的《高等学校预防与处理学术不端行为办法》，相关责任人会受到通报批评、终止或者撤销相关科研项目、撤销学术奖励或者荣誉称号、辞退或解聘等处罚。

　　此次提请审议的学位法草案明确，已经获得学位者在获得学位过程中存在学位论文或实践成果抄袭、剽窃、伪造、数据造假、人工智能代写等学术不端行为的，经学位评定委员会审议决定，由学位授予单位撤销学位证书。

　　“需要注意的是，草案打击的是人工智能代写这种学术不端行为，而不是人工智能的适度应用。

　　不过，代写和适度应用的尺度及标准如何界定仍是难题。

　　”蒋海松表示。

　　至于学位法草案能否管得住学术不端等行为，刘小春认为，这取决于我们有没有足以检测出学位论文是否采用人工智能创作的技术能力。

　　划清“人工智能辅助”和“人工智能主导创作”的界限十分重要。

　　人类已经进入高效率、高质量获取知识的年代，在常规的文献综述、检索与分析能力等方面，人工智能将超过人类。

　　因此，草案应对这些环节予以考虑并详细规定。

　　他建议在论文写作过程中，非创造与创新类的知识汇总和梳理工作可允许使用人工智能辅助创作，但必须明确备注；涉及论文创新思想和核心内容部分的工作，不允许使用人工智能辅助，否则应按照学术不端行为处理。

　　“依照国际通行做法，以及我对国内高校的观察，要在学位法草案中对人工智能引发的学术不端等作出具有法律意义上的详细规范是很难的。

　　”郭英剑表示，禁止使用人工智能代写学位论文的规定看似刚性，但具体操作中很难查证，无论是人还是机器代写论文，只要做得隐蔽，都很难被发现。

　　郭英剑提醒，现实中很多人工智能产品已真实存在，并快速成为人们日常使用的工具。

　　同时，这些产品对写作的重大影响与冲击才刚刚开始，目前国际高等教育界对此基本处于束手无策的状态。

　　部分高校的禁令并不能真正达到效果，更多高校除制定简单的宏观规定外，仍处于观望状态。

　　为此，郭英剑建议，在禁止人工智能代写论文相关立法中，将人工智能与学位论文的关系单列出来作为一项加以规范，让人们充分认识到人工智能对学术的深刻影响；提出一个指导性规范意见，待时机成熟时再做更加详细的修订。

　　本文《“AI笔替”入法，管得住学术不端吗》介绍到此结束，感谢阅读。