近日，科技部监督司体例印发《负任务研究行为规范指引（2023）》（以下简称《指引》），提出不得利用天生式人工智能直接天生报告材料，不得将天生式人工智能列为成果共同完成人，同时强调科研职员应把科技伦理哀求贯穿到研究活动的全过程。

从2022年底ChatGPT横空出世，到国内外掀起“百模大战”，天生式人工智能成为了人们写作的新帮手，“头脑风暴”、数据剖析、图表天生……功能之强大让许多人高呼“水平超越自己”。
然而，人工智能赞助写作也带来了学术诚信、信息造假等担忧。
技能的边界在哪里？目前是否出台了有效的管理规范？

AI写文章，你能创造吗？

在机器学习和自然措辞处理的早期阶段，机器还很难进行写作、绘画等创造性活动。
直到2020年，OpenAI公司发布了GPT-3模型，所谓“大措辞模型”才真正进入人们的生活。
“大措辞模型的涌现，使得AI工具能够模拟人类写作，天生具有逻辑完全、内容清晰的虚拟文本。
”江苏省科技发展计策研究院副院长张华表示。

1月17日，具有“日本最高文学奖项”之称的第170届芥川文学奖公布得主，日本女性作家九段理江夺魁。
在颁奖当日的新闻发布会上，九段理江坦言自己在创作过程中利用了人工智能，书中大约有5%的内容一字不差地取自ChatGPT。
她还表示，天生式AI有助于开释创造力，其辞吐在网络上引发了激烈谈论。

生活中有多少人在利用AI写作？根据近期英国高档教诲政策研究所发布的调研，1250名英国本科生中有53%的学生正在利用AI写论文。
利用AI的学生中，25%的人用AI来制订论文主题，还有5%的学生承认曾直接将AI天生内容复制粘贴到论文中。

“这一征象已经不是新问题了。
我们曾经创造，学生的毕业论文里，有的段落的中文‘不像中文’，之后才知道，学生是将自己以前揭橥的英文论文用AI工具翻译成中文粘贴过来。
”江苏省人工智能学会自然措辞处理专业委员会副主任、南京大学人工智能学院副院长戴新宇教授，分享了一段令他哭笑不得的经历。
他表示，此类“翻译抄袭”也是现在较为暗藏的一类学术不端行为，目前一些查重软件已可以实现“跨措辞”检索。

对付这次科技部针对学术材料出台新规，戴新宇表示，“从国家、社会管理的角度来看，对‘天生式AI’的约束是必要的。
但从实际履行过程中，我们还须要对‘什么是天生式人工智能创作’进行界定。
比如，用AI天生提要，再自己进行修正，是否算作‘人工智能天生内容（AIGC）’？还是说，材料全部由AI天生，一字未改，才被界定为‘AIGC’？”戴新宇说，人工智能已被广泛利用于学术研究、工业制造、政府公函等领域中，是通盘禁止利用，还是接管一定程度的AI赞助，还有一些较为模糊的地带。

“科研项目报告材料，最核心的便是要表示研究事情的架构和思想。
如果利用人工智能来天生，在可行性、创新性方面都会大打折扣。
出发点不再是贴合实际需求进行研究，而是‘为了创新而创新’。
”张华表示。

AI难辨真伪，监管成为关键

“作弊与反作弊”的过程，犹如一场你追我赶的无限博弈。
戴新宇先容，目前已有一些AI识别的方法和技能，比如数字水印。
自2023年，抖音、小红书等社交平台纷纭哀求创作者在人工智能天生的内容上明确标注，根据实际情形勾选“内容由AI天生”。
戴新宇供应了一种思路：“正如网络实名制管理一样，如果AI内容天生也能拥有一张‘数字身份证’，被标注上源头，就可以追溯到内容生产者，年夜家对自己生产的内容卖力。
”

此外，还有通过剖析文本中词汇的分布的技能，用来辨别内容是否为AI创作。
“但即便利用AI检测工具，仍会有‘漏网之鱼’。
还是以学术论文为例，对付看重笔墨表达的学科，如人文社科领域，直策应用AIGC的痕迹非常随意马虎被创造，但在一些理工科领域，暗藏地利用AI进行数据天生、加工和处理，每每难以创造。
”

“如何将人工智能的开拓和利用限定在合理可控的范围内？”戴新宇提出，“所谓‘用邪术打败邪术’，完备通过技能手段办理问题，究竟会让我们陷入一个你追我赶的怪圈。
目前天下各国都在人工智能监管上发力，发展‘负任务的人工智能’，须要通过不断完善的法律规定，从前真个社会规制上进行设计，规范人工智能的研究以及工具的利用。
”

2023年9月，中国科学技能信息研究所等机构联合发布《学术出版中AIGC利用边界指南》，建议研究职员利用天生式人工智能直接天生的稿件笔墨等资料（AIGC）必须供应明确的表露和声明，否则将构成学术不端行为。
《指南》还规定，研究职员利用的数据必须是研究职员进行实验并网络所得，如利用AIGC供应的统计剖析结果需进行验证。

“如果将AI视为一个‘虚拟人’，这个‘人’总会有传播小道、偏见歧视的问题，正如对付人类社会本身须要监管，工具也更须要受到法律规制。
”戴新宇说。

天生式人工智能造成的“混乱”不仅发生在学术领域。
“人工智能的不当利用，对付公民、企业带来的一大问题，便是产生虚假信息。
”张华说，天生式AI可以天生高度逼真的假造内容，包括假新闻、诱骗邮件等，乃至可以用于合成声音或视频进行诱骗。

“天生式人工智能的发展中的另一问题是对个人隐私的数据滥用。
大量的数据是演习人工智能的一定要素，将个人隐私信息、个人创作的作品‘喂’给大模型的事宜时有发生。
”张华先容。
比如，此前就曝出OpenAI公司“盗取”用户输入ChatGPT的内容，演习其AI算法模型。

张华表示，只管国家已经出台了相应的规章制度，但从外部监督到行业自治还是一个长期的过程。
研究职员、企业平台、干系行业组织、政府能够各司其职、形成协力，是办理问题的关键。

AI导致失落业？培养“AI素养”成为必修课

只管AI为我们的生活带来重重寻衅，但专家普遍认为，不能“因噎废食”，而是更应看重培养具备相应能力的人才军队。
“在人工智能时期下，培养创意型人才至关主要。
”张华见告，现在许多人对AI是否会替代自己的岗位感到焦虑，这一担忧紧张来源于AI确实能够替代重复性、创新性不强的事情。
“以写作为例，根本性的文案整理随意马虎被替代，但AI是难以进行创意型事情的，假使让AI写一篇仿照鲁迅风格的文章，它可能只会天生一些逻辑不通的文章，是词语堆砌而缺失落内涵。
”

作为研究人工智能的学者，戴新宇指出，鼓励学生学习并利用AI工具是当下的大趋势。
比如，在大规模的文献调研中，AI工具可以快速检索到干系文献，并总结归纳。
在考古领域中，乃至可以利用工具剖析大量历史数据，天生新的创造。
但同时，培训学生合理利用AI也是至关主要的，比如利用AI进行学术造假就答允担必要的任务。

“人工智能正在演化为一门‘通识课’，正如学生多多少少都要学习一些数学、英语知识。
能够利用AI工具提升检索效率、拓展研究思路，都是很好的利用方法。
”戴新宇说，“是否会利用AI工具这一素养，会将人与人的差距拉大。
不会利用AI，或者过度依赖AI供应的信息，都是值得当心的。
”

如果将人工智能定位为一个研究助手，实在它还有巨大潜力可以挖掘。
在跨学科、交叉学科的研究中，人工智能也会起到主要的浸染。
戴新宇举例，人工智能工具就像是一个“外接大脑”，比如当下许多人文社科的研究也趋向量化实证研究，一位没有学过编程的文科生，也可以用AI编写代码帮助研究。

“人工智能代替了一部分根本性的岗位，但也催生了许多新兴事情岗位。
比如涉及‘人机共生’社会的管理的研究、伦理法律的研究、人机交互生理的研究，都是前景可期的。
以打算机行业为例，以往有许多毕业生可能从事网络安全、软件安全领域，现在有许多应届生会从事大模型安全领域，我相信未来也会有更多新兴岗位的涌现。
”戴新宇说。

新华日报·交汇点 张宣 杨易臻

图片来源：视觉中国