北京大学汪琼：当人工智能闯入校园，全球高校的应对策略

ChatGPT和Sora刚问世便火遍全球，反映了人工智能的巨大影响力和无尽潜力，未来似乎有无限可能。很多人担心，人工智能将对人类社会构成威胁，您如何看待这种观点？人类如何驾驭迅猛发展的新技术？

生成式人工智能将对人类社会各方面产生影响，它汇集了人类的集体智慧，可以说，它站在巨人的肩上，跑得比人类更快。未来，大多数人类确实会被它超越。

关于人工智能是否会产生意识、人类是否会被自己发明的技术所终结，在技术哲学领域一直都有两股言论，这些年的技术发展史似乎也证实了两派观点在特定场景下都成立。

麻省理工学院物理系终身教授迈克斯·泰格马克（Max Tegmark）作为呼吁对人工智能研究按下暂停键的发起人之一，在他所著《生命3.0：人工智能时代，人类的进化与重生》（《Life 3.0: being human in the age of artificial intelligence》）一书中，描写了一个关于欧米茄团队的虚构故事。

初创科技公司中的欧米茄团队致力于制造通用人工智能——普罗米修斯。他们竭尽全力让普罗米修斯在编写人工智能系统方面自我迭代。普罗米修斯也不负众望，其自我迭代速度大大超出预期，欧米茄团队开始利用普罗米修斯赚取更多的研发经费。

团队的第一个目标是亚马逊的MTurk，普罗米修斯成功为团队赚了个盆满钵满。随后团队成员开始考虑，接下来是应该让它开发计算机游戏？是做音乐、电影或者软件？还是写书、写文章、炒股？此时，团队中的网络安全专家表达出忧虑，她担心普罗米修斯会逃脱并抢夺自身命运的控制权。

这时，欧米茄团队对于技术究竟能在什么领域使用开始有所顾虑：他们有点兴奋，有点害怕，也有点恐惧。安全起见，欧米茄团队决定将普罗米修斯“关起来”，让它无法逃到互联网上。最终，团队决定利用普罗米修斯制作数字化、价值高、生产周期短、易于理解且不会带来逃脱风险的产品——电影。

普罗米修斯在电影界大获成功，不久就跻身全世界最大的媒体帝国。接下来，欧米茄团队将业务发展到世界经济中的各个领域并站稳脚跟。后来，在普罗米修斯的帮助下，欧米茄团队赢得了选票，获得了权力，最终统治了世界。

讲到这里，你是否有汗毛竖立、似曾相识的感觉？事实上，欧米茄团队的传奇虽然是虚构的，却犹如惊世预言，揭示了人工智能发展可能会对社会文化和政治经济各方面的影响。

目前人们所看到的人工智能表现，很可能只是冰山一角。可汗学院创始人萨尔曼·可汗（Salman Khan）曾在一次讲座中谈到，2022年夏，他因为提前看到了GPT-4的威力，热忱地与OpenAI合作开发智能教学助手Khanmigo，以加快实现“人人都有耐心家教”的梦想，而普通大众是到2023年3月15日才接触到阉割版的GPT-4。由于不确定推出新版本的人工智能工具将产生什么后果，人们目前看到的人工智能产品，与科技公司正在研发的人工智能技术也许差了好几代。

也是因为对于人类是否能够控制人工智能力量的警觉，在一部分人热衷推动人工智能不断创造奇迹的同时，也有另一部分专家在跟进地论证与前瞻性分析人工智能技术带来的影响，特别是可能产生的风险。

很多时候，技术看似中性，却很可能产生巨大的社会影响，就像时钟的发明，最终协调了社会各行各业的运转，从某种意义上来说，是人为的时间分割，让社会按照数学的计算运行了。人工智能会不会让我们的社会加速运转，而身在其中的人类，会不会像“陀螺”一样，难以自控而不得不随波逐流？至少现在，我们还有能力权衡利弊，在学习驾驭、优化使用的同时，还能兼顾其安全风险。

OpenAI推出了ChatGPT，您认为其对高等教育的教学和科研带来的最核心影响是什么？

在OpenAI刚推出ChatGPT时，就有人提出担忧——很多问题都能从ChatGPT上找到答案了，学生会不会因此不再进行思考、不记忆不学习了？类似的担心，在人类文明发展史上出现过多次。

比如，古希腊口述文化博闻强记的代表人物——苏格拉底曾对埃及文字的出现表示过担忧，他担心有了文字后，很多人不再背诵和记忆，且自满于虚假的“博学”。网络搜索引擎带来的信息快速检索，也曾让人担心“学生是否将不再自己写作，而去上网抄袭？”

现在看来，以上的担忧确实都有发生，但总体来说利大于弊，尤其是学校教育，也会根据人才培养目标加强治学要求和规定。面对生成式人工智能，各高校莫不如是，在引导学生借助生成式人工智能开展多元化学习的同时，回归教育本质，强化学生批判性思维和问题表征能力。

在科研方面，人工智能也起到了加速作用，尤其是在医学、生物、化学等领域。比如，由美国Anthropic公司发布的大语言模型Claude 3发布没多久，博士们就纷纷发现自己手里还没发表的研究成果都被Claude 3破解了。化学博士发现，自己要用一年时间做实验的研究，Claude 3只用了2个小时就给出了方案，比自己的研究方案更简洁，成本却只要5美分。一位量子物理学博士也震惊地发现，难觅知音的论文竟然被Claude 3看懂了！另一位量子物理学博士在提交博士论文前，用论文中的问题询问了Claude 3，结果只用了两个提示词，这位博士就得到了自己将要发表的论文的发现。

从这个角度来看，在人工智能的加持下，科研的进步和发展将可能一日千里。

以人工智能的迭代速度，在您看来，未来是否会有大批职业被人工智能取代？

人们渐渐感受到了人工智能对各行各业的冲击。人工智能在消灭一些岗位的同时，也提供了新的岗位机遇。

就像金融业，在如今的银行网点，智能柜员机取代了银行柜员的很多职能，大堂内机器旁耐心且态度友好的一两个经理，再加上几台智能柜员机，就能完成大多数初级业务流程。

2024年1月，硅谷涌现了裁员潮，谷歌裁掉1000多人，还有27家公司也陆续宣布裁员。裁员的最主要因素是由于人工智能在编写代码能力上突飞猛进，导致科技公司对于初级程序员的需求有了明显下降。

过去，人们羡慕记忆能力强的人，他们满腹经纶、出口成章。人们由此得出结论：这是一个有学问的人。然而，信息时代，很多知识都“外挂”了，人类的很多能力似乎都显得没那么重要了。

例如，国外的一些基金公司已经出现了这样的现象，传统通过分析公司商业价值进行投资的基金经理，其业绩不如使用人工智能技术看数据的年轻基金经理。这不免令人困扰：这会不会助长通过做数据导致虚假繁荣的公司发展，而让深耕技术研发却尚未获利的公司得不到投资？长此以往，是否会造成整个行业崩盘？好在目前，在金融投资领域，人工智能还无法替代人的智识。因为一些数据分析软件只是在一波波逐浪，对股票掐尖，而基金经理会判断某只股票是否为潜力股，若答案是肯定的，就有机会抓住巨大投资峰值。

此外，人工智能也可能会催生新行业，产生新机遇。比如美国某人工智能初创公司用百万年薪聘请提示词工程师（Prompt Engineer）。

由此可见，人工智能在颠覆一些行业的同时，也掀起了新兴行业的浪潮。未来，是挑战与机遇并存的时代。

针对生成式人工智能在高等教育领域产生的影响，全球知名大学目前都有什么措施？他们怎么看待人工智能背景下的挑战与影响？

全球来看，各个大学对人工智能应用的态度各有不同。一些大学鼓励和支持，一些大学表示允许，还有一些大学官方不表态或者说不禁止，大多数高校倾向于支持师生合理使用生成式人工智能，并制定了具体的政策与规范。

对于生成式人工智能可能带来的学术诚信风险问题，各个学校普遍都会表现出担忧。针对教师关心的剽窃和抄袭情况，不少学校会拿出过去的政策，分析哪条政策能涵盖生成式人工智能带来的新情况，并做出一些对应的解读。比如不允许教师将学生作业上传至生成式人工智能工具上进行分析，就是沿袭过去不允许将学生作业上传至互联网的做法，避免作业成为训练数据，引来查重泄密等麻烦。

对于学生在作业和论文中使用了生成式人工智能辅助的情况，有多家出版社给出了引用陈述示例,在一些大学的教学中心推荐给师生的参考资料中，也有上述内容的表述示例。

国外高校的信息技术部门通常会对校内使用的信息技术进行评估,设定各种应用可能带来的数据风险和隐私风险,并给出分级对策。如斯坦福大学的信息技术中心就在系统评估的基础上，对于一些ZOOM插件明确给出了禁用提示。

由于美国不少一流高校非常重视知识产权和数据保护，建立全校范围的私域大语言模型以支持校内应用，已经成为一个趋势。例如，美国密歇根大学的愿景是成为生成式人工智能领域的领导者，该校于2023年夏天为全校多校区的师生提供了三种封闭的生成式人工智能工具，旨在解决校园用户访问人工智能过程中的免费、隐私、可访问性和公平性问题。康奈尔大学也与微软合作，建立了本校全体员工可以使用的私域大语言模型应用；哈佛大学的私域大语言模型目前只对法学硕士项目进行试点；斯坦福大学还在研发之中。

在推动教学中合理合规应用生成式人工智能方面，各大学的教学发展中心发挥了重要作用，不仅提供了多学科教学交流研讨会、开办了工作坊，还提供了丰富的在线课程和示范样例，辅助师生全面认识和重视生成式人工智能对教学与科研的影响。其中，哈佛大学本科教育办公室的工作很有代表性，他们根据课程教学中使用生成式人工智能的三种程度，为教师编制了在课程大纲中使用生成式人工智能的合规表述，如禁止使用情况的表述、鼓励使用情况的表述、混合使用情况的表述等，教师只需复制到自己的课程教学大纲中即可。澳大利亚墨尔本大学提供了一系列高质量的资源、网站和案例研究精选列表，协助教师设计出不易受人工智能影响的作业和考试活动，减少由人工智能带来的学术不端行为。

有些大学尚未出台指导政策。如加利福尼亚大学伯克利分校表示：ChatGPT并非本校所支持的工具，本校尚未审查ChatGPT的可访问性、隐私和安全性。因此，如果教师选择在教学中使用ChatGPT，则有责任审查和审核ChatGPT在可访问性、隐私和安全性方面的问题。如果学生以任何方式都无法访问ChatGPT，教师则应保持开放的态度，为学生提供完成作业的其他选择。

国内高校方面，据我所知，北京大学、清华大学都有课程开发了人工智能助手，帮助学生答疑。一些高校的个别专业（如人民大学）也在做借助人工智能技术的专业人才培养过程改造，中国地质大学正在建立专业垂直大模型……相信随着国内大语言模型可用性增强，基于国产生成式人工智能的教学与科研应用也会越来越多、越来越深入。

在您看来，人工智能的发展给教师提出了哪些新要求和新挑战？

近两年，我身边有团队陆续向出版社交付了指导中小学教师编写提示词（Prompt）的书，以及指导高校教师利用大语言模型开展教学科研的书。我在与中小学校长访谈时也发现，很多中小学也正在培训教师学习如何优化与大语言模型的对话交流。

然而，我认为这种培训很快就没有什么必要了，现在不少大模型都出现了提示词优化工具。人不必迎合工具，科技公司会对大语言模型应用进行优化，让人们使用起来更便捷，和近些年智能手机的使用体验逐渐提升同理。因此，没有必要花大力气做培训，刻意以提升教师的信息素养为名，来达到与人工智能有效对话的目的，工具本身必将走向界面更人性化、更友好的方向。

从某种意义上而言，大语言模型出现后，对教师信息素养的要求实际上降低了。比如，我以前坐飞机，看到别人在没网的情况下还能用手机看电影，才知道手机容量有多大了、视频资源有多小了，像是打开了新世界的大门：原来还可以这样，我也可以这么做！

在将人工智能融入课堂方面也是同样的道理，通过案例展示，达到促进教师应用的目的。学校可以为教师提供丰富的结合人工智能开展教学的案例，通过学习各种不同的案例，教师将了解到，原来人工智能工具还能这样使用，那么在教学中就会自然而然地去尝试。

例如，通过观看各种不同的应用案例，教师将会发现，在教师应用层面，可以利用ChatGPT制定教学大纲、生成讲义、设计课堂活动、开展调研探索等功能；在学生应用层面，ChatGPT可以帮助智能答疑、个性化互动、作业评测和考试辅助。

通过接触案例，教师将在教学中逐渐习惯应用人工智能辅助教学，达到开阔眼界、打开思路、提升效率的目的。

关于人才培养方面，您认为教育机构应该如何培养适应人工智能时代的人才？

一方面，要给学生提供接触和使用人工智能的环境平台。现在的学生都是互联网原住民，他们对新技术的适应速度非常快。我认为，在提升学生信息素养方面，可以为他们创造接触新技术的环境。比如，与其给学生上科学素养课，不如设计科学装备角，经常让学生自己动手、自由拆装，那么科学素养的提升也将水到渠成。信息素养的提升也同理。 

另一方面，要培养学生解决问题的能力，需要提供学生“修炼内功”的场所和具有挑战性的问题，培养他们借助人工智能技术解决问题的能力和人机交互的能力。未来世界，要培养善用人工智能的人才。