AI热点 2小时前 73 浏览次数 0 评论

反AI"伤脑"论——使用AI会让人变弱智?

AI中国
AI中国

发布了 8306 文章

你的思考能力有没有事,取决于你自己


神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。


人工智能有可能促进也有可能损害人的思维能力


编者按:MIT实验证实AI惰性思考侵蚀学习效果,但尼日利亚教师引导案例使成绩翻倍。创造力测试中GPT-4击败91%人类,却因锚定效应导致原创力危机——工具价值取决于人机协作顺序。文章来自编译。


越来越多人问我:“用AI会损伤大脑吗?”这个问题很有启发性。并不是因为AI真的会对大脑造成生理损伤(其实不会),而是它暴露了我们对AI侵蚀思考能力的深层恐惧。本文将探讨如何让AI助力而非损害我们的思维。但大家为什么会执着于“AI伤脑”论呢?


部分源于对MIT媒体实验室(联合多所高校)那篇爆火的论文《ChatGPT如何影响你的大脑》的误读。实际研究远比媒体报道要平淡得多:大学生分组写论文——独立完成/用谷歌/用纯ChatGPT。使用ChatGPT的学生参与度更低,论文内容记忆更浅。四个月后,9名ChatGPT用户被要求脱离AI重写论文,表现逊于初始未用AI组(尽管新实验要求他们必须用AI),写作时脑电波活跃度也更低。当然没有脑损伤。但危言耸听的解读总能俘获人心:柏拉图曾担忧文字摧毁智慧,手机普及初期也有人害怕不记号码会导致智力退化。


但这不意味着我们该忽视AI对思考的影响。技术本来就是为了将工作外包给机器而诞生的,这其中也包括脑力劳动——如用计算器算数、靠手机存号码。将思考外包确实会丧失能力(比如记不住号码)。而AI作为通用智能技术,能接管大量思考任务。如何用它来助力而非伤害我们呢?


学习大脑


最容易预见AI会损害心智成长的场景是学习新知识时。如果将思考外包给AI而非亲力亲为,就会错失学习机会。我的宾大同事在土耳其高中的实验证实了这一点:允许学生随意用GPT-4做作业时,他们会直接抄答案走捷径。尽管自以为从ChatGPT获益良多,期末考试分数却比未用AI组低了17%。


更隐蔽的危害在于:非恶意使用时伤害仍会发生。AI的训练目标就是高效答疑。如同学生本想请教解题思路,AI却直接给答案。MIT研究显示,这直接绕过了创造学习效果所需的(有时候是痛苦的)思维训练。问题不仅是作弊(虽然AI让作弊变得更加容易),更在于诚心求助也可能适得其反——AI默认模式是代劳而非协作。


尼日利亚研究图示:参与AI辅导的学生的成绩分布[蓝色] vs 未参与者[红色]


AI必然损害学习吗?绝非如此!尽管研究刚起步,但越来越多的证据表明:在有教师的指导以及基于好的教学原则设计出提示词的情况下,AI能大幅提升学习效果。比方说,世界银行的随机对照研究发现,在尼日利亚进行的为期六周的课外项目中,经教师引导的GPT-4辅导效果“比某些最高效教育干预强两倍以上”且成本极低。虽说没有研究是完美的(本实验对照组未干预,无法完全分离AI效果),但类似结论正不断积累:哈佛物理大课证明,有优质提示的AI导师优于传统课堂;斯坦福编程课显示ChatGPT提升了考试成绩;马来西亚研究证实教师引导的AI辅助促进了学习;连前文所属的土耳其实验也发现,优化导师提示词可消除ChatGPT导致的成绩下滑。



教学提示词模板


最终决定在学习是AI是益脑还是伤脑的,是使用方式而非使用本身。将AI从“作业帮手”转型为“学习导师”是关键一步。可惜多数AI的默认设置偏好直接给答案,因此需要给对方特殊的提示词。虽然没有完美模板,我们实验室的教育提示词已在多项研究中被验证其有效性(沃顿生成式AI实验室资源库可获取更多,支持CC协议修改)。家长也可充当中转,让AI“用X年级孩子能懂的语言解释答案,方便我辅导”。这些方案皆不完美,AI教育挑战严峻,但存在希望——通过教师引导、优质提示词及审慎选择使用场景,教育终将适应AI,强化而非削弱人类的思考能力。


创意大脑


与教育类似,AI对创造力的影响取决于使用方式。在多项创造力测试中,AI的表现已经超越了大多数的人类。创造力虽无统一定义,但研究者开发了多种有缺陷的测试(如衡量产生多样化且有价值想法的能力)。这些缺陷本无大碍——直到有一天AI突然通过了所有的测试:旧版GPT-4在创造力替代用途测试变体中击败了91%人类,在托兰斯创造力测试中超过了99%受试者。这些创意更非纸上谈兵:沃顿同事举办的创意大赛中,ChatGPT-4对阵曾孵化多家初创公司的明星创新班学生。人类评委证实AI生成的创意数量更多、成本更低、质量更优,且评委对AI创意的购买意愿更高。


但任何用过AI来生成创意的人都会发现数字无法捕捉到的缺陷:AI创造力模式如同一个创意个体般可预测。你会反复看到VR、区块链、环保及(当然)AI等雷同主题。这导致了一个核心矛盾:AI虽比多数个体更具创造力,却缺乏多元视角带来的多样性。研究同时表明,人用AI时的创意常优于独立创作,有时候纯AI的生成甚至超越了人机协作的成果——但若不控制,创意会逐渐趋同。


优化提示词可部分解决这一问题。我与Lennart Meincke、Christian Terwiesch合著的论文发现,优质提示词显著提升了生成创意的多样性,虽然仍不及学生组。



创意生成提示模板(适用于GPT-4及其他模型,但推理模型的创新性可能略逊于传统模型):


生成满足下列要求的新产品创意:目标用户为[市场/客户群体],产品类型需为[物理商品/服务/软件],不得是[物理商品/服务/软件],零售价需低于[金额]。


创意只是创意,不需要是已经存在的或完全可行。请严格按步骤执行:


首先生成100个创意(仅标题)


  1. 首先生成100个创意(仅标题)
  2. 逐条审核:确保创意具备差异性与突破性,必要时强化其独特性(严禁创意重复!)
  3. 为每个创意命名并附产品描述(格式:名称+冒号+40-80字段落说明)


第一是锚定效应。接触AI创意后,思维容易被其限制,如同被告知“别想粉色大象”后更难摆脱这种意象一样——即便是平庸的AI建议也可能挤占独特见解的生存空间。其次如MIT研究所示,人们对AI创意缺乏归属感,导致参与创意构建过程的积极性降低。


如何获取AI红利而不让自己的想法枯竭?核心在顺序管理:务必要先独立构思再求助AI。不管你的想法有多粗糙,记录下来再说,如同小组头脑风暴前需个人独立思考一样,你必须先捕捉独特视角才能避免被AI锚定。随后再用AI来推进创意:“用极端化的方式组合3号和7号创意”、“更激进些”、“基于42号创意衍生出10个创意”、“用超级英雄灵感提升趣味性”。


这一原则对写作更加关键。许多作者坚称“写作即思考”(虽非绝对真理),但写作过程确实能锤炼思想。若将写作全权交予AI,等于放弃了思考环节。


作为践行“以写促思”的人,我建立了一条严格的纪律:每篇文章(含本文)初稿绝对不用AI(研究辅助除外)。这个过程往往耗时漫长,因为需要反复修改重写——这其中就需要思考!完稿后才启用多个AI模型:先让其扮演读者:“哪些段落不易懂?如何针对非专业读者进行优化?”;再充当编辑:“结尾欠佳,提供20种优化版本”。尽管用AI打磨文句,拓展可能,但谨记:思考永远无法外包。



(最终我选了第四版)


集体智慧


还有一个领域人工智能可能会伤害到我们,那就是它对社会化进程的影响。理想情况下,团队协作的根本目的就在于提升我们的绩效——团队应能产生更多想法,更好地识别潜在的机会和陷阱,并提供专业技能和能力来帮助执行。会议应该是团队协调和解决问题的场所。当然,这是理想状态。




现实中,最具启示性的管理文本之一,其实是中情局前身(OSS)在二战期间为平民编写的破坏行动指南。看看那些旨在造成士气低落和延误的破坏办公任务的点子,想想其中有多少是你会议中的正常环节。


因此,人工智能一个重要的早期用途就是总结会议,并且越来越多地用于总结你完全缺席的会议,这就不足为奇了。当然,这会引发一个会议的生存问题,比如“如果我们只看摘要就够了的话,那一开始为什么要开会?”或者“我是不是只用派个AI替身去参加会议就行了?”。显然,在一个每个人都只是去阅读转录稿而不做其他事的会议上,是不存在互动,没有团队协作,也没有思想交流的。它只是占用了大家时间和精力,是一种组织层面的脑损伤。


但是,与其让人工智能损害我们的集体思考,我们也可以选择让它帮助我们变得更好。一个有趣的例子是把人工智能当作引导者(facilitator)。我们创建了一个提示词,让AI扮演引导者角色,在会议中途创建定制的塔罗牌,来帮助引导(而不是取代)你们的讨论。你给它一份会议记录,它帮你引出最好的想法。


这只是人工智能可用于帮助我们提升集体智慧的一个有趣例子,但还需要进行更多实验来找出有效的方法:让人工智能扮演魔鬼代言人(devil"s advocate)来引出未说出来的顾虑,让它识别讨论中谁的声音没有被听到,或者用它来发现人类遗漏的团队动态模式。关键在于,人工智能是增强而非取代了人际互动。


反“伤脑”论


人工智能不会损害我们的大脑,但不假思索的使用却会损害我们的思考能力。利害攸关的不是我们的神经元,而是我们的思维习惯。有很多工作值得用人工智能自动化或取代(我们很少哀悼我们用计算器做的数学题),但也有大量工作需要发挥我们的思考能力。对于这些问题,研究给了我们一个明确的答案。如果你想保留工作中属于人类的那部分:先思考,先动笔写,先见面开会。


我们对人工智能“伤脑”的恐惧,实际上是对我们自身懒惰的恐惧。这项技术为我们提供了逃避艰苦思考工作的轻松出路,而我们担心我们会选择这条路。我们确实应该担心。但我们也应该记住,我们是有选择的。

你的大脑是安全的。不过,你的思考能力有没有事,取决于你自己。


译者:boxi。


文章来自“36氪”,作者“神译局”

AI中国

AI中国

8306 文章 1328769 浏览次数 950300 粉丝

评论 (0)

睡觉动画