跳到正文
Phys.org·· 6 天前AI 评分27

为什么写作课堂教授“合乎伦理”地使用 AI 来学习写作必须包含拒绝权(评论)

Why teaching 'ethical' classroom use of AI to learn writing must include the right to refuse

AI 导读

一篇评论文章主张,写作课堂教授“合乎伦理”地使用 ChatGPT 等 LLM 聊天机器人时,必须包含拒绝 GenAI 的权利。作者认为,伦理讨论不应只停留在学术诚信,还应覆盖 AI 的环境成本、离岸剥削劳动及市场逻辑对能源、水、土地和矿物的影响。文章援引写作研究中的“GenAI refusal”路径,将拒绝视为有原则的学科回应。

AI 深度导读逐节精读,配原文插图
背景
围绕生成式 AI 进入写作课堂,写作与文学教学领域的指导性文件此前采取的立场是反对全面禁令,转而呼吁给出把 LLM 合乎伦理地纳入写作教学的指引。作者所在的维多利亚大学也公开表示“致力于以透明、负责任、伦理与公平的方式支持 AI 的使用”。在写作教学语境里,“伦理”与 AI 连用时往往被当作学术诚信的简称,讨论围绕写作与作者身份、透明度与写作过程展开。作者质疑的正是这个前提:即便一些伦理指引会提醒反思 AI 究竟在何时适用,它们通常仍把“伦理的 AI 使用是可能的”当作不言自明的结论。而 AI 有环境成本,也带来深刻的社会与人的层面的问题;如果不把“伦理”的含义想得更宽,就会辜负正在学习学术写作的学生。
配图为写作课堂上的学生,文中称这类课程奠定后续大学生活的基础
配图为写作课堂上的学生,文中称这类课程奠定后续大学生活的基础
做法
这是一篇论证性文章,不做实证,路径是修辞学的“先在问题”(prior questions)。作者借修辞学者 Judy Z. Segal 的提法,主张先问“什么”和“为什么”,而不是从“如何”起步:Segal 的示例是不问“如何让整容手术更安全”,而问“我们是如何、又为何会觉得自己需要通过整容来改善”。作者把这套问法搬到 LLM 与大一写作课上:面对“如何教学生合乎伦理且负责任地使用这些工具”,先退一步追问“伦理”指什么,以及“是什么让我们一开始就认为它是伦理的”。支撑材料来自写作研究内部:引用 John Duffy 收入《Naming What We Know: Threshold Concepts of Writing Studies》的短文《Writing Involves Making Ethical Choices》,引用 Kate Crawford 对 AI 理论必须计入驱动并支配它的国家与公司、在地球上留下印记的采掘业、大规模数据攫取与极度不平等且日益剥削性的劳动实践的说法,并援引 Sano-Franchini、McIntyre 与 Fernandes 提出的“GenAI 拒绝”路径及其给出的 10 条理由中的第 10 条。文章同时把课堂视为政治空间,引用文学与写作课教师 Tyler Branson 的主张:大一写作课与其说是学术写作课,不如当作“公民实践课”来上。
结论
作者的主张可以拆成几项。其一,“伦理”的范围必须越出作者身份与学术诚信,把环境影响、离岸的剥削性劳动,以及经济市场逻辑如何左右能源、水、土地与矿产等关键资源的使用、如何左右支持与反对采纳的论证,一并纳入课堂讨论。其二,学生应当拿到抵抗与拒绝生成式 AI 的理由和机会,而不只是使用规范。其三,作者挑出 Sano-Franchini 等人 10 条理由中的第 10 条:拒绝可以是对生成式 AI 技术进入大学写作课程的一种有原则且务实的回应。其四,需要检视告诉学生“可以用 ChatGPT”时正常化了哪些价值:研究显示 ChatGPT 默认使用铺张的、定性的赞美,作者据此追问这种即时反馈能否现实地让学生准备好进入人际网络、接受教师或同伴的反馈;若写作教师把向 LLM 求助正常化,也可能一并正常化学生对写作中心交谈、去办公时间、咨询馆员所需付出的努力的回避。
配图提出 LLM 的即时反馈能否让学生准备好接受同伴与教师的反馈
配图提出 LLM 的即时反馈能否让学生准备好接受同伴与教师的反馈
机制
论证链条是这样搭的:写作本身与权力纠缠,学生学的是在不牺牲自身认知方式的前提下把自己的声音加入学术对话,因此课堂不是中立的技术练习场。按 Duffy 的说法,每次为他人写作都是在向读者提议一种关系,随之而来的伦理问题包括“我想成为什么样的人、我该如何对待他人”。把 AI 使用框成“如何做才合乎伦理”,等于跳过这个关系层面的追问,只处理操作规范;Crawford 的提醒则说明,AI 的理论描述若不含国家、公司、采掘业与劳动就描述不全,因此“伦理”也不可能只在文本与作者身份内部闭合。落到习惯上,即时且带赞美的反馈与需要主动求助的人际渠道是两种训练:前者可以在不进入人际网络的情况下满足需求,后者要靠努力换取。
意义
对写作教师与课程设计者,这篇文章的用处是把“拒绝权”写进“伦理使用”的指导里,而不是把它当作不合作的例外。它给出的路径既不同于全面禁令,也不同于无条件纳入:课堂仍然讨论如何使用,但同时保留并说明为什么不用的理由。对需要起草 AI 使用政策的院系,以及在大一写作课里处理权力与公民话语的人,这套框架可以直接取用;它还把伦理讨论的落点从个人诚信移到了机构、资源与劳动。

本页是 AI 精读,不转载论文原文;完整论文(含方法、图表与参考文献)见原文

来源:Phys.org · phys.org