??Boboshko-Studio / Shutterstock

(資料圖片)

利維坦按：

這波由ChatGPT引發(fā)的AI爭(zhēng)論之所以如此火熱，很大一部分原因是因?yàn)樗俅蜗破鹆苏Z言領(lǐng)域的“恐怖谷效應(yīng)”。就像曾經(jīng)的硅膠高仿真人偶以及AI棋手AlphaGo。機(jī)器人長(zhǎng)得跟人一模一樣了；機(jī)器人聰明到打敗人類最強(qiáng)棋手了；機(jī)器人會(huì)“說人話”了。而我們最為恐懼的是被取代的可能性，當(dāng)ChatGPT展現(xiàn)出從未有過的語言能力，當(dāng)我們無法分清一句話究竟來自碳基還是硅基，這種恐懼就會(huì)充分膨脹。往好了說，它或許真的能跟樂觀派所希冀的那樣給社會(huì)帶來諸多便利；往壞了說，它的確也有可能是那個(gè)最壞結(jié)局的預(yù)兆，但類似的事情顯然不是第一次。

計(jì)算機(jī)和信息技術(shù)曾被贊為“對(duì)教育領(lǐng)域的革新”，它們帶來的好處是實(shí)實(shí)在在的，給學(xué)生提供的信息量遠(yuǎn)遠(yuǎn)超過了課本。它們讓教學(xué)資源更加靈活，能夠滿足個(gè)人需求，并促使學(xué)生、家長(zhǎng)和教師之間的互動(dòng)更為便捷高效。在疫情隔離期間，如果沒有網(wǎng)絡(luò)課程，學(xué)?？峙伦霾涣硕嗌偈虑?。

AI聊天機(jī)器人和大型語言模型的問世帶來了更多機(jī)會(huì)。美國人工智能研究實(shí)驗(yàn)室OpenAI開發(fā)的ChatGPT（一種人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具，譯者注）已于2022年11月上線，這一工具可以給學(xué)生提供練習(xí)題、答案以及反饋，還能檢查作業(yè)，從而減輕教師的負(fù)擔(dān)。

相較于谷歌給出的含糊不清、一團(tuán)亂麻般的海量信息，ChatGPT的可互動(dòng)性更受學(xué)生的歡迎，并可以解決更具體的問題。

??Medpage Today

算法無法理解“愛”和“擁抱”在語義上是存在聯(lián)系的。

但是根據(jù)英國謝菲爾德大學(xué)數(shù)字素養(yǎng)專業(yè)教授詹妮弗·羅塞爾（Jennifer Rowsell）所說，大型語言模型也讓英語教師憂心忡忡。犯懶的學(xué)生利用ChatGPT輕輕松松就能寫出一篇像樣的論文。ChatGPT并不只是從網(wǎng)絡(luò)上搜尋、復(fù)制一篇文章，而是重寫——如果你想，還能給你無數(shù)篇，直到你滿意為止。有些教師坦言，ChatGPT寫出來的東西通常能得不錯(cuò)的分?jǐn)?shù)。

發(fā)表于《紐約時(shí)報(bào)》（New York Times）的一篇文章稱[1]，一位大學(xué)教授證實(shí)曾發(fā)現(xiàn)一個(gè)學(xué)生用ChatGPT寫的哲學(xué)論文是班上質(zhì)量最好的。高中人文教師丹尼爾·赫爾曼（Daniel Herman）寫的一篇文章發(fā)表于《大西洋月刊》（The Atlantic），他在此文中稱：“我以及成千上萬教師、教授、輔導(dǎo)員和管理人員的生活將發(fā)生翻天覆地的變化?！彼J(rèn)為ChatGPT會(huì)對(duì)現(xiàn)有教育體系造成巨大影響。

學(xué)校已經(jīng)展開了“保衛(wèi)戰(zhàn)”。紐約教育部門計(jì)劃在公立學(xué)校禁用ChatGPT，但這也阻止不了學(xué)生在家中使用。一所公立學(xué)校的社會(huì)學(xué)科課程教師丹·盧爾（Dan Lewer）在TikTok上建議，教師應(yīng)該要求在家中上傳作業(yè)的學(xué)生同時(shí)也要提供一段短視頻，重述自己的文章論點(diǎn)和論據(jù)。盧爾表示，這能確?！八麄冋娴膶W(xué)進(jìn)去了，而不是隨便在網(wǎng)上找點(diǎn)東西敷衍了事”。

作弊學(xué)生的好朋友？給ChatGPT 一點(diǎn)論文提示詞，比如瑪麗·雪萊（Mary Shelley）的《弗蘭肯斯坦》（Frankenstein）如何影響了科幻中的女性主義書寫，它就會(huì)給學(xué)生提供一些至少可稱得上是頭緒的東西。如果繼續(xù)互動(dòng)，你就能用它輸出的文字完成這篇論文了。

OpenAI的研究人員正在著手給ChatGPT產(chǎn)出的內(nèi)容加上水印，比如讓它選擇帶有隱藏?cái)?shù)字簽名的詞語。至于這一方法是否有效，為此煩惱不已的教師是否能輕松檢查完一整個(gè)班級(jí)的論文，我們不得而知——而且學(xué)生可能會(huì)通過運(yùn)行其他語言學(xué)習(xí)軟件改寫ChatGPT生成的內(nèi)容。在這場(chǎng)教師和企圖作弊的學(xué)生之間的較量中，教師可能無法掌控全局。有些人已經(jīng)斷言，課外論文作業(yè)已經(jīng)失去意義了。

然而，ChatGPT帶來的棘手問題并不局限于作弊。

AI不需要任何真情實(shí)感或者理解能力就能制造出比許多學(xué)生寫得更好的論文，這一事實(shí)應(yīng)該引起反思：什么才是教師一開始想教給學(xué)生的。

赫爾曼表示，他認(rèn)為教師現(xiàn)在面臨的問題不再是青少年是否需要學(xué)好寫作這一基本技能，而是“這樣教寫作還有價(jià)值嗎”？

ChatGPT能夠產(chǎn)出超出一般水平的論文，不是因?yàn)槁斆?，而是因?yàn)榈贸龃鸢傅穆窂揭驯欢x好，當(dāng)然，這也不是說這些工具就不厲害了。但這是件好事嗎？羅塞爾說，許多教育專家早就覺得有必要改變現(xiàn)有教授英文的方式，但她表示：“老師們發(fā)現(xiàn)變革我們熟悉已久的教學(xué)方式非常困難。如果不這樣教，我們也不知道要怎樣教。”

語言AI可能會(huì)大大凸顯這一問題。羅塞爾提及：“科技突飛猛進(jìn)，而我們這些（讀寫教育）老師并不知道怎么迎頭趕上。不過我們已經(jīng)了解到，不要與新事物對(duì)抗，而是學(xué)會(huì)理解與合作。傳統(tǒng)的論文寫作和ChatGPT并非是魚和熊掌不可兼得的關(guān)系。也許這能推動(dòng)我們教育方法的變革?！?/p>

如果是這樣，我們應(yīng)當(dāng)先考慮語言的作用是什么。

從AI發(fā)展的早期開始，能夠運(yùn)用自然語言互動(dòng)的算法就已存在。麻省理工學(xué)院的計(jì)算機(jī)科學(xué)家約瑟夫·魏森鮑姆（Joseph Weizenbaum）提及，20世紀(jì)60年代，他的同事在和叫作伊萊扎（Eliza）的程序交流時(shí)被氣得七竅生煙，同事以為這個(gè)交互對(duì)象是魏森鮑姆假扮的——并且還是處于懟人狀態(tài)的魏森鮑姆。

??John Maeda"s Blog

像伊萊扎這樣粗糙的語言程序都能愚弄使用者的事實(shí)表明，我們素來就容易把人和機(jī)器搞混。甚至直到最近，處理語言的算法制造出的都不過是毫無邏輯、充滿語言錯(cuò)誤的短語。不過，隨著技術(shù)進(jìn)步——計(jì)算機(jī)能力的指數(shù)級(jí)增長(zhǎng)、2015年左右出現(xiàn)的深度學(xué)習(xí)算法、不斷擴(kuò)張的網(wǎng)絡(luò)數(shù)據(jù)庫，機(jī)器已經(jīng)能夠制造出幾無差錯(cuò)的句法規(guī)則，其模仿人類智識(shí)的程度令人不安。

ChatGPT是一個(gè)破局者，它可以表演各種各樣的戲法，比如融合不同資料和風(fēng)格，以《欽定版圣經(jīng)》的風(fēng)格寫一份英式魚派的菜譜，或是就艾伯特·愛因斯坦（Albert Einstein）和尼爾斯·玻爾（Niels Bohr）關(guān)于量子力學(xué)的爭(zhēng)論寫一首打油詩。

??Home Care Innovation Forum

很顯然，大型語言模型技術(shù)帶來了危險(xiǎn)。我們?cè)谔幚砣绱烁叨饶７氯祟愃妓搿⒌珜?shí)則空洞乏味的信息方面幾乎沒有經(jīng)驗(yàn)。該算法自動(dòng)生成那些看起來具有說服力的冗長(zhǎng)廢話（或者說，以一種看起來“客觀”而矯揉造作的方式重新組織人類已經(jīng)說過的話），其以冷靜自持的腔調(diào)產(chǎn)出的內(nèi)容可以為任何人所用，當(dāng)然，也可以被濫用[2]。

如果ChatGPT寫出了一篇可信的論文，那是因?yàn)閷W(xué)校布置的作業(yè)向來大同小異。

從根本上來說，算法也是相當(dāng)“懶”的。當(dāng)我要求ChatGPT從女性主義角度概括《弗蘭肯斯坦》的情節(jié)時(shí)，它似乎并沒有參考關(guān)于該話題的海量文獻(xiàn)，而是給出了一些和小說關(guān)系不大、生硬而陳舊的比喻句：它“可被視為對(duì)當(dāng)時(shí)父權(quán)社會(huì)的注釋”，以及“基于外表評(píng)價(jià)女性的方式”。如果把書換成《傲慢與偏見》，估計(jì)也是同樣的一套說辭。

如果向大型語言模型提供更好的提示語，那么一些缺點(diǎn)或可避免。但是，為了得到十分精準(zhǔn)、有理有據(jù)的回答，使用者要對(duì)相關(guān)知識(shí)非常熟稔，此時(shí)，寫論文這件事對(duì)他來說自然也不構(gòu)成困難。從根本上來說，這些缺點(diǎn)反映了算法并不是就《弗蘭肯斯坦》中女性主義的這一線索而組織答案，而是根據(jù)我的提示，尋找最有可能與之相關(guān)的語句。

??Knack

就像所有其他深度學(xué)習(xí)AI一樣，它在可用的數(shù)據(jù)庫中（這里指網(wǎng)絡(luò)上那些可搜刮的文本）尋找相關(guān)內(nèi)容和模板。如果你讓它寫首愛情十四行詩，在它的答案中，像“永遠(yuǎn)”“心”“擁抱”等詞語肯定比“螺絲刀”這類詞語多——除非你說明就要寫一首關(guān)于螺絲刀的十四行詩（當(dāng)然，我也這樣做了，出來的東西不是很好看）。

算法無法理解“愛”和“擁抱”在語義上是存在聯(lián)系的。

ChatGPT令人影響深刻的地方在于，它不只是把詞語之間的語法關(guān)系理順，還能創(chuàng)造語境。我想，至今人類詩人還沒有寫出像這樣的句子：你是螺絲釘/將我緊緊抱住，但它達(dá)到的水平已能讓我驚嘆不已。（ChatGPT也會(huì)使用雙關(guān)，不過也是在我的引導(dǎo)下完成的。）

對(duì)于事實(shí)類的提示語，隨機(jī)生成的文本基本能夠給出普遍認(rèn)同的事實(shí)。它會(huì)確保排除任何極具爭(zhēng)議的觀點(diǎn)，因?yàn)閺亩x來看，如果不是普遍認(rèn)同的，那么就是存在爭(zhēng)議的。如果你問它是誰殺死了肯尼迪，它會(huì)回答：李·哈維·奧斯瓦爾德（Lee Harvey Oswald）。但ChatGPT偶爾也會(huì)犯錯(cuò)。讓它寫我的自傳時(shí)，它把我的年齡減了兩歲（還行，我能接受），還虛構(gòu)了我于職業(yè)生涯初期在制藥行業(yè)工作的經(jīng)歷（就很離譜）。

教師面臨的問題是：像以前那樣教寫作還有意義嗎？

如果ChatGPT能寫出一篇可信的論文，那是因?yàn)槲覀兘o學(xué)生布置的作業(yè)大同小異：給出基本的事實(shí)，注意連貫性。學(xué)生的論文寫作已經(jīng)非常模式化，幾乎到了可以和算法媲美的程度，比如論點(diǎn)-論據(jù)-解釋-關(guān)聯(lián)，論點(diǎn)-論據(jù)-分析-背景信息。學(xué)生接受的教導(dǎo)就是這里寫什么，那里寫什么，如果偏離模板，就可能扣分。

現(xiàn)在的寫作課程強(qiáng)調(diào)按照既定的套路來進(jìn)行論證，當(dāng)然這是有一定道理的，正如藝術(shù)生都會(huì)去美術(shù)館臨摹大師的作品，先從技藝開始學(xué)起，此時(shí)一味追求原創(chuàng)既會(huì)給學(xué)生造成負(fù)擔(dān)，也不太現(xiàn)實(shí)。

但這是我們真正想要的嗎？羅塞爾說教師或教育學(xué)家就連正視這個(gè)問題都很難，因?yàn)楝F(xiàn)有教育體系正是基于“這是我們一以貫之的做法”而運(yùn)作的。比如，之所以設(shè)置花體字寫法課程，不過是因?yàn)樗且婚T傳統(tǒng)課程，并無其他的教學(xué)理由。但現(xiàn)在也許是我們問出這個(gè)棘手問題的時(shí)候了。

??Wall Street Journal

偶爾，我也是教育工作者。20世紀(jì)80年代，我曾經(jīng)在監(jiān)獄里教電腦課，我還曾經(jīng)在家教我的孩子。但我想，我同時(shí)也是科學(xué)家。在解釋事物的工作原理之前，我會(huì)從各個(gè)部件講起?！爸挥心阒浪鞘裁礀|西了，你才能用好它，”我內(nèi)心的聲音這樣說。但是，當(dāng)我向被監(jiān)獄中的那些學(xué)生一一展示他們并不熟悉的電腦部件時(shí)，一個(gè)人終于插話說：“我甚至不知道怎么打開它！”

我想，學(xué)生對(duì)學(xué)習(xí)語言的態(tài)度有時(shí)就像那些囚犯對(duì)電腦的態(tài)度一樣，老師告訴他們一些陌生的結(jié)構(gòu)名（名詞、嵌入式從句、前置狀語；中央處理器、隨機(jī)存儲(chǔ)器、比特和字節(jié)），而學(xué)生卻想著：但我只想知道怎么用。

而ChatGPT好像讓這些基礎(chǔ)工作都變得無關(guān)緊要，就像一般的電腦使用者并不需要知道編程或移位寄存器一樣。至于英語寫作，有軟件能做。高中人文教師赫爾曼擔(dān)心學(xué)生會(huì)依賴語言AI做所有的寫作作業(yè)，且許多人覺得在同聲傳譯AI的幫助下，學(xué)習(xí)一門外語實(shí)在是浪費(fèi)時(shí)間。

我現(xiàn)在意識(shí)到，我當(dāng)初之所以教囚犯電腦的工作原理，是因?yàn)槲蚁矚g講這些玩意兒，我想他們中很少——或者說根本沒有人喜歡聽，但他們正確地意識(shí)到會(huì)使用電腦將是重要的生活技能。

我希望我的孩子愛上語言，愛上語言能夠起到的作用，但他們首先需要知道怎么開啟它。語言的開關(guān)并不在于名詞和動(dòng)詞的區(qū)別，也不在于從句的位置，而在于實(shí)打?qū)嵉慕涣鳌?/strong>

我們精通一門語言后，并不是死板地遵從某一規(guī)則。語句或論文的架構(gòu)并不需要僵硬地服從某種文學(xué)準(zhǔn)則，詞、短語和論據(jù)之間并沒有嚴(yán)格的順序要求。盡管有些文章會(huì)顯得套路化，但它們存在的意義是服務(wù)于讀者。

也就是說，閱讀是一個(gè)充滿變數(shù)的認(rèn)知過程，寫作者可以助讀者一臂之力，也可以橫加阻攔。有時(shí)，只要移動(dòng)一個(gè)字，一個(gè)語焉不詳?shù)木渥泳湍茏屓嘶砣婚_朗。這其實(shí)毫無奧妙可言，溝通是一門可以習(xí)得的技巧，就像標(biāo)點(diǎn)的運(yùn)用一樣。（標(biāo)點(diǎn)本身就能幫助人更好地溝通。）

語言的開關(guān)并不在于名詞和動(dòng)詞的區(qū)別，也不在于從句的位置。

要想讓讀者讀懂，作者需要具有同理心，能夠跳出自己的思維框架，站在讀者的立場(chǎng)上想一想。對(duì)于事實(shí)類文本來說，清晰準(zhǔn)確的表達(dá)是最重要的。對(duì)于虛構(gòu)作品來說，最重要的可能是別的東西，甚至可能是阻礙讀者一眼看穿文本，當(dāng)然，這種阻礙不是隨意設(shè)置的，而是為了讓讀者在琢磨出深意之時(shí)收獲一些驚喜和愉悅。

音樂通過旋律和節(jié)奏也能達(dá)到這樣的效果，這是我們?yōu)橹袆?dòng)、為之興奮的部分原因。莎士比亞是出了名的喜歡用倒裝句，例如“But soft, what light through yonder window breaks?”（通常的順序應(yīng)為“what light breaks through yonder window?”, 意為“噓！那邊窗子里亮起來的是什么光?”，出自《羅密歐與朱麗葉》，譯者注），通過打亂詞語順序，讓讀者的思維稍加停留，這也許是為了強(qiáng)調(diào)，抑或是為了讓文字游戲激發(fā)出單純的愉悅。從更廣闊的層面來看，虛構(gòu)作品大多是關(guān)于有克制地暴露的藝術(shù)，在合適的時(shí)機(jī)透露信息，不早也不晚。

??David Adger

語言的本質(zhì)是思維的聯(lián)結(jié)。語言學(xué)家丹尼爾·多爾（Daniel Dor）曾提出關(guān)于語言起源的假說[3]，他聲稱語言的產(chǎn)生并非單純?yōu)榱藴贤?，還是為了“指引思維”。語言使得我們擺脫動(dòng)物的溝通機(jī)制，我們得以將自己的所思所想傳達(dá)給另一個(gè)人，而不是單純用叫聲施加威脅和示警[4]。

這對(duì)語言AI意味著什么呢？正是因?yàn)榇笮驼Z言模型算法沒有以溝通為目的，它根本不知道溝通是什么，也不明白對(duì)話是有聽眾的，所以它沒辦法展示語言的用途是什么，最初被發(fā)明出來的目的是什么。AI將莎士比亞俏皮的文字游戲抹掉，也無法嫻熟地使用修辭手法，正是后者讓好的歷史學(xué)家的講述栩栩如生、令人動(dòng)容。語言模型很難自己創(chuàng)新，而只能模仿，因?yàn)閯?chuàng)新并非其設(shè)計(jì)初衷，正如統(tǒng)計(jì)學(xué)家所說，它們將淪為平庸且了無生氣的工具。

語言的使用正好相反，尤其是年輕人，最為鐘愛造梗和發(fā)明網(wǎng)絡(luò)語言，他們很少有創(chuàng)作瓶頸期，創(chuàng)造出的內(nèi)容也相當(dāng)有趣。與時(shí)俱進(jìn)的教育學(xué)家一直希望開發(fā)網(wǎng)絡(luò)世界的多模態(tài)化，但仍在苦苦思索如何才能達(dá)成目的。關(guān)鍵是，精通多媒體溝通技巧的Z世代有著同樣的觀念、標(biāo)準(zhǔn)和默契，正如唐詩需遵循簡(jiǎn)潔、特定格律的要求一樣。如果在課程中為語言的使用創(chuàng)造空間，AI就不太可能替代語言教學(xué)。

無可否認(rèn)，大型語言模型引發(fā)了大量道德和法律問題?；ヂ?lián)網(wǎng)和其他形式的深度學(xué)習(xí)AI也是如此，例如深度偽造和面部識(shí)別。我們正努力解決這些問題并學(xué)習(xí)如何自處。有人認(rèn)為，拋開AI寫論文所引發(fā)的恐慌不談，大型語言模型最終不過是一種工具，其功用也許就介于Excel表格所代表的乏味實(shí)用主義和數(shù)碼攝影所帶來的創(chuàng)造性之間。

??BBC

畢竟，書面語言自身也是一種工具和手段。這不是說我們只要堪堪會(huì)寫就行，不過確實(shí)意味著ChatGPT等技術(shù)現(xiàn)在提供的東西除了滿足特定需求，還可以變得更有價(jià)值。文筆不太好的人已經(jīng)開始用ChatGPT優(yōu)化求職信或電子郵件，一些科學(xué)家用它來潤(rùn)色論文。可以說，這類技術(shù)可以幫我們馴服語言，正如音樂軟件幫助我們制作音樂一樣。對(duì)于那些英語水平有限又需要專業(yè)寫作的人來說，這項(xiàng)技術(shù)可能是一個(gè)很好的幫手。?

就像電子計(jì)算器將原本需要學(xué)復(fù)雜對(duì)數(shù)運(yùn)算的學(xué)生從繁雜運(yùn)算和對(duì)腦力的折磨中解放出來一樣，大型語言模型也許能夠幫助學(xué)生將更多的精力用于構(gòu)建好的論點(diǎn)、改善敘事節(jié)奏、優(yōu)化語句，而不用苦苦掙扎于掌握拼寫、語法和標(biāo)點(diǎn)符號(hào)的細(xì)節(jié)。

大型語言模型缺乏想象力、風(fēng)格和天資，更不是虛構(gòu)作品作家的對(duì)手。羅塞爾說：“正是寫作的美學(xué)層面，讓AI很難模仿?！辈贿^這正好讓其成為一種重要的新工具。

比如，我猜想AI會(huì)幫助學(xué)生學(xué)習(xí)如何編寫一則故事，如何構(gòu)建一篇文章，并給ChatGPT產(chǎn)出的生硬內(nèi)容潤(rùn)色?；蛟S就像一些音樂家利用制作音樂的AI生成大量素材一樣，大型語言模型也可以給作者提供大量靈感，讓其得以擇優(yōu)創(chuàng)作。

在方方面面，AI都像人類的一面鏡子，它的缺點(diǎn)讓我們看到什么不能被自動(dòng)化和算法化，換句話說，正是這些不能被取代的部分，構(gòu)成了人性的核心。

參考文獻(xiàn)

[1]www.nytimes.com/2023/01/16/technology/chatgpt-artificial-intelligence-universities.html[2]nautil.us/welcome-to-the-next-level-of-bullshit-237959/[3]www.sciencedirect.com/science/article/abs/pii/S0388000116301632?via%3Dihub[4]nautil.us/talking-is-throwing-fictional-worlds-at-one-another-237548/

文/Philip Ball?

譯/Yord

校對(duì)/Rachel

原文/nautil.us/chatgpt-is-a-mirror-of-our-times-258320/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由Yord在利維坦發(fā)布