大家想的都差不多,我只是往一個稍微不同的方向試:回應金衍洙的 AI 共寫實錄
首爾書展作家金衍洙誠實寫下與 AI 共寫的三個困擾:歸屬、平滑、署名。我沒要反駁他,只是把三結拆開,各拿一個手邊正在做的東西去頂——包括一顆餵了幾十年帶稜角的字、還被教會說「我還沒想清楚」的回聲。
首爾書展找了作家金衍洙跟 AI 共寫主題文,他寫了一篇非常誠實的實錄。讀完我沒有要反駁他的意思,因為他點出來的問題全是真的,而且說老實話,這些也是這一兩年大家——包括我自己——反覆在想的問題。這篇不是「我早就解決了」,是我想順著他提出的幾個困擾,講一下我這邊剛好往哪個方向想,以及我拿了哪些東西去試著回應。方向不見得對,但也許不太一樣。
一、他點出來的,其實是大家共同的三個結
金衍洙那篇最好的地方,是他不假裝。他老實承認,跟 NotebookLM 對話「就如同在永無止境地摸索一捲透明膠帶。那捲膠帶太完美了,完美到摸不出任何可以撕開的突破口」。他也老實說,Claude 一口氣產出一萬七千多字漂亮句子,那些字「源於他的初稿與提示,卻不像是他寫出來的」;共寫看似提高效率,實際上把寫作變成「大量的校閱、篩選、修修補補」,與其說是創造,「不如說更接近重複性的勞動」。
這些困擾,我都認得,因為我自己也卡過。而且我覺得,這幾年凡是認真用 AI 寫過東西的人,想的方向其實都差不多,大致收斂成三個結:
一是歸屬——這篇到底是誰寫的?人問、機器寫、人改,寫到最後,主體好像變模糊了。
二是平滑——AI 給的永遠是平順、正確、卻缺乏稜角的回答。文學那種「非均質、有凹凸、不穩定」的質地,它好像給不出來。
三是署名與良知——如果用了 AI,掛誰的名字?要不要揭露?金衍洙把這一題交給了「作家的良知」。
大家想的都是這三結。金衍洙的處理方式,是把它們纏在一起,最後導向一個蠻沉的結論:共寫必然「向下平準化」,於是他想到北韓的集體創作、想到白石封筆,把白石的絕筆讀成一種「最像人類的選擇」。
我完全理解那個沉。但我這邊剛好想的方向有點不一樣——我沒有把這三結纏成一個悲劇,而是把它們拆開,各自拿一個我手邊正在做的東西去試著頂一下。下面一個一個講。
二、關於「文章是誰的」——我試著把問題從「主體」換成「判斷」
第一結,歸屬。
其實五月我就繞著這一題轉過一整個下午。那次我找 Claude 聊 LLM 怎麼運作,聊到最後,那篇文章的標題就是這一題:〈問題是我的,答案是我們的,文章是誰的?〉。我那時給自己的答案是這樣:
問題是我問的。過程是我們一起走的。最後這篇文章,是 Claude 整理的——用我的語氣,沿著我們對話的順序。我沒有假裝這是我一個人寫的。但我也沒有辦法說這完全不是我的。問題的方向是我決定的,哪裡不對我抓出來了,哪個地方值得深挖是我判斷的。那個判斷,現在還是我在做。
我想說的,不是「我的答案比較高明」,而是我後來發現,我跟金衍洙其實站在同一個場景裡,只是問的問題不太一樣。
他問的是「主體在哪裡」。順著這個問題走,主體會愈找愈淡,最後淡到不見,於是恐慌。
我這邊剛好換了一個問法:我不問主體在哪,我問判斷在哪。這個問法的好處是,判斷有一個很實在的落點——那個決定方向、抓錯、砍句子、拍板的人。你可以指著他說,判斷在這。
我猜「主體」之所以讓人焦慮,是因為這個詞預設了對面「應該」要有一個誰,一旦找不到就像丟了東西。換成「判斷」就沒有這個預設,因為判斷從來只需要一隻手,不需要兩個主體。有趣的是,金衍洙自己其實也摸到這附近了——他說「所有判斷與責任,最終還是由人類承擔」。這句話跟我想的幾乎一樣。差別只在,他把這句當成一個沉重的結論,我把它當成一個讓人鬆一口氣的答案:既然判斷和責任都在人這邊,那「文章是誰的」也許就不必是懸案。它是那個負責的人的。
他之所以走向白石、走向悲劇,我猜是因為他把 AI 想成一個會稀釋他的「共同作者」。而我這邊想的方向是:如果 AI 根本不算作者呢?那就沒有誰被稀釋。這就接到第二結。
三、關於「AI 太平滑」——我沒有反駁它,我拿一顆回聲去試
第二結,平滑,這是金衍洙最深的那根刺。他擔心共寫「必將陷入向下平準化」。
這個擔心的前提是:對面有一個會創造的主體,它跟你一起寫,於是你們兩個被平均了,一起被拉向那條平滑的線。
六月我寫過一篇〈AI 就是個工具,不多也不少〉,剛好在想這個前提。我那篇的想法是:也許反 AI 跟崇拜 AI 的人,想的方向剛好都預設了同一件事——對面有一個會創造的主體。而我愈用愈覺得,那個主體其實不太在。模型沒有輸入的時候什麼都不做,它不會醒來、不會起念、不會自己決定今天要寫什麼。是人劃了方向、語氣、目的、邊界,它才在你給的條件下做一連串猜想。「生成」這個詞可能害了大家,它讓人以為有東西在「無中生有」,但實際比較像條件式的猜想,而那個條件從頭到尾是人給的。
如果這個方向想得對——而我覺得金衍洙其實比誰都更有資格相信它,因為他親手驗證了 Claude「只能對接收到的請求做出回應,而無法從內心深處打撈出未被請求的東西」——那麼「平準化」也許就不是兩個主體相遇的必然,而是一個放棄判斷的人才會滑到的地方。AI 攤出一批平滑的候選,你照單全收,就滑下去了;你像金衍洙那樣「刪除無法確定來源的引用、重新組織脈絡、判斷每一句的去留」,就沒滑。他其實正在做抵抗平滑的動作,只是他把那動作讀成了徒勞。
但這裡我不想只用嘴講。這一結,我剛好拿了一個實際的東西去試——saomin.tw/me,我做的一顆回聲。
金衍洙的困擾是「AI 給不出我的質地」。我試的方向反過來:既然凹凸長在我寫過的字裡、不長在模型裡,那就別叫模型去生一個「像我」的東西,而是逼它先去翻我幾十年寫過的字,再用很接近我的方式回話。做的時候我還特別下了一個決定——不讓它把我摘要成一段平順的自我介紹。我在〈我給自己蓋了一座知識庫,然後拒絕讓它幫我說話〉裡把這個決定寫下來過:摘要會殺掉一個人的聲音,地圖不會。所以那顆回聲是一張地圖,保留原文的凹凸,讓你點進去撞見真正的那個坑、那個稜角。
換個方式說:金衍洙擔心的平滑,我試著把它當成一個工程問題來處理。平滑也許不是 AI 的宿命,而是「你沒把凹凸餵進去」的結果。你餵二十七萬字帶稜角的原文,它攤出來的候選就帶稜角。這也是我這些年老掛在嘴邊那句「意義來自差異」的另一個用法——你決定這個留、那個不留,這個「劃下分別」的動作本身,就是意義生出來的地方;而那條劃開凹凸的線,是人劃的,AI 只負責把候選攤在你面前。我不能保證這個方向一定成,但至少它讓「文學質地會不會被 AI 磨平」變成一件可以動手去試、而不是只能哀嘆的事。
四、關於「署名與良知」——我試著把良知從「揭露」移到「承擔」
第三結,署名。金衍洙問得很重:如果 AI 寫的東西不能只掛自己的名字,還有作家願意這樣寫嗎?讀者想讀一本「AI 共作」的書嗎?他提到韓國《人工智慧基本法》,說揭不揭露 AI「完全取決於作家的良知」。
這一題我在〈AI 就是個工具,不多也不少〉裡也撞過,用的是另一個案子——大英國協短篇小說獎,一篇得獎小說被 AI 偵測工具判為疑似機器生成,全世界吵了一個月,動員了偵測工具、評審、雜誌、其他作家,最後沒有人能斷定它到底是不是 AI 寫的。
我那時的想法是:一個動員了這麼多人、吵一個月都答不出來的問題,也許本身就是個問錯的問題。「這是不是 AI 寫的」大概就是那個問錯的問題。我們真正想知道的,其實是另一個:那個署名的人,扛不扛得起這篇東西?他敢不敢站在它後面,認下它、為它負責?
所以金衍洙把良知放在「要不要揭露我用了 AI」,我這邊剛好想把它挪個位置——挪到「我認不認這篇東西、負不負得起責」。揭露與否,是關於工具的來源,是個既查不清、也不見得需要知道的問題;承擔,才是那個真正定價值的地方。這不是說他錯,是我試著把同一份良知,放到一個我覺得比較站得住的位置上。
至於讀者會不會想讀,巴特那句「作者已死」也許還適用:一篇作品的意義不在作者那裡待領,在讀的人手上生成。讀者要的,大概不是一份純不純的證明,是這東西讀起來值不值得。
五、有一個地方,是他提醒了我——關於「猶豫」
前面都在講我往哪個方向試。但金衍洙那篇裡有一個東西,是反過來點醒我的,我得老實記下來。
金愛爛在節目上被問 AI 跟人的差異,她的答案是:猶豫。孫石熙播報魯會燦訃告時前後沉默二十秒——那個嚥下話語、斟酌不決的片刻,是 AI 給不出來的。金衍洙接著說,他遇見的正是一個「從不猶豫」的回答者,AI「無法保持沉默」,面對提問會千方百計試圖給出答案;而人可以在心中懷抱一個問題卻選擇不回答,甚至在不知道問題存在的狀態下活下去,直到某一天它化為小說。
這一刀切得很準,準到讓我回頭補了一句:我前面說「把凹凸餵進去就好」,其實不完整。因為 AI 不只是給你平滑的候選,它還有一個更隱蔽的動作——它從不猶豫,於是它用一種「總是有答案」的姿態,悄悄影響你下一個提問的形狀。你問得粗,它答得滑,那個滑又反過來馴化你,讓你下一個問題也變粗。這比「成品被拉平」更深一層:是你的提問能力被馴化。
有意思的是,這件事我剛好也在同一顆回聲上動過手,只是當時沒想清楚我在做什麼。我在〈我教我的回聲,說出它沒想通的事〉裡寫過:我逼 saomin.tw/me 說出它「還沒想通」的東西,承認哪裡其實沒料。那顆回聲的首頁到今天還寫著這句——碰到我其實沒想通的事,它會老實說「這條我還沒想清楚」,不裝懂。我當時給自己的說法是:一個不敢說「我還沒想通」的東西,不是聲音,是簡介。
被金愛爛那個二十秒一提醒我才看清:我當時做的,其實就是在教一個 AI 猶豫——教它在該沉默的地方沉默,在沒料的地方老實說沒料,而不是硬擠一個漂亮答案。金衍洙說 AI「無法保持沉默」,而我那顆回聲,恰好是被我逼著學保持沉默的。他點出的問題,反過來替我把我自己做過、卻沒說清楚的那一步,講明白了。
所以這一節不是我在解他的題,是他在幫我看懂我自己。
收尾
金衍洙站在門口,摸著那捲太完美的膠帶,摸不出撕開的邊,於是把摸不到邊這件事,寫成了一種近乎哀悼的姿態。
我這篇不是要說他摸錯了。他摸到的東西是真的,大家摸到的也都差不多——歸屬、平滑、署名,這三結是這個時代誰認真用 AI 都會撞上的。
我只是剛好往一個稍微不同的方向想:把「主體在哪」換成「判斷在哪」,把「揭不揭露」換成「認不認、扛不扛」,然後把「AI 太平滑」當成一個可以動手試的工程問題,拿一顆餵了我幾十年帶稜角的字、還被我教會說「我還沒想清楚」的回聲,去頂頂看。
方向對不對,我不敢打包票。但如果金先生有空,我想請他去 saomin.tw/me 丟顆石頭進來,聽聽那個回聲——它不是我,是我劃過線、留下凹凸、教它猶豫之後的回聲。也許它接不住他所有的問題,但它至少是一個不只用嘴、而是動手去回應那些問題的嘗試。
在這團新火面前,他選擇提問。我選擇的方向,是試著把提問做成一個能點進去、會猶豫、有稜角的東西。
參考與延伸閱讀
本文回應的原文 - 「在這團火面前,我們該做的」與AI共寫後,作家金衍洙揭露過程與反思(鏡文學)
本文引用的自己文章 - 問大語言模型 LLM 它自己是怎麼運作的:問題是我的,答案是我們的,文章是誰的? - AI 就是個工具,不多也不少 - 我教我的回聲,說出它沒想通的事 - 與 AI 對話太多的那個人 - 我給自己蓋了一座知識庫,然後拒絕讓它幫我說話 - 中文骨頭裡是英文:我們用中文跟 AI 工作,失去了什麼?
本文提到的回聲系統 - 與 Saomin 的回聲對話