學術論文的圖片該怎麼處理？國外期刊早有規範—《科學月刊》

2 月 15 日 OpenAI 發佈 Sora，隔一周後 Stable diffusion 3 隨後推出，以前人家都說有圖有真相，現在眼見不實的時代要來臨了，你說？還有什麼可以相信的？

AI 生成的影像到底有沒有方法可以辨識出來？今天，我們來談談近期關於辨識 AI 生成，找出 AI 生成的破綻！

先說結論，理論上可以！但現實很困難，很容易被破解，這集我們回答三個問題：

1. AI 生成影像有什麼破綻？
2. 還有哪些方法可以辨別 AI 生成的影像？
3. 最後來談談這些辨識方法，在現實中會遇到什麼問題？

回到最基礎的問題眼見不再為憑，接下來只會越來越多，不會越來越少，謠言進化成謠圖跟謠影片，現在還真的沒有其他武器，來辨識 AI 生成的內容，說到底還是得回歸自身的媒體識讀、確認訊息來源！

更多、更完整的內容，歡迎上泛科學院的 youtube 頻道觀看完整影片，並開啟訂閱獲得更多有趣的資訊！

精心策畫的論文騙局

一九九六年，紐約大學物理學教授艾倫．索卡（Alan D. Sokal）在後現代研究期刊《社會文本》（Social Text）上發表了一篇論文〈跨越邊界：朝向量子重力的轉形詮釋學〉（”Transgressing the Boundaries：Toward a Transformative Hermeneutics of Quantum Gravity” in the postmodern journal Social Text）。

根據論文摘要，你覺得這篇論文是在講什麼？

「本文的目標，是藉由探究量子重力的最新發展，進一步地深析指出，海森堡的量子力學和愛因斯坦廣義相對論，如今已經被合成和取代。本文將指出，在物理學的這項新興分支中，時空流形不再是客觀的物理實體；幾何學變成了仰賴脈絡的相對關係；過去科學的基本概念已經變成可以質疑的相對性範疇，就連存在本身也不例外。我認為這種觀念革命，對於後現代的自由科學，具有深遠意義。」

如果你覺得這整段話只是用一堆意義不明的術語堆砌起來的胡扯，恭喜你猜對了。

索卡教授瞎掰了一篇論文，投稿到《社會文本》期刊，六名編輯審查之後決定接受，當成嚴肅的學術著作放在該期刊的特刊。

然後索卡發文說整件事都是他設計的騙局。他之所以煞費苦心做這種事，是為了要證明很多學術界的人都會用故作高深的方式騙取名聲。

住在拉普達裡的學者

強納森．斯威夫特（Jonathan Swift）在一七二六年的《格列佛遊記》（Gulliver’s Travels）就諷刺過這種事情，故事中的天空之城拉普達，住著一群偏執的學者和理論家，整天只會研究一些脫離現實的沒用東西。

索卡跟斯威夫特一樣虛構了很多荒謬的東西來諷刺這種現象，他在論文中塞進許多解構主義的流行術語：「偶然的」（contingent）、「反霸權的」（counterhegemonic）、「知識論的」（epistemological）。事後他對《紐約時報》表示，「這篇文章是在刻意模仿某些學者胡亂引述數學與物理概念的行為。我把這些胡扯連在一起，然後發明一個說法去吹捧。整篇文章完全不需要符合任何知識標準，也不需要符合邏輯，所以超好寫的。」

索卡一邊諷刺文化研究與文學批評期刊那種用字吹毛求疵的無聊文化，一邊用詰屈聱牙的高深術語來諷刺那些學界的派系鬥爭。學界彼此批判時候很愛使用一些沒人看得懂的術語，經常搞到即使是同領域的學者，也看不懂作者在說什麼。

事件發生之後，《社會文本》高層發表了一篇相當酸的回應：「索卡博士認為我們是知識相對主義者，他搞錯了。」共同創立該期刊的紐約大學教授史丹利．阿諾維茲（Stanley Aronowitz）表示，「而且這是因為他書讀得太少，學的東西也不夠多」。

索卡看到回應反唇相稽，「光是《社會文本》接受這篇文章，就已經證實那些後現代文學理論家的傲慢，已經誇張到可以無視邏輯。難怪他們從來不去問物理學家，那些引述物理的文字有沒有意義。在他們的世界裡，無法理解變成了某種美德；典故、隱喻、雙關語取代了證據跟邏輯。我的文章只是提供了一個例子，證明了這個流派多年以來的作風。」

學術界、法律界、醫學界這些白領人士，最容易被這種聲望連鎖反應所影響。當聲望決定一切，金字塔頂層的聲音就會過度放大，很多時候他們的說法可以廣傳，並不是因為說法有價值，而是因為其他人希望自己聽得懂他們在說什麼。即使其他專業人士聽不懂，通常也都會為了守住自己的飯碗而默默跟隨。

扁桃體切除術就是個好例子。這種手術的效果欠缺科學根據，但因為「專業醫學意見」普遍認同，一度盛行了幾十年。在二十世紀最時興的時期，上百萬名兒童接受了扁桃體切除術，其中許多甚至因此受傷或死亡；直到某一天，醫學界才終於願意仔細檢查該手術的效果，然後很快就淘汰了它。

當我們為了保障自身聲譽而服從權威時，我們會相信某一套既定的敘事，聽不進任何新資訊，所以很容易繼續以訛傳訛。這種時候，敘事的真假並不重要，因為在其他人眼中，我們這群附和的人都是專家，不太可能搞錯。

不過雖然以訛傳訛的效力很大，但它並非無懈可擊的高牆，反而更像一座疊疊樂——只要抽掉那根關鍵的木條，整座塔就會瞬間崩毀。

——本文摘自《集體錯覺：真相，不一定跟多數人站在同一邊！》，2022 年 12 月，平安文化出版，未經同意請勿轉載。

「關於《科學》…控訴我的前同事 Sylvain Lesné 博士可能篡改影像，我不予置評，畢竟後者正在接受明尼蘇達大學的正式調查。然而，文中的科學陳述我有意見，因為針對我的學理描述並不正確。」^[1] 2022 年 7 月 21 日，知名期刊《科學》的新聞專題，指出影響深遠的 2006 年阿茲海默症論文造假，向全球醫療圈投下震撼彈。^[2] 隔天當事人之一，明尼蘇達大學的 Karen Hsiao Ashe 教授親上火線，在阿茲海默症新聞論壇 Alzforum 上，發出嚴正聲明，同時引發學界熱烈討論。^[1]

《科學》期刊報導，去年 8 月，二名希望 Cassava Sciences 製藥公司股票下跌，以從中獲利的投資人，^[註] 透過律師聘雇時年 37 歲的范德比大學神經科學家 Matthew Schrag 。他們付了美金 1 萬 8 千元，要求調查該公司的阿茲海默症實驗藥物 Simufilam 。執行任務的過程中， Schrag 發現一篇 2006 年刊登於《自然》期刊的論文，十分可疑。^[2] 該研究的第一作者是 Sylvain Lesné ，而 Karen Hsiao Ashe 則是通訊作者。^[3]

Karen H. Ashe 教授是中國裔美國人，本姓蕭，但冠上第二任丈夫的姓氏 Ashe 。^[4] 母親為生化學家袁昭穎（Joyce C.Y. Yuan），曾任諾貝爾得主 Alexander Todd 實驗室的訪問學者；^[5] 父親則是明尼蘇達大學航太工程榮譽教授蕭之㑺（Chih Chun Hsiao），於兩次國共內戰之間移民美國，後來曾受邀赴共產中國教書，並致力於中美交流。^{[4, 6, 7]} 不枉其家學淵源， Ashe 教授 3 歲立志當科學家， 17 歲跳級進入哈佛大學二年級就讀， 27 歲時不僅已經唸完哈佛大學醫學系，還取得麻省理工的博士學位。她曾追隨諾貝爾得主 Stanley Prusiner 教授進行腦部研究；後來在自己領導的團隊中，和法國科學家 Sylvain Lesné 合作阿茲海默症相關主題，^[4] 還因此獲得重要獎項。^[2] 2012 年明尼蘇達的世紀老報《明星論壇》，在專訪中更描述她多才多藝，且具有謙遜的中國傳統美德。^[4]

在 2006 年《自然》期刊關鍵性的論文中， Lesné 和 Ashe 表示注射到腦袋裡的 Aβ*56 ，會令年輕小鼠失智，並認為此發現將有助未來的阿茲海默症研究。^{[2, 3]} Aβ*56 唸作「 amyloid beta star 56 」，是一種 β 澱粉類蛋白（amyloid beta，縮寫成Aβ）。^[2]如何減少 Aβ 的累積，至今仍是阿茲海默症研究的方向之一；^{[2, 8, 9]} 而 Cassava Sciences 的 Simufilam ，則是以預防 Aβ 與特定受器結合，來達此效果。^{[10, 11]}

這次新聞事件的吹哨者 Matthew Schrag ，此前就曾公開批評美國食品藥管理局，不該核准另一款抗 Aβ 藥物；而他自己的研究也與 Cassava Sciences 的主張相悖，認定 Simufilam 對受試者有弊無利。當 Schrag 開始懷疑 Lesné 不只是在 2006 年《自然》刊載的影像上動手腳，《科學》期刊請來 George Perry 和 John Forsayeth 等頂尖專家協助鑑定。他們均認同 Schrag 的看法，也就是對 Lesné 發表於超過 70 篇論文中的上百張影像存疑。^[2]

這把燒毀阿茲海默症重要研究根基的熊熊烈火，一發不可收拾，向四面八方蔓延開來。美國國家衛生研究院、《自然》、《神經科學期刊》、《PLOS ONE》，以及與《科學》同屬美國科學促進會的《科學信號》等單位，通通重新審視 Lesné 參與的論文，而且其中部份已遭撤回。 Schrag 批評這些錯誤資訊，不單浪費國家衛生研究院為數可觀的贊助經費，還被引用數千次，「因此誤導了整個學界。」另外，他也揪出 34 篇由其他作者撰寫，跟 Cassava Sciences 直接相關的問題論文，並上報國家衛生研究院。^[2] 因此，那斯達克股票交易所警告投資人， Cassava Sciences （股票代號： SAVA ）的情況岌岌可危。如果未來美國食品藥物管理局不批准 Simufilam ，其股價或許會慘跌至個位數字。^[12]

儘管事件主要聚焦在 Lesné 上，就學術倫理來說，身為 2006 年那篇論文的通訊作者， Ashe 教授也得為研究品質負責。^[13-15]面對「誤導整個學界」的指控，她在 Alzforum 上以自己過去發表的研究，說明 Aβ 分為第一型與第二型。當年害小鼠失智的 Aβ*56 ，屬於第一型；而第二型則是在類澱粉蛋白斑塊（amyloid plaques）中找到的。「後者是藥物研發者屢戰屢敗的目標。」Ashe 教授寫道：「從來就沒有臨床試驗針對第一型，但那才是我在研究中點出的失智關聯。」^[1]

在 Ashe 教授的辯駁下方，有幾名學者留言強調學界不該以偏概全，為了一則新聞報導，抹滅相關研究的重要性。^[1] 此外，目前仍在進行中的 Simufilam 臨床試驗，也與 Aβ*56 無關。他們當初挑選受試者的條件，包含某種蛋白質跟 Aβ42 的比例（CSF tau/Aβ42 ratio ≥ 0.28）；^[16] 所發表的論文，也是在分析是否能抑制 Aβ42 的負面影響。^[10]

然而，就因為阿茲海默症的藥物臨床試驗，都不是和 Aβ*56 直接相關，^{[11, 16]} Ashe 教授便責無旁貸了嗎？美國軍醫學校的 David Brody 博士在 Alzforum 的討論串中提到，他的團隊以前試圖重複 Aβ *56 的研究，花了約一整年的時間，卻徒勞無功。^[11] 《科學》也提及不少實驗室，遇到一樣的情形。^[2] 這些想要以經典為基石向前邁進的人，都被謊言所羈絆，而使得醫學的進展停滯不前。失敗的研究當然不太有論文發表，^[2] 更甭論人體臨床試驗。害大家耗費精力走冤枉路，難道不是對阿茲海默症研究的嚴重傷害？

「你可以靠作弊發表論文，獲取學位，贏得補助」， Schrag 對《科學》的記者說：「但你不能用欺騙來治癒疾病」。^[2] 諷刺的是，十年前《明星論壇》也記錄了 Ashe 教授類似的談話。她當時鼓勵人們要勇於挑戰她，因為錯誤的理論「不會迎來解藥」。^[4]

備註

根據美國第一證券的解釋，「賣空」（short selling）的投資人會將非己有的股票售出，計劃未來以較低的股價買回。^[17] （筆者完全沒聽懂為何這樣能獲利，還請會玩股票的讀者不吝指教，謝謝。）

參考資料

1. Sylvain Lesné, Who Found Aβ*56, Accused of Image Manipulation (Alzforum, 2022)
2. Charles Piller. (2022) ‘Blots On A Field?’ Science, 377, 6604.
3. Lesné, S., Koh, M., Kotilinek, L. et al. (2006) ‘A specific amyloid-β protein assembly in the brain impairs memory’. Nature, 440, pp. 352–357.
4. Dr. Karen Ashe: Stalking Alzheimer’s (Star Tribune, 2012)
5. MCFGS ADVISORS (明州中国友好花园协会，accessed on 26 JUL 2022)
6. CC Hsiao Memorial (The University of Minnesota Digital Conservancy, 2009)
7. Changsha Garden History (明州中国友好花园协会，accessed on 26 JUL 2022)
8. Multiple Dose Study of Aducanumab (BIIB037) (Recombinant, Fully Human Anti-Aβ IgG1 mAb) in Participants With Prodromal or Mild Alzheimer’s Disease (PRIME) (ClinicalTrials.gov, 2020)
9. An Extension Study of V203-AD Study to Evaluate the Safety, Tolerability, Immunogenicity, and Efficacy of UB-311 (ClinicalTrials.gov, 2021)
10. Wang HY, Bakshi K, Frankfurt M, et al. (2012) ‘Reducing Amyloid-Related Alzheimer’s Disease Pathogenesis by a Small Molecule Targeting Filamin A’. Journal of Neuroscience, 32, 29, pp. 9773-9784.
11. Simufilam (Alzforum, 2022)
12. 7 Meme Stocks Trading at a Massive Discount Right Now (Nasdaq, 2022)
13. 想一想：共同作者是誰（臺灣學術倫理教育資源中心，accessed on 26 JUL 2022）
14. 科技部對研究人員學術倫理規範（科技部，2017）
15. Corresponding author defined (Springer, 2020)
16. Simufilam (PTI-125), 100 mg, for Mild-to-moderate Alzheimer’s Disease Patients (ClinicalTrials.gov, 2021)
17. 投資辭彙（FirstTrade，accessed on 28 JUL 2022）