有好結局的故事較能激發孩童的誠實行為

本文轉載自中央研究院「研之有物」，為「中研院廣告」

• 採訪撰文｜劉韋佐
• 責任編輯｜田偲妤
• 美術設計｜蔡宛潔

人工智慧將改變以人為主的法治領域？

由人工智慧擔任警察，再也不是科幻電影的情節，交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域，這樣的轉變會對我們產生什麼影響呢？中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員，他將帶我們思考：當 AI 取代人類執法時，將如何改變人們對守法的認知？

想像有一天你正在尖峰時段開車，車子停在十字路口等紅燈時，後方出現一輛急駛而來的救護車，你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險？還是承擔風險以換取他人盡速就醫？

在上述情境中，針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察，他的判斷可能是：這是情急之下不得不的行為，並非蓄意違規。

然而，如果負責執法的是「法律人工智慧系統」（Artificially legal intelligent，簡稱 ALI）情況可能截然不同。

ALI 這個詞源自 Mireille Hildebrandt 的研究，在概念上可區分為兩類：採取傳統程式碼的 IFTTT（if this then that）、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型，將法律規範轉為程式碼，藉由程式編寫來執行法律任務。後者則透過大量資料的學習，來預測行為範式，用於再犯率、判決結果預測上有較好的成果。

一般情況下，應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為，不過交通情境千變萬化，ALI 能否做出包含「道德價值的判斷」將是一大挑戰！

中研院歐美研究所陳弘儒助研究員察覺，人工智慧（AI）正在左右人們對守法的價值判斷及背後的因果結構，進而反思當我們將原本由人來判斷的事項，全權交由 AI 來執行時，可能產生哪些潛移默化的影響？

讓我們與陳弘儒展開一場從法哲學出發的對話，探索 AI 與法治價值之間的緊張關係。

怎麼會對「人工智慧」（AI）與「法律人工智慧系統」（ALI）產生研究興趣？

會對 AI 感興趣是因為我很早就對電腦有興趣，我原本大學想唸資訊工程，因為高中有些科目沒辦法唸，於是去唸文組，大學進入法律系就讀，研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書，當時 AlphaGo 的新聞造成很大的轟動，啟發我思考 AI 的應用應該有些法律課題值得探討，於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出，而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考：我們能否將法律推理過程電腦程式化，讓電腦做出跟法律人一樣的判斷？

事實上，AI 沒有在做推理，它做的是機率的演算，但法律是一種規範性的判斷，所有判斷必須奠基在法律條文的認識與解釋上，給予受審對象合理的判決理由。

這讓我好奇：如果未來廣泛應用 AI 執法，法律或受法律規範的民眾會怎麼轉變？

至於真正開始研究「法律人工智慧系統」（ALI）是受到我父親的啟發。有一陣子我經常開車南北往返，有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速，計算你在隧道裡的平均速率，如果超速就開罰。

父親就問我：「政府有什麼理由用區間測速罰我？如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯，你一定有在某個時間點超速，所以平均起來的速率才會超過速限，可是法律判斷涉及規範性，我們必須思考背後的正當性課題，不能只用邏輯解釋，這啟發我逐漸把問題勾勒出來，試圖分析執法背後的規範性意涵。

如果將執行法律任務的權限賦予 AI，可能暗藏什麼風險？

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷，判斷的過程通常會先做「區分」，例如在你面前有 A 和 B 兩個選項，在做判斷前必須先把 A 和 B 區分開來，讓選項有「可區別性」。

在資料龐大的情況下，AI 的優勢在於能協助人類快速做好區分，可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀，做判斷時通常會將要區分的選項放進這個世界觀中，最終做出符合社會或自身考量的抉擇。

當我們將判斷程序交由 AI 執行，就會涉及「判斷權限移轉」的問題，這經常在日常生活中發生，你只要發現原本自己可以執行的事情，有另外一個對象做的比你好或差不多好，你就會漸漸把判斷的工作交給它，久而久之，你大概會覺得這是很好的做法，因為可以節省大量時間。

我擔心這種判斷權限移轉會快速且廣泛的發生，因為 AI 的工作效率極高，可以大幅節省人力成本，但是哪一些權限可以放給 AI？哪一些權限人類一定要守住？我們經常沒有充足的討論，等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例，如果讓 AI 來做交管，可以節省警察人力，又可以快速精準地開罰，卻迫使民眾需額外花時間，證明闖紅燈有正當理由。如果是真人警察來判斷，警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說，會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序，如果無法順利解決，可能會訴諸民意代表或上爆料公社，並漸漸改變民眾對守法的態度。而真人警察產生的規範作用，將使民眾自主展現對法律的高度重視，雖然當下的行為牴觸法律，卻是行為人經過多方權衡後做的判斷，相信法律會支持自己出於同理心的行為。

使用 AI 執法除了看上它的高效率，也是因為和真人相比 AI 不會受私情影響，比較可以做出公正的判斷。如果從法治觀念來看，為何決策權不能全權交由 AI 執行？

我認為法治的核心價值在臺灣並沒有很好的發展，我們常想的是怎麼用處罰促成民眾守法，長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣，一旦哪天不再受法律約束，可能會失去守法的動機。

事實上，法治最根深柢固的價值為：

法律作為一種人類行為規範的展現，促使民眾守法的方式有很多種，關鍵在於尊重人的道德自主性，並向民眾陳述判決理由。

給理由非常重要，可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係，使民眾相信，國家公權力能用適當的理由來制定法律，而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利，會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」，但它的執法方式以處罰為主、缺乏理由陳述，也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性，這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的，真人警察可在執法過程中，透過拿捏不同情境的處理方式來累積經驗。

例如在交通尖峰時段應該以維持交通順暢為原則，這時警察是否具備判斷的敏感性就很重要，例如看到輕微的違規不一定要大動作開罰，可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要，我們會在跟他人相處的過程中思考：跟我溝通的對象是什麼樣的人？我在他心中是什麼模樣？然後慢慢微調表現方式，這是人類和 AI 最根本的不同。

相較於法律人工智慧，ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI，其發展可能對我們產生哪些影響？

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人，使用大量自然語言文本進行深度學習，在文本生成、問答對話等任務上都有很好的表現。因此，在與 ChatGPT 互動的過程中，我們容易產生一種錯覺，覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上，對於生成式 AI 來說，人類只是刺激它運作的外在環境，人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程，每當外在環境（人類）給 ChatGPT 下指令，系統才會開始運作並生成內容，如果我們不滿意，可以再調整指令，系統又會生成更多成果，這跟平常的人際互動方式不太一樣。

資工人員可能會用這個理由說明，生成式 AI 只是一種工具，透過學習大量資料的模式和結構，從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」（Data）的敏感性。由於在做 AI 訓練、測試與調整的過程中，都必須餵給 AI 大量資料，如果不知道資料的生產過程和內部結構，後續可能會產生爭議。

另一個關於資料的疑慮是，生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出，並往商業或使用者付費的方向發展，代表許多資料都掌握在這些私人公司手中。

資料有一種特性，它可以萃取出「資訊」（Information），誰有管道可以從一大群資料中分析出有價值的資訊，誰就有權力影響資源分配。換句話說，多數人透過輸入資料換取生成式 AI 的服務，可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

面對勢不可擋的生成式 AI 浪潮，人文社會學者可以做些什麼？

國外對於 AI 的運用開始提出很多法律規範，雖然國外關於價值課題的討論比臺灣多，但並不代表那些討論都很細緻深入，因為目前人類跟 AI 的相遇還沒有很久，大家還在探索哪些議題應該被提出，或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考：

我們需不需要訓練 AI 學會人類的價值判斷？

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢，因為 AI 的發展會朝人機互動模式邁進，唯有讓 AI 逐漸理解人類的價值為何，以及人類價值在 AI 運作中的局限，我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術，我認為這種觀點將來會出問題，強大的技術如果沒有明確的價值目標，是一件非常危險的事情。實際上，AI 的發展必定有很多價值課題涉入其中，或者在設計上有一些價值導向會隱而不顯，這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時，也等於在問我們人類：對我們來說哪一些價值是重要的？而這些重要價值的基本內容與歧異為何？

我目前的研究有幾個方向，一個是研究法律推理的計算機模型（Computational models of legal reasoning）；另一個是從規範性的層面去探討，怎麼把價值理論、政治道德（Political morality）、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知，有很多價值課題需要事先想清楚，影響將擴及工程師怎麼設計人工智慧系統？設計過程面臨哪些局限？哪些局限不應該碰，或怎麼把某些局限展現出來？我覺得這些認識都非常重要！

鐵面無私的 ALI ？人類與人工智慧執法最大的分野是什麼？

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統（ALI）的學者，他結合各種現實情境，與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算，與人類判斷過程中涉及的世界觀與敏感性思辨，有著根本上的差異；以處罰為主、缺乏理由陳述的判斷方式，也容易影響民眾對公權力的信任。因此陳弘儒認為，目前 ALI 應該以「輔助人類執法」為發展目標，讓人類保有最終的判斷權限。

至於現正快速發展的生成式 AI ，根據陳弘儒的觀察，目前仍有待各方專家探索其中的價值課題，包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告，現在連 AI 領域的權威專家也簽署公開信並呼籲：AI 具有與人類競爭的智慧，這可能給社會和人類帶來巨大風險，應該以相應的關注和資源進行規劃和管理。

在訪談過程中，有一件令人印象深刻的小插曲，陳弘儒希望我們不要稱呼他「老師」，因為他從小就畏懼老師、警察等有權威身分的人，希望以更平等的方式進行對話。

假如今天以 AI 進行採訪，整個談話過程或許能不受倫理輩分影響，但這也讓我們意識到，在 AI 的世界裡，許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會，AI 在法治領域的應用不僅是法律問題，背後更包含深刻的哲學、道德與權力課題，也讓我們更了解法治的核心價值：

法律要做的不只是規範人們的行為，而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

阿莫斯（Amos）是我見過的公黑猩猩當中數一數二俊美的，唯一的例外也許是他把兩顆大蘋果同時塞進嘴裡的那一天，而他的那個舉動也再度讓我意識到，黑猩猩能做出許多我們做不到的事情。他有一雙大眼睛，嵌在一張和善而勻稱的臉龐裡，還有一身濃密閃亮的黑毛，手臂與雙腿也有清楚的肌肉線條。他從來不像有些公黑猩猩那樣攻擊性過強，但盛年期間仍有無比自信。阿莫斯備受喜愛，他死的時候我們有些人都不禁落淚，他的猿類同胞也在那幾天靜得令人發毛，連胃口都受到了影響。

我們當時不曉得他出了什麼問題，直到死後驗屍才知道除了大幅腫脹的肝臟占滿了腹部之外，還有不少癌化增生。他的體重在前一年掉了百分之十五，儘管病況必定是從幾年前就已經開始惡化，他卻一直表現得與正常無異，直到身體再也支撐不住為止。阿莫斯一定有好幾個月都生活在痛苦之中，但他只要稍微表現出衰弱的模樣，必定會導致其社會地位喪失。黑猩猩似乎懂得這一點。野地裡，一頭瘸了腿的黑猩猩被觀察到自行孤立獨處了幾個星期養傷，但在這段期間仍然偶爾會現身猩群當中，展現出健壯又充滿活力的模樣，然後再退出其他猩群成員的視線之外。這麼一來，就沒有成員會對他起疑。

阿莫斯直到死前一天才表露他的病況，當時我們發現他的喘息速率達每分鐘六十口氣，臉上不停冒汗，其他黑猩猩都在外頭的陽光下，唯獨他坐在夜間圍欄裡的一口麻布袋上。阿莫斯拒絕出去戶外，於是我們把他隔離開來，等待獸醫撥空前來檢查。不過，其他黑猩猩一再回到室內探望他，我們只好把阿莫斯前方的門打開一道小縫，讓其他黑猩猩能接觸他。阿莫斯刻意坐在那道門縫旁，一頭名叫黛西的母黑猩猩於是輕柔地抱住他的頭，為他耳朵後方的柔軟部位理毛。接著，她把大量的木屑透過縫隙推進門內，這是黑猩猩喜歡用來築巢的材料。牠們會把木屑鋪在自己的身旁四周，然後睡在上面。黛西給了阿莫斯這些木屑之後，我們又看到一頭公黑猩猩也跟著這麼做。由於阿莫斯背靠著牆坐而沒有理會那些木屑，於是黛西數度從門縫伸手進來，把木屑塞在他的背部與牆壁之間。

這種情形實在引人注目。這豈不表示黛西意識到阿莫斯必定身體不適，所以靠在柔軟的東西上會比較舒服，就像我們在醫院也會幫病患背後墊個枕頭一樣嗎？黛西也許是從自己對木屑的感覺推斷出這一點，而且我們也確實認為她是個「木屑狂」（她通常不會分享木屑，只是自己大量囤積）。我相信猿類會採納他人的觀點，尤其是對遭遇困難的朋友。的確，這類能力在實驗室裡接受測試的時候，並不是每次都能獲得證實，但那些研究通常都是要求猩猩在某種人造情境裡理解人類。先前已經提過，我們的科學帶有人類中心偏見。在猿類對猿類的相同實驗操作下，黑猩猩的表現就好上許多，而在野地裡，牠們更是會關注其他同伴已知或未知的事物。因此，對於黛西似乎能夠理解阿莫斯的處境，我們不該覺得意外。

第二天，阿莫斯就接受了安樂死。他已經沒有活命的希望，繼續拖下去只會讓他痛苦更久而已。這起事件闡明了靈長類動物社會生活的兩個對比面向。第一，靈長類生活在一個殘酷的世界裡，迫使雄性必須盡力隱藏生理上的障礙好擺出強悍的表象。但第二，靈長類也是緊密社群裡的一分子，可以指望獲得別人的喜愛與協助，包括非親屬在內。這種雙重性很難理解。廣受大眾喜愛的書寫者偏好簡化實際狀況，不是以霍布斯式的赤裸筆法把黑猩猩的生活描寫得凶惡殘暴，不然就是只強調牠們和善的一面。不過，實際上絕對不是像這樣二擇一，兩種狀況始終並存。如果有人提問，黑猩猩既然有時會互相殘殺，怎麼可能算是擁有同理心的動物？我總是這麼反問：按照同樣的標準，那麼我們是不是也該徹底揚棄人類擁有同理心的概念？

• 延伸閱讀：「宇宙是黑暗的森林，文明是帶槍的獵人」——從《三體》的「黑暗森林法則」看契約論中自由與權利的角力

這種雙重性非常重要。我們如果全都溫和善良，道德就會是一種多餘的東西。如果人類總是互相同情，從來不會偷竊、不會在背後捅別人一刀、不會覬覦別人的妻子，那我們還有什麼好擔心的呢？顯然人類不是這樣的動物，這也就說明了道德法則的必要性。另一方面，我們可以設計無數的規則提倡對別人的尊重與關懷，倘若我們原本就沒有這樣的傾向，那麼這些規則也絕不會有任何用處。在那種情況下，這些規則就會像是撒在玻璃上的種子一樣，根本沒有生根發芽的機會。人類之所以得辨別是非，正是因為我們生來就同時具有行善與做惡的能力。

黛西協助阿莫斯的行為在生物學上算是「利他行為」的表現，其定義就是會導致某個個體付出代價（例如冒險或者耗費精力），但是去執行利於他人的行為。不過，生物學對利他行為的討論通常不涉及動機，只關注這類行為如何影響他人，以及為什麼會演化出這種行為。這項辯論雖然已有一百五十年以上的歷史，卻在過去幾十年才成為注目焦點。

• 延伸閱讀：你嘛幫幫忙！黑猩猩也懂利他主義？

——本文摘自《我們與動物的距離：在動物身上發現無私的人性》，2021 年 12 月，馬可孛羅。

• 作者 / 理查．費曼
• 譯者 / 吳程遠、師明睿、尹萍、王碧

問題：巫醫、超感知覺、南太平洋的島民、犀牛角，和威森食用油， 跟大學畢業典禮能有什麼關連呢？

答案：上述皆是厲害的費曼用來說服應屆畢業生的例子， 要他們相信在研究科學時，誠實比任何讚美或短暫的成功，更加有成就感。

在這篇給加州理工學院一九七四年應屆畢業生的演說中， 費曼橫眉不理同儕的壓力以及提供研究資金的金主的怒目， 給大家上了一課，談科學應有的操守品德。

這是費曼關於科學、偽科學，和如何學習不要自己騙自己的一些想法。

在中古世紀期間，各種瘋狂荒謬的想法可謂層出不窮，例如以為犀牛角可以增進性能力，就是其中之一。隨後有人發現了過濾想法的方法，就是試驗哪些構想可行、哪些不行，把不可行者淘汰掉。當然，這個方法逐漸發展成為科學。它一直發展得很好，我們今天已經進入科學時代了。事實上，我們的年代是那麼的科學化，有時候甚至會覺得難以想像，以前怎麼可能出現過巫醫，因為他們所提出的想法全都行不通─至多只有少數的想法是行得通的。

然而直到今天，我還是會碰到很多的人，或遲或早跟我談到不明飛行物體（UFO,unidentified flying object）、占星術、或者是某些神祕主義、擴展意識、各種新的覺察、超感知覺（ESP, extra sensory perception）等等。我因此下了一個結論，這並不是一個科學的世界。

大多數人都相信這許許多多的神奇事物，我便決定研究看看原因何在。而我喜愛追尋真理的好奇心，則把我帶到困境之中，因為我發現世上居然有這麼多的廢話和廢物。

老兄，你還差得遠呢！

首先我要研究的是各種神祕主義以及神祕經驗。我躺在與外界隔絕的水箱內，體驗了許多個小時的幻覺，對它有些了解。然後我跑到依沙倫（Esalen），那是這類想法的溫床。事先我沒想到那裡會有那麼多怪東西，讓我大吃一驚。

依沙倫有好多巨大的溫泉浴池，蓋在一處離海面三十英尺的峭壁平台上。我在依沙倫最愉快的經驗之一，就是坐在這些浴池裡，看著海浪打到下面的石灘上，看著無雲的藍天，以及漂亮女孩靜靜的出現。

有一次我又坐在浴池裡，浴池內原先就有一個漂亮女孩，以及一個她好像不認識的傢伙。我立刻開始想：「我應該怎樣跟她搭訕呢？」

我還想應該說些什麼，那傢伙便跟她說：「呃，我在學按摩。你能讓我練習嗎？」

「當然可以，」她說。他們走出浴池，她躺在附近的按摩檯上。

我想：「那句開場白真絕啊！我怎麼也想不到可以這樣問！」他開始按摩她的大腳趾頭。「我可以感覺到，」他說：「我感覺到凹下去的地方。那是不是腦下垂體呢？」女孩說：「不是，它感覺起來不是那樣。」

我脫口而出：「老兄，你離腦下垂體還遠得很呢！」

他們兩人看向我，我這句外行話洩露了自己的偵探身分。那女孩說：「我們說的是腳底反射療法。」

我立刻閉上眼睛，假裝在冥想。

那只不過是許多使我驚慌失措的情形之一。

我也研究過超感知覺現象，最近的大熱門是焦勒（Uri Geller），據說他只要用手指撫摸鑰匙，就能使它彎曲。在他邀請之下，我便跑到他旅館房間內，看他表現觀心術。在觀心方面他沒一樣表演成功，也許沒有人能看穿我的心吧？

而我的小孩拿著一根鑰匙讓他摸，什麼也沒有發生。然後他說他的超感知覺能力在水中比較能夠施展得開。你們可以想像，我們跟著他跑到浴室裡，水龍頭開著，他在水中拚命撫摸那把鑰匙。什麼都沒有發生，我根本無法研究這個現象。

接下來我想，我們還相信些什麼？（那時候我想到巫醫，想到要研究他們的真偽是多麼的容易：你只要注意他們什麼也弄不成就行了。）於是我去找些更多人相信的事物，例如「我們已經掌握到教學方法」等。目前有很多閱讀方法和數學方法的提倡及研究。但只要稍微留意，便會發現學生的閱讀能力一路滑落─至少沒怎麼上升；儘管我們還在請這些人改善教學方法。這就是一種由巫醫開出來的不靈藥方了，這早就應該接受檢討，這些人怎麼知道提出來的方法是行得通的？

另一個例子是如何對待罪犯，在這方面很顯然我們一無進展。那裡有一大堆理論，但我們的方法顯然對於減少罪行完全沒有幫助。

然而，這些事物全都以科學之名出現，我們研究它們。一般民眾單靠「普通常識」，恐怕會被這些偽科學嚇倒。假如有位老師想到一些如何教她小孩閱讀的好方法，教育系統卻會迫使她改用別的方法─她甚至會受到教育系統的欺騙，以為自己的方法不是好方法。又例如一些壞孩子的父母在管教過孩子之後，終身無法擺脫罪惡感的陰影，只因為專家說：「這樣管小孩是不對的。」

因此，我們實在應該好好檢討那些行不通的理論，以及檢討那些不是科學的科學。

科學研究必須有品

上面提到的一些教育或心理學上的研究，都是屬於我稱為「草包族科學」（cargo cult science）的例子。在南太平洋有一些土人，被稱為草包族。在大戰期間，這些工人看到飛機降落在地面，卸下來一包包的好東西，其中一些是送給他們的。往後他們仍然希望能發生同樣的事，於是現在他們在同樣的地點鋪飛機跑道，兩旁還點上了火，蓋了間小茅屋，派人坐在那裡，頭上綁了兩塊木頭（假裝是耳機）、插了根竹子（假裝是天線），以為這就等於控制塔裡的領航員了。然後他們等待，等待飛機降落。

他們每件事都做對了，一切都十分神似，看來跟戰時沒什麼兩樣，但這行不通：始終沒有飛機降落下來。這是為什麼我叫這些東西為「草包族科學」，因為它們完全學足了科學研究的外表，一切都十分神似，但是事實上它們缺乏了最重要的部分，因為飛機始終沒有降落下來。

接下來，按道理我應該告訴你們，它們缺乏的是什麼，但這跟向那些南太平洋小島上的土人說明，是同樣的困難。你怎麼能夠說服他們應該怎樣重整家園，好自力更生的生產財富？這比「告訴他們改進耳機形狀」要困難多了。

不過，我還是注意到「草包族科學」的一個通病，那也是我們期望你在學校裡學了這麼多科學之後已經領悟到的觀念─我們從來沒有公開明確的說那是什麼，卻希望你能從許許多多的科學研究中省悟到。因此，像現在這樣公開的討論它，也是蠻有趣的。

這就是「科學的品德」了，這是進行科學思考時必須遵守的誠實原則，有點盡力而為的意思在內。舉個例子，如果你在做一個實驗，你應該把一切可能推翻這個實驗的東西併入報告之中，而不是單把你認為對的部分提出來，你應該把其他同樣可以解釋你的數據的理論、某些你想到、但已透過其他實驗將之剔除掉的事物，全部包括在報告中，以確保其他人明白，這些可能性都已經排除。

你必須交代清楚任何你知道、可能會使人懷疑的立論的細枝末節。如果你知道哪裡出了問題，或可能會出問題，你必須盡力解釋清楚。比方說，你想到了一個理論，提出來的時候，便一定要同時把對這理論不利的事實也寫下來。這裡還牽涉到一個層次更高的問題。當你把許多想法放在一起構成一個大理論，提出它與什麼數據相符合時，首先你應該確定：它能說明的不單單是讓你想出這套理論的數據，而是除此以外，還能夠說明其他的實驗數據。

總而言之，重點在於提供所有資訊，讓其他人得以裁定你究竟做出了多少貢獻，而不是單單提出會引導大家偏向某種看法的資料。