2

1
2

文字

分享

2
1
2

當「機率」被誤解,審判是否會變成粗暴的正義?──《偶然的科學》

PanSci_96
・2018/07/10 ・5773字 ・閱讀時間約 12 分鐘 ・SR值 533 ・七年級

-----廣告,請繼續往下閱讀-----

草率分析機率,是帶著正義面具的暴力

粗暴的正義

如果你想瞭解某件事的機率,例如在犯罪現場發現的 DNA 是否與被告的 DNA 相符,那麼你必須以良好的統計數據為基礎。但近年來,構成良好基礎的東西已出現變化。對許多人來說,就像安琪拉.賽尼 (Angela Saini) 所說的,傳統的統計數據需用18世紀的一個想法加以翻新。

不修邊幅的神探可倫坡,總能抓到他想抓的人。我們拿這齣美國知名電視影集在1974年播放的某一集來說吧。該集中有個攝影師殺了他的妻子,還把整件事偽裝成一場手法拙劣的綁架案,但在偵探可倫坡發現了一個詭計,終於揭發整件事情之前,這是一齣完美的犯罪。可倫坡在一個架子上放了十二台相機,然後引誘凶手從架上取下拍下受害人被殺前影像的那台相機。看守的警察對凶手說:「先生,你剛剛讓自己捲進事端了。」

美國知名電視影集《神探可倫坡》。圖/wikipedia

事情若有這麼簡單就好了。無論是不是凶手,每人去拿相機的人都有十二分之一的機會隨機拿到同一台相機。在法庭上,這樣的證據根本站不住腳。但,如果它站得住腳呢?

這種機率陷阱不只出現在犯罪小說裡。「發生統計錯誤的頻率高得驚人,」英國索爾福德大學數學家雷.希爾 (Ray Hill) 說,他曾在幾個著名的刑事案件中提供證據。「我總在證據說明中發現人們沒注意的例子。」他說。

其中根本原因在於人們草率地分析機率,玷汙了公正性,甚至可能讓無辜者啷噹入獄。隨著人們在判案時越來越仰賴「確定」的數據,像 DNA 配對,這問題變得越來越嚴重。有些數學家呼籲,法院應開密集課程,把證據的重要性放在第一要務。他們需要什麼呢?貝氏機率能公斷一切。

-----廣告,請繼續往下閱讀-----

有兩億分之一的機率,你與罪犯有相同的 DNA

這呼籲出自湯馬斯.貝氏 (Thomas Bayes) 的研究,他是18世紀英國一名數學家和神職人員,他曾針對該如何計算條件機率做出說明。條件機率是指某一件事發生的機率,取決於其他事件發生的機率。這正是刑事案件面對的問題,因為辦案人員會清查所有證據,以確認被告無罪或有罪(請參見下面的「法庭上的貝氏統計」)。

那麼,數學看來很適合使用在法庭上,但法官和陪審團其實常常太過依賴直覺判案。有個讓人吃驚的案例發生在1996年,那是跟英國男子丹尼斯.約翰.亞當斯 (Dennis John Adam) 有關的強暴案。在指認凶手時,亞當斯並未被指認出來,而他的女友也提供了他的不在場證明。但他的 DNA 與犯罪現場的精液匹配,而這是兩億分之一的機率,這個證據很可能讓任何一位陪審員判他有罪。

正義女神帶著眼罩,象徵一視同人的精神,但用「常識」來解讀數據扭曲了這樣的精神。圖/pixibay

然而,在這裡我們必須面對的問題是,這個數字到底說明了什麼。實際上,這數字並不如法庭和新聞界一般以為的那樣稀罕。他們往往認為,既然這些精液只有兩億分之一的機率不是亞當斯留下的,因此他不太可能是無辜的。就像我們稍後會明白的,這數字實際上代表,若我們隨機在大眾之中取得 DNA,那麼我們將有兩億分之一的機會,拿到與犯罪現場精液相符的 DNA。

這兩個意義的差異十分微小,卻至關重要。在一群(假設是一萬人)可能犯下罪行的人之中,有人的 DNA 與犯罪現場 DNA 相符的機率是兩億分之一,或是兩萬分之一。這樣的解釋對亞當斯來說仍然不太妙,但不至於完全毫無希望。

-----廣告,請繼續往下閱讀-----

法庭上的貝氏統計

你能成為貝式陪審員嗎?就像下面例子所示,它並不是一個直截了當的判斷。假設你有個來自犯罪現場的證據E,那是一灘血跡,或是一段衣服線頭,並且與嫌犯身上的東西相符。這些東西會如何影響你對嫌犯清白的看法或假設 H?

貝式定理會告訴你如何在給定的 E,計算出 H 的機率。亦即:(H的機率)乘以(在給定的 H 下,E 的機率),再除以(E 的機率)。或是,如果用標準的數學符號來表示,會是這樣:

P (H | E) = P (H) × P (E | H) / P (E)

假設你擔任一起攻擊案的陪審員,到目前為止你有60%相信被告是無辜的:P (H) = 0.6。然後有人告訴你,被告的血型和犯罪現場留下的血型都是 B 型,而世界上有10%的人是這種血型。這件事會如何改變你的看法?被告的嫌疑應該更大或是更小?

法醫專家給你的機率,是在一般清白大眾中找到與證據相符的人的機率:P (E | H) = 0.1。要應用貝式公式並發現 P (H | E),也就是你對被告為無罪的新看法,你需要的是數量 P (E),也就是他們的血液與犯罪現場血液相符的機率。

-----廣告,請繼續往下閱讀-----
機率影響了陪審團對案情的認知。圖/pixibay

實際上,這個機率取決於被告無罪或是有罪。如果他們是無辜的,他們就和所有人一樣都是0.1;但如果他們有罪,那就是1,因為他們的血液確定與現場血液相符。這個洞見讓我們可以在無罪 (H) 或有罪 (不是H) 的狀況下加總血液匹配的機率,進而計算出 P (E):

P (E) = [ P (E | H) × P (H) ]+[ P (E | 非H) × P(H) ]
= (0.1 × 0.6) + (1 × 0.4) = 0.46

所以,根據貝式公式,修正過的無罪機率是:

P (H | E) = (0.6 × 0.1) ÷ 0.46 = 0.13

正如你所想的,若採用這個方法,無罪的機率便下降了。如此一來,被告有罪的機率,也許比你一開始想的高了四到五倍。

當常識與正義背道而馳

亞當斯的辯護團隊,非常擔心陪審團可能會曲解機率,因此找來牛津大學統計科學家彼得.唐納利 (Peter Donnelly) 協助。「我們設計了一個問卷調查,透過貝式推理,幫助他們整合所有證據。」唐納利說。

-----廣告,請繼續往下閱讀-----

然而,他們未能說服陪審團相信貝式方法的價值,最終亞當斯還是被定了罪。他上訴兩次皆鎩羽而歸,上訴法官最終裁定陪審團的任務是「不要用公式來評估證據,而是用他們的常識來判斷。」

但如果常識與正義背道而馳,又該如何呢?對英國蘭開斯特大學的數學家大衛.露西 (David Lucy) 來說,亞當斯的案例說明了傳統文化必須有所改變。「在某些情況下,統計分析是評估證據的唯一方法,因為直覺有可能導致謬誤的結果,」他說。

錯誤的判斷會造成不公的判決。圖/pxhere

在錯誤發生前便發現它

倫敦瑪麗王后大學計算機科學家諾曼.芬頓 (Norman Fenton),曾在刑事案件中擔任防務小組的工作,他提出一個可能的解決方案。他和同事馬丁.尼爾 (Martin Neil) 合作,研發了一個按步驟出現的圖片系統和一棵決策樹,藉此幫助陪審員瞭解貝式推理。這兩人說,一旦陪審團相信這方法有效,專家們就能把貝式定理使用在類似這種「黑盒子」的案件中,計算出每個證據所指出的無罪或有罪機率。「人們不會質疑電子計算機執行的步驟是否正確,那麼為什麼在這裡就要質疑呢?」芬頓問。

這個建議很有爭議。根據其結論來說,我們可能在單一計算中看到公平審判的結果。用貝式機率處理DNA和血型配對的效果很好,但若事涉將外貌和行為等因素量化,難度卻變得更大。「不同陪審員對證據會有稍微不同的見解,而這不是數學家可以代勞的事,」唐納利說。

-----廣告,請繼續往下閱讀-----

唐納利認為,法醫專家應接受統計學的教育,以便在錯誤發生之前就能發現它們。從類似亞當斯這樣的案例發生以來,美國和英國的法醫專家確實已開始學習統計學;然而,律師和陪審員受到的統計訓練仍然很少,如果真有的話。

真實的五個謬誤

隨著五個真實謬誤的出現,我們實在無法感到自滿。唐納利說,這些來自法律教科書的真實案例顯示,人們要求翻新統計分析的呼籲,並不是要讓數學家把他們的思考方式強加在整個世界上。「正義必須仰賴每一個人都能在不確定的情況下,適當地進行推理。」他說。

一、檢察官的謬誤

「檢察官謬誤是種非常容易犯的錯,」英國肯特市一家證據顧問公司首席法醫顧問公司的伊恩.埃夫特 (Ian Evett) 說。這種謬誤混淆了貝式公式對兩種機率之間所做的微妙區分。P (H | E) 這機率是指一個人與部分證據相符的情況下,他是無辜的機率;P (E | H) 這機率則是指一個人在無辜的情況下,他與部分證據相符的機率。第一個機率是我們想知道的,第二個機率則通常是法醫告訴我們的。

不幸的是,即使是專業人士有時也會把這兩個機率搞混。例如,1991年在英國曼徹斯特,安德魯.迪恩 (Andrew Deen) 強暴案正在審判時,一位專家證人同意該(精液的)DNA 樣本「不是安德魯.迪恩留下的機率是三百萬分之一。」

-----廣告,請繼續往下閱讀-----

然而那樣說是錯的。在一般大眾之中,任何無辜者的 DNA 與犯罪現場的精液相符之可能性是三百萬分之一;也就是說,這是 P (E | H)。英國大約有六千萬人,很少有人的 DNA 會與犯罪現場相符。根據有多少人可能會承認自己犯下罪行來說,就算迪恩的 DNA 與犯罪現場遺留的精液相符,但他無罪的機率—或說 P (H | E) —實際上還是比三百萬分之一要大上很多。

在上訴時,迪恩有罪的判決被撤銷了,讓一群類似案件也成功獲得程度不一的翻案,有些還出現讓人驚訝的結果。例如,警察發現一名在2008年入獄的加州人,他的 DNA 與三十五年前一起姦殺案留下的證據相符。

任何無辜者的 DNA 都有可能與犯罪現場的精液相符。圖/pixibay

二、終極議題的謬誤

迪恩的起訴案在快發生機率謬誤之前結束了。然而在陪審團的想法裡,它可能會變成「終極議題」的謬誤:明確將(小的)數字 P (E | H) 等同於嫌犯無罪的可能性。

在1968年的洛杉磯,這個終極議題的謬誤讓黑人馬爾科姆.柯林斯 (Malcolm Collins) 和他的白人妻子珍娜啷噹入獄。乍看之下,這個案子似乎沒什麼可質疑的:一位年長女士被一位金髮白人女性和蓄鬍的黑人搶劫,他們雙雙跳進一輛黃色汽車後逃逸。根據一位專家的計算,要找到一對符合這種組合男女的機率,是一千兩百萬分之一。

-----廣告,請繼續往下閱讀-----

警方相信了專家的話,而陪審團也不假思索地相信這看法。他們認為,站在法庭上的這對黑白男女,只有一千二百萬分之一的機率不是作案的那對,而這也是他們無辜的機率。

然而,警察和陪審團都錯了。在像洛杉磯這樣的城市裡,數以百萬計來自各種族的人都住在這裡,或是經過這裡,所以有其他類似種族組合的男女大有可能存在,因此柯林斯夫婦有更平均或更高的機率是無辜的;更不用說,受害者對嫌犯的描述本身可能根本是錯誤,這一點有助於上訴時扭轉被告的有罪判決。

每一個證據都有可能使無罪的人入獄。圖/pixibay

三、忽視基本比率

任何想靠 DNA 分析快速得到判決的人,都該意識到遺傳證據也許並不可靠。這個世界有七十億人,就算發現相同基因的機率是十億分之一,也可以在這世上找到七個相符的人。

所幸,間接證據和法醫證據往往會把可能是嫌犯的那群體迅速切成小團體。但是,忽略你的「基本比率」—也就是可能符合的那群人—會讓你得到錯誤的結論。而且這樣的事不只發生在法庭上。

舉例來說,看看醫生幫你動手術的狀況。假設你剛剛被檢查出罹患了不治之症,而罹患這疾病的機率是一萬分之一。這個檢查的準確度為99%。那麼,你罹患該疾病的真正機率是多少呢?

答案是不到1%,原因是這種疾病非常罕見,這表示即使檢查擁有高達99%的準確率,出現偽陽性的機率會遠遠超過實際患病的機率(見下頁圖)。這就是為什麼進一步檢查而將機率縮小,是這麼重要。並不是只有像我們這樣的一般人,才會被這種反直覺結果所困擾。根據調查顯示,有85-90%的健康專家,都會搞錯這東西。

癌症檢驗結果的準確性其實不高。圖/八旗文化提供

四、被告的謬誤

在法庭內,能把統計數據按對自己有利的方式詮釋的人,並不只有檢察官。就我們所知,辯護律師也會出現「挑櫻桃」的機率(譯注:挑櫻桃是指,只談支持論點的理由,而不談反對論點的理由)。

例如,1995年前美國足球明星O.J.辛普森 (O.J. Simpson) ,因謀殺前妻妮可.布朗 (Nicole Brown) 及其友人而受到審判。在此多年之前,辛普森曾被控家暴,對此他不承認自己有罪,但也未替自己辯護。為了淡化這件家暴案,在 O.J. 辛普森的辯護顧問團裡,有個名叫艾倫.德爾霍維茨 (Alan Dershowitz) 的顧問,他說在曾被丈夫或男友施暴的所有女性中,只有不到千分之一的人被伴侶殺害。

後來,賓州天普大學的數學家約翰.艾倫.保羅斯 (John Allen Paulos) 表示,這數字可能是真的,但並非最重要的事。由於貝氏算法會將所有相關事實的資訊都計算進去,所以一名女性若曾遭虐待再被殺害,那麼凶手有80%的機率會是她的伴侶。

但這也許還不是故事的全貌,加州大學爾灣分校的犯罪學家威廉.湯普森 (William Thompson) 就表示,在所有遭殺害的女性中,無論她們有沒有被施暴過,如果有超過80%的人都是被伴侶所殺,那麼「有沒有虐待就根本不具判斷價值,」他說。

「有沒有被虐待」無法影響女性被殺害的機率。圖/pxhere

五、相關證據謬誤

有時候,早在貝式統計能發揮作用之前,數學邏輯就已離開法庭,變得無用武之地,這是因為我們根本誤用了機率。

就相關證據謬誤來說,這是英國近期最惡名昭彰的一起正義受挫的案例。1991年11月,莎麗.克拉克 (Sally Clark) 被控趁孩子睡覺時,將他們窒息而死。兒科醫生羅伊.梅多 (Roy Meadow) 作證說,兩個孩子皆自然死於初生嬰兒猝死症(SIDS,或稱嬰兒促死)的機率為七千三百萬分之一。他之所以得到這數字,是因為他將個別孩童罹患初生嬰兒猝死症的機率八千五百分之一相乘起來。也就是說,該醫生將克拉克家中的兩起死亡案件,當成彼此獨立的事件來處理。

相關證據謬誤讓正義變成暴力。圖/pixibay

但,為何這兩起死亡案件是獨立事件呢?對此,英國皇家統計學會在上訴時表示,「可能有未知的基因或環境因素,讓某些家庭特別容易罹患初生嬰兒猝死症。因此發生過這種事件的家庭,更有可能發生第二起這樣的案件。」

「即使當時判案的是三位傑出的法官,但他們都沒發現這個錯誤。」為辯方工作的雷.希爾 (Ray Hill) 說。他估計,如果家中有一個孩子死於初生嬰兒猝死症,那麼另一個孩子死於此症的機率,將高達60%。如此,貝氏推論算出兩個孩子發生初生嬰兒猝死症的機率大約是十三萬分之一。英國每年有幾萬個孩子出生,這表示三不五時就會發生兩起初生嬰兒猝死症。

最後,克拉克在2003年獲釋。她的案件持續發酵,讓人們反省許多類似案件。希爾說,「最近幾年,我不記得法院是否還有收到嬰兒死猝亡案件。」然而,克拉克自此不曾從被誤解的痛苦中痊癒過來。2007年,人們發現她陳屍家中,她終究成了人們對統計無知的受害者。

 

 

本文選自泛科學2018年7月選書《偶然的科學:好運、隨機及機率背後的秘密》,八旗文化。

 

文章難易度
所有討論 2
PanSci_96
1226 篇文章 ・ 2326 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。

0

2
2

文字

分享

0
2
2
圖形處理單元與人工智慧
賴昭正_96
・2024/06/24 ・6944字 ・閱讀時間約 14 分鐘

  • 作者/賴昭正|前清大化學系教授、系主任、所長;合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒,那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬.霍金(Stephen Hawking) 英國理論物理學家

大約在八十年前,當第一台數位計算機出現時,一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧;但七十年後,還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」(Artificial Intelligent,簡稱 AI)的能力最近十年突然起飛,在許多(所有?)領域的測試中擊敗了人類,正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元(graphic process unit,簡稱 GPU)是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia(英偉達)股票從每股不到 $5,上升到今天(5 月 24 日)每股超過 $1000(註一)的全世界第三大公司,其創辦人(之一)兼首席執行官、出生於台南的黃仁勳(Jenson Huang)也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人!可是多少人了解圖形處理單元是什麼嗎?到底是時勢造英雄,還是英雄造時勢?

黃仁勳出席2016年台北國際電腦展
Nvidia 的崛起究竟是時勢造英雄,還是英雄造時勢?圖/wikimedia

在回答這問題之前,筆者得先聲明筆者不是學電腦的,因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事,不是我們外行人需要了解的;但作為一位現在的知識分子或公民,了解基本原理則是必備的條件:例如了解「能量不滅定律」就可以不用仔細分析,即可判斷永動機是騙人的;又如現在可攜帶型冷氣機充斥市面上,它們不用往室外排廢熱氣,就可以提供屋內冷氣,讀者買嗎?

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」(central process unit,簡稱 CPU)。CPU 是電腦的「腦」,其電子電路負責處理所有軟體正確運作所需的所有任務,如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作;但為了簡單化,我們在這裡所談的工作將只是執行算術和邏輯運算的工作(arithmetic and logic unit,簡稱 ALU),如將兩個數加在一起。在這一簡化的定義下,CPU 在任何一個時刻均只能執行一件工作而已。

-----廣告,請繼續往下閱讀-----

在個人電腦剛出現只能用於一般事物的處理時,CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後,CPU 開始顯示心有餘而力不足:例如電玩動畫需要應用程式處理數以萬計的像素(pixel),每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年,英偉達將其一「具有集成變換、照明、三角形設定/裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」(註二)定位為「世界上第一款 GPU」,「GPU」這一名詞於焉誕生。不像 CPU,GPU 可以在同一個時刻執行許多算術和邏輯運算的工作,快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢?因每一時刻只能做一件事,所以其步驟為:

  • 計算 7×5;
  • 計算 6/3;
  • 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢?很多工作便可以同時(平行)進行:

-----廣告,請繼續往下閱讀-----
  • 同時計算 7×5 及 6/3;
  • 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間,但如果我們有 16 對 a×b 要相加呢?單獨的 CPU 需要 31 個運算的時間(16 個 × 的運算時間及 15 個 + 的運算時間),而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間(1 個 × 的運算時間及 4 個 + 的運算時間)!

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了,如何將它擺正成右圖呢? 一句話:「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點(座標 x, y)組成的,所以這句簡單的話可讓 CPU 忙得不亦樂乎了:每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

-----廣告,請繼續往下閱讀-----

即每一點均需要做四個 × 及兩個 + 的運算!如果每一運算需要 10-6 秒,那麼讓《我愛科學》一書做個簡單的角度旋轉,便需要 6 秒,這豈是電動玩具畫面變化所能接受的?

圖形處理的例子

人類的許多發明都是基於需要的關係,因此電腦硬件設計家便開始思考:這些點轉換都是獨立的,為什麼我們不讓它們同時進行(平行運算,parallel processing)呢?於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 106 運算,那上圖的轉換只需 10-6 秒鐘!

GPU 的興起

GPU 可分成兩種:

  • 整合式圖形「卡」(integrated graphics)是內建於 CPU 中的 GPU,所以不是插卡,它與 CPU 共享系統記憶體,沒有單獨的記憶體組來儲存圖形/視訊,主要用於大部分的個人電腦及筆記型電腦上;早期英特爾(Intel)因為不讓插卡 GPU 侵蝕主機的地盤,在這方面的研發佔領先的地位,約佔 68% 的市場。
  • 獨立顯示卡(discrete graphics)有不與 CPU 共享的自己專用內存;由於與處理器晶片分離,它會消耗更多電量並產生大量熱量;然而,也正是因為有自己的記憶體來源和電源,它可以比整合式顯示卡提供更高的效能。

2007 年,英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後,科學家發現獨立 GPU 不但能夠快速處理圖形變化,在需要大量計算才能實現特定結果的任務上也非常有效,因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理,不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化,也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬(註三)等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分,正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲,遠遠落在英偉達(80%)及超微半導體公司(Advance Micro Devices Inc.,19%,註四)之後,大約只有 1% 的市場。

-----廣告,請繼續往下閱讀-----
典型的CPU與GPU架構

事實上現在的中央處理單元也不再是真正的「單元」,而是如圖二可含有多個可以同時處理運算的核心(core)單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心,因此其核心功能不如 CPU 核心強大,但它們能同時高速執行大量相同的指令,在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心;GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書,不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等,也知道它擺斜了。這種「平行運作」的能力不僅限於視覺,它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是:嘴巴在講,腦筋思考已經不知往前跑了多少公里,常常為了追趕而越講越快,將不少學生拋到腦後!這不表示筆者聰明,因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技,因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣(matrix)的讀者應該知道,如果用矩陣和向量(vector)表達,上面所談到之座標轉換將是非常簡潔的(註五)。而矩陣和向量計算正是機器學習(machine learning)演算法的基礎!也正是獨立圖形處理單元最強大的功能所在!因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石:它們的架構就是充分利用並行處理,來快速執行多個操作,進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」(deep learning)。

黃仁勳在 5 月 22 日的發布業績新聞上謂:「下一次工業革命已經開始了:企業界和各國正與英偉達合作,將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升,幫助企業降低成本和提高能源效率,同時擴大收入機會。」

附錄

人工智慧的實用例子:下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後,讀者是不是認為筆者該退休了?

-----廣告,請繼續往下閱讀-----

GPU(圖形處理單元)和 AI(人工智慧)之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力,特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步,使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率,使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐,而且使其更具成本效益,因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展,GPU 的角色可能會變得更加不可或缺,推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標,這些神經元網路可以獨立但有凝聚力地工作,使我們能夠執行複雜的任務,例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外,研究表明,與非人類動物相比,人類大腦具有更多平行通路,這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上,一邊聽音樂一邊做飯,或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技,因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵:透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

(註一)當讀者看到此篇文章時,其股票已一股換十股,現在每一股約在 $100 左右。

(註二)組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」(GeForce 256)插卡吧?

(註三)筆者於 1984 年離開清華大學到 IBM 時,就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士(fellow)」Enrico Clementi 的團隊:因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層,我們只能自己寫軟體將 8 台中型電腦(非 IBM 品牌!)與一大型電腦連接來做平行運算,進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

-----廣告,請繼續往下閱讀-----

(註四)補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商:英偉達及 ATI(Array Technology Inc.)。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立,2006 年被超微半導體公司收購,品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐(Lisa Tzwu-Fang Su)博士為執行長後,股票從每股 $4 左右,上升到今天每股超過 $160,其市值已經是英特爾的兩倍,完全擺脫了在後者陰影下求生存的小眾玩家角色,正在挑戰英偉達的 GPU 市場。順便一題:超微半導體公司現任總裁(兼 AI 策略負責人)為出生於台北的彭明博(Victor Peng);與黃仁勳及蘇姿豐一樣,也是小時候就隨父母親移居到美國。

(註五)

延伸閱讀

  • 熱力學與能源利用」,《科學月刊》,1982 年 3 月號;收集於《我愛科學》(華騰文化有限公司,2017 年 12 月出版),轉載於「嘉義市政府全球資訊網」。
  • 網路安全技術與比特幣」,《科學月刊》,2020 年 11 月號;轉載於「善科教育基金會」的《科技大補帖》專欄。
文章難易度

討論功能關閉中。

賴昭正_96
43 篇文章 ・ 54 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此穫有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲科學月刊將我的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」推薦到泛科學重登。

0

0
0

文字

分享

0
0
0
賭博與愛情公式:用數學擬定你的擇偶策略——《數盲、詐騙與偽科學》
大牌出版.出版大牌_96
・2024/01/06 ・2486字 ・閱讀時間約 5 分鐘

-----廣告,請繼續往下閱讀-----

理解期望值,有助於分析賭場裡的大部分賭局,以及美國中西部和英國的嘉年華會中,常有人玩、但一般人比較不熟悉的賭法:骰子擲好運(chuck-a-luck)。

招攬人來玩「骰子擲好運」的說詞極具說服力:你從 1 到 6 挑一個號碼,莊家一次擲三顆骰子,如果三個骰子都擲出你挑的號碼,莊家付你 3 美元。要是三個骰子裡出現兩個你挑的號碼,莊家付你 2 美元。

假如三個骰子裡只出現一個你挑的號碼,莊家付你 1 美元。如果你挑的號碼一個也沒有出現,那你要付莊家 1 美元。賽局用三個不同的骰子,你有三次機會贏,而且,有時候你還不只贏 1 美元,最多也不過輸 1 美元。

我們可以套用名主持人瓊安.李維絲(Joan Rivers)的名言(按:她的名言是:「我們能聊一聊嗎?」),問一句:「我們能算一算嗎?」(如果你寧願不算,可以跳過這一節。)不管你選哪個號碼,贏的機率顯然都一樣。不過,為了讓計算更明確易懂,假設你永遠都選 4。骰子是獨立的,三個骰子都出現 4 點的機率是 1/6×1/6×1/6=1/216,你約有 1/216 的機率會贏得 3 美元。

-----廣告,請繼續往下閱讀-----

僅有兩個骰子出現 4 點的機率,會難算一點。但你可以使用第 1 章提到的二項機率分布,我會在這裡再導一遍。三個骰子中出現兩個 4,有三種彼此互斥的情況:X44、4X4 或 44X,其中 X 代表任何非 4 的點數。而第一種的機率是 5/6×1/6×1/6=5/216,第二種和第三種的結果也是這樣。三者相加,可得出三個骰子裡出現兩個 4 點的機率為 15/216,你有這樣的機率會贏得 2 美元。

圖/envato

同樣的,要算出三個骰子裡只出現一個 4 點的機率,也是要將事件分解成三種互斥的情況。得出 4XX 的機率為 1/6×5/6×5/6=25/216,得到 X4X 和 XX4 的機率亦同,三者相加,得出 75/216。這是三個骰子裡僅出現一個 4 點的機率,因此也是你贏得 1 美元的機率。

要計算擲三個骰子都沒有出現 4 點的機率,我們只要算出剩下的機率是多少即可。算法是用 1(或是100%)減去(1/216 +15/216 + 75/216),得出的答案是 125/216。所以,平均而言,你每玩 216 次骰子擲好運,就有 125 次要輸 1 美元。

這樣一來,就可以算出你贏的期望值($3×1/216)+($2×15/216)+($1×75/216)+(–$1×125/216)=$(–17/216)=–$0.08。平均來說,你每玩一次這個看起來很有吸引力的賭局,大概就要輸掉 8 美分。

-----廣告,請繼續往下閱讀-----

尋找愛情,有公式?

面對愛情,有人從感性出發,有人以理性去愛。兩種單獨運作時顯然效果都不太好,但加起來⋯⋯也不是很妙。不過,如果善用兩者,成功的機率可能還是大一些。回想舊愛,憑感性去愛的人很可能悲嘆錯失的良緣,並認為自己以後再也不會這麼愛一個人了。而用比較冷靜的態度去愛的人,很可能會對以下的機率結果感興趣。

在我們的模型中,假設女主角——就叫她香桃吧(按:在希臘神話中,香桃木﹝Myrtle﹞是愛神阿芙蘿黛蒂﹝Aphrodite﹞的代表植物,象徵愛與美)有理由相信,在她的「約會生涯」中,會遇到 N 個可能成為配偶的人。對某些女性來說,N 可能等於 2;對另一些人來說,N 也許是 200。香桃思考的問題是:到了什麼時候我就應該接受X先生,不管在他之後可能有某些追求者比他「更好」?我們也假設她是一次遇見一個人,有能力判斷她遇到的人是否適合她,以及,一旦她拒絕了某個人之後,此人就永遠出局。

為了便於說明,假設香桃到目前為止已經見過 6 位男士,她對這些人的排序如下:3—5—1—6—2—4。這是指,在她約過會的這 6 人中,她對見到的第一人的喜歡程度排第 3 名,對第二人的喜歡程度排第 5 名,最喜歡第三個人,以此類推。如果她見了第七個人,她對此人的喜歡程度超過其他人,但第三人仍穩居寶座,那她的更新排序就會變成 4—6—1—7—3—5—2。每見過一個人,她就更新追求者的相對排序。她在想,到底要用什麼樣的規則擇偶,才能讓她最有機會從預估的 N 位追求者中,選出最好的。

圖/envato

要得出最好的策略,要善用條件機率(我們會在下一章介紹條件機率)和一點微積分,但策略本身講起來很簡單。如果有某個人比過去的對象都好,且讓我們把此人稱為真命天子。如果香桃打算和 N 個人碰面,她大概需要拒絕前面的 37%,之後真命天子出現時(如果有的話),就接受。

-----廣告,請繼續往下閱讀-----

舉例來說,假設香桃不是太有魅力,她很可能只會遇見 4 個合格的追求者。我們進一步假設,這 4 個人與她相見的順序,是 24 種可能性中的任何一種(24=4×3×2×1)。

由於 N=4,37% 策略在這個例子中不夠清楚(無法對應到整數),而 37% 介於 25% 與 50% 之間,因此有兩套對應的最佳策略如下:

(A)拒絕第一個對象(4×25%=1),接受後來最佳的對象。

(B)拒絕前兩名追求者(4×50%=2),接受後來最好的求愛者。

如果採取A策略,香桃會在 24 種可能性中的 11 種,選到最好的追求者。採取 B 策略的話,會在 24 種可能性中的 10 種裡擇偶成功。

以下列出所有序列,如同前述,1 代表香桃最偏好的追求者,2 代表她的次佳選擇,以此類推。因此,3—2—1—4 代表她先遇見第三選擇,再來遇見第二選擇,第三次遇到最佳選擇,最後則遇到下下之選。序列後面標示的 A 或 B,代表在這些情況下,採取 A 策略或 B 策略能讓她選到真命天子。

-----廣告,請繼續往下閱讀-----

1234;1243;1324;1342;1423;1432;2134(A);2143(A);2314(A, B);2341(A, B);2413(A, B);2431(A, B);3124(A);3142(A);3214(B);3241(B);3412(A, B);3421;4123(A);4132(A);4213(B);4231(B);4312(B);4321

如果香桃很有魅力,預期可以遇見 25 位追求者,那她的策略是要拒絕前 9 位追求者(25 的 37% 約為 9),接受之後出現的最好對象。我們也可以用類似的表來驗證,但是這個表會變得很龐雜,因此,最好的策略就是接受通用證明。(不用多說,如果要找伴的人是男士而非女士,同樣的分析也成立。)如果 N 的數值很大,那麼,香桃遵循這套 37% 法則擇偶的成功率也約略是 37%。接下來的部分就比較難了:要如何和真命天子相伴相守。話說回來,這個 37% 法則數學模型也衍生出許多版本,其中加上了更合理的戀愛限制條件。

——本書摘自《數盲、詐騙與偽科學》,2023 年 11 月,大牌出版,未經同意請勿轉載。

討論功能關閉中。

2

1
1

文字

分享

2
1
1
被垃圾科學耽誤的人生:哈沃德的冤獄與平反——《法庭上的偽科學》
商周出版_96
・2024/01/04 ・4615字 ・閱讀時間約 9 分鐘

-----廣告,請繼續往下閱讀-----

紐約市沃斯街四十號,無辜計畫

哈沃德的故事:因被冤枉身陷囹圄三十四年

基思.艾倫.哈沃德可以說是一名倖存者。他被維吉尼亞州錯誤定罪,但是逃過死刑執行。而且還是兩次。梅克倫堡矯正中心在一九八四年爆發了所謂的「大逃亡」(The Great Escape)1,那是有六名死囚越獄的空前維安漏洞,哈沃德面對其後的嚴密禁閉也倖存了下來。哈沃德面臨過殘酷的獄警、僅存的希望全被澆熄、父母的死訊,他的身分也被侵蝕到只能淪為 1125797 號罪犯,但是他倖存了下來。

他在維吉尼亞州刑罰體系中所有最嚴酷的監獄裡倖存下來了,先是梅克倫堡,接著是奧古斯塔(Augusta),然後又在蘇塞克斯二監(Sussex II)待了十年,還有現在的諾托韋,他在諾托韋那樣環境惡劣的監獄醫務室裡進行了重大的腸道手術,並且活了下來。雖然很勉強。

圖/unsplash

在被錯誤監禁的三十四年裡,哈沃德排的這條等待救援的隊伍從未向前移動。大量監禁讓他身邊的囚犯如雨後春筍般湧現,因此這條隊伍只會越排越長。他最初因為傑西.佩隆的入室謀殺案和對他妻子特蕾莎.佩隆的性虐待案而被關到梅克倫堡時,維吉尼亞州每十萬名居民中有大約一百五十人遭到監禁。

當我們發現特蕾莎用過的性侵採證套組、把它送去做 DNA 檢驗時,維吉尼亞州的監禁率已經超過每十萬名居民有四百五十多名囚犯,每十萬名黑人居民則是超過兩千四百人。2在那個看不見的國度裡,到底住著多少無辜的 1125797 號囚犯,我們不會知道。但是統計顯示,在維吉尼亞州和全國有數千名無辜的人被關在牢裡;他們大部分人都永遠不會再拿回他們的名字了。

-----廣告,請繼續往下閱讀-----
圖/unsplash

維吉尼亞州剝奪了哈沃德生命中的每一個里程碑。他沒能結婚,沒有小孩,沒有做過除海軍之外的其他職業。他在二十幾歲之後,除了監獄檔案的照片,就只有一張自己的照片。他具有指標意義的生日,三十歲……四十歲……五十歲……六十歲,都是在鐵牢裡度過的,他只是沒死而已。

事情一開始不是這樣的。他也曾經奮鬥過。他從獄中出庭為自己辯護一事,曾經讓他的有罪判決遭到撤銷。為他贏來一次重新審判的機會、再一次讓真相大白的機會。但是當陪審團第二次做出有罪判決、上訴法院也維持這個裁決時,哈沃德體內的鬥志突然被掏空了。他決定放棄,讓餘生都在監獄裡度過。就像他有一次對我說的:「我就待在牢裡等死算了。」

重新審判:不可靠的咬痕證據

就訴訟而言,二○一六年發現了性侵採證套組,州也同意進行檢驗,這使得前進的道路變得清晰。哈沃德和史蒂夫.錢尼不同,他不需要維吉尼亞州法院或是其他法院承認咬痕證據完全不可靠。他不需要新法律或是定罪完善小組就可以重返法庭。也不需要當初把哈沃德的牙齒和特蕾莎.佩隆大腿上的咬痕「配對」的六名牙醫取消他們的證詞。

圖/unsplash

哈沃德很幸運:他有 DNA 。檢測開始之後,就會像是一顆小圓石被丟出來,滾下山坡引起 被壓住的真相一波又一波的雪崩。其規模之大,會讓哈沃德甚至不需要重回法庭。

-----廣告,請繼續往下閱讀-----

他幾乎立刻就被排除在可能的嫌疑人之外,也就是說所有檢驗項目,包括性侵採證套組、凶手蓋在特蕾莎頭上的尿布,以及她被性侵時的沙發墊,上面的生物證據都不可能是他的。

我的辦公室裡傳來更多歡呼聲。這種感覺不同於最初發現物證箱時的那種驚喜。是好消息,但也是預期中的結果。無辜計畫法律團隊的每個人都相信基思.哈沃德是清白的,也都知道他是清白的。

圖/unsplash

之前在訴訟中移交的文件就已經證明了:刑事專家不實宣稱在犯罪現場收集到的血清證據,根據在 DNA 之前的血型技術無法確定。其實在審判之前就可以將哈沃德排除在取樣之外了。後來他又被排除在 DNA 證據之外,就是理所當然的了。

接著,我們得知 DNA 分析人員可以從保存的生物樣本中發展出完整的基因輪廓。這表示除了可以排除哈沃德是 DNA 的來源,甚至還有可能得知到底是誰的 DNA ;不同於史蒂夫.錢尼案中的 DNA 已經受到毀損,只能夠做到排除錢尼。

-----廣告,請繼續往下閱讀-----
圖/unsplash

從每一件證據中提取的 DNA 輪廓都沒有更新的資訊。它們都來自同一名男性,既不是基思.哈沃德,也不是特蕾莎的丈夫傑西。反而是一名陌生人把他的 DNA 留在整個犯罪現場。發現證據的位置和特蕾莎的證詞完全一致,因此顯得更有說服力,這份證據也與哈沃德自己的陳述一致;哈沃德說他從來沒有進過佩隆家。

證人誤認是錯誤定罪一大主因?

這在大多數州就足以推翻有罪判決了。但也還是有可能出現荒謬的「沒被起訴的共同射精者」理論。不過,這個案件中有一名受害者還活著。特蕾莎強忍著痛苦和性侵她的人共度了三小時。她知道那天晚上只有一個入侵者。一名殺了她丈夫的凶手。一個「咬了她的人」。

圖/unsplash

早在 DNA 排除哈沃德之前,特蕾莎本人就為哈沃德的清白提供了最有說服力的證據:她拒絕指認哈沃德。哈沃德是因為咬了他的女朋友而被逮捕,而且還戴著手銬,在這樣容易誤認的情境中,特蕾莎都沒有指認哈沃德就是毀了她家庭的那名水手。

她的這個立場在兩次審判中都沒有絲毫動搖。許多犯罪受害者很可能會接受暗示,或是不論有意或無意,急著指認被警方確信是凶手的那個人。的確,證人指認時的誤認,通常是因為警方的建議而導致的無心之過,是錯誤定罪的一大主因。

-----廣告,請繼續往下閱讀-----

除了咬痕,另外的唯一證據就是駐衛指認了哈沃德。然而,即使在當時,他的證詞也是勉強得來而且不可靠的,我們得知在取得他的證詞時,用了可以「強化」記憶的祕密催眠,因此顯然缺乏可信度。

圖/unsplash

即使用催眠誘導的指認可以相信,不過駐衛也只是說在襲擊案發生當晚,他有看到哈沃德回到基地。是的,他是說那個人穿了血跡斑斑的制服,不過那人其實不是基思.哈沃德,而且在當時的紐波特紐斯,喝醉酒的水手在酒吧跟人打架,然後滿身是血回到船上,也不是什麼罕見的事。歸根究柢,不論證人指認的這番話具有多少分量,它都不代表哈沃德那天晚上有進入佩隆家。只有洛威爾.萊文和阿爾文.凱吉的專家證人證詞明確說出了這一點。而 DNA 也證明了兩位牙醫是錯的。

真正的兇手到底是誰!?

哈沃德的案件已經走向崩解。真正的證據(affirmative evidence)不是指向他有罪,而是指向另一個第三人。無論在哪一州,這個「新發現」的證據應該都對推翻任何一個有罪判決綽綽有餘了,但是維吉尼亞州和大多數州都不一樣。維吉尼亞州是全美國對無罪主張最有敵意的州之一。被判無期徒刑的囚犯很少有活著走出來的。要讓無辜者重獲自由,通常前提是必須破案。

然後「聯合 DNA 索引系統」(CODIS)就找到他了:在訴訟中喊出了「將軍!」

-----廣告,請繼續往下閱讀-----
圖/unsplash

根據美國的 DNA 數據庫「聯合 DNA 索引系統」,確定性侵取證套組、沙發墊和尿布上的 DNA 是來自一名叫做傑里.克羅蒂的人。在這起性侵謀殺案發生時,克羅蒂是卡爾文森號航空母艦的一名水手,這艘航空母艦當時停泊在紐波特紐斯的船塢。

基思.哈沃德也在這艘船上服役。克羅蒂和哈沃德長得有點像,他曾經因為綁架罪而在俄亥俄州的監獄服刑,並在十年前死於獄中。在哈沃德入獄期間,他還犯下其他暴力犯罪,但是都沒有像一九八二年對佩隆一家的暴行那樣殘忍;當然,除非克羅蒂還犯了其他沒有被偵破的案件,或是被以為已經破案的犯罪。

全美國對無罪主張最有敵意的州?

媒體壓力再次升高。但不是像一九八二年那樣,當時行凶的水手逍遙法外,因此有兩名美國參議員敦促要盡速逮捕他;這次的壓力是要推翻多年前因為媒體推波助瀾而造成的有罪判決。

圖/unsplash

弗蘭克.格林(Frank Green)是《里奇蒙時報》(Richmond Times-Dispatch)的記者,他長期以來都對維吉尼亞州對無辜者的敵意有批判性觀察,他詳細報導了哈沃德的故事,從聲請推翻他的有罪判決的那一刻起。連諾托韋裡面的囚犯都注意到了。

-----廣告,請繼續往下閱讀-----

哈沃德在監獄裡的朋友們都為他打氣。他們開始從監獄圖書館的報紙上剪下與哈沃德案件有關的新聞剪報,並保留給他。隨著哈沃德的案件從一團混亂的垃圾科學訴訟,轉變成教科書等級的 DNA 平反案件,格林的報導刊登位置也越來越靠近頭版。當哈沃德的聲請在等待維吉尼亞州最高法院的決定時,他成了頭版新聞,而當 DNA 檢驗證明哈沃德是無辜的時候,他直接登上頭條。

圖/unsplash

既然已經在「聯合 DNA 索引系統」找到符合者了,但凡有一點基本的正當程序概念,都會覺得繼續監禁哈沃德是不可接受的。他顯然是無辜的。任何殘存的反對意見都消失無蹤了。

總檢察長在一場匆忙召開的新聞發布會上,公開承認哈沃德是無罪的,並要求該州高等法院盡速對其聲請做出裁決。維吉尼亞州最高法院在第二天就宣布基思.哈沃德是一個無辜的人。

——本文摘自《法庭上的偽科學》,2023 年 12 月,出版,未經同意請勿轉載。

-----廣告,請繼續往下閱讀-----

原文注釋

  1. Bill McKelway, “From the Archives: How the 1984 Escape from Virginia’s Death Row Happened,” Richmond Times-Dispatch, May 30, 2009,瀏覽日期二○二一年七月五日,richmond.com/from-the-archives/from-the-archives-how-the-1984-escapefrom-virginias-death-row-happened/article_19ea1684-9af2-5d24-86ab-5875eaf2068c.html。 ↩︎
  2. Prison Policy Initiative, Virginia profile,瀏覽日期二○二一年七月五日,www.prisonpolicy.org/profiles/VA.html。 ↩︎
所有討論 2