大家都來學程式＝提升台灣「軟」實力？別讓軟體人才都成靠 X 工程師

本文由 新萃 Nutri Source 委託，泛科學企劃執行。

你有發現家裡的狗狗經常舔自己四肢，或是身上出現不明紅疹？當心這可能是過敏反應。寵物和人類一樣，也會有過敏反應，過敏可依照「來源」分為三種：吸入性過敏、接觸性過敏和食物性過敏。

不管是哪一種過敏反應，在人的身上都比較容易發現和排除。但狗狗的過敏卻很難處理，如果是接觸性或吸入性過敏，即使你把家裡打掃得很乾淨，還是無法排除帶狗出去散步時可能接觸到的環境過敏原。因此，對飼主來說，最容易控制的是食物性過敏。

食物性過敏是怎麼發生的呢？其實，「食物過敏」這個詞並不太準確。正確的臨床醫學用詞是「食物不良反應」（Adverse Food Reaction, 簡稱AFR）（Jackson, H. , 2009），指的是吃下食物後身體產生各種不良反應。並進一步分為食物過敏（Food Allergy）和食物不耐受（Food Intolerances）兩種。

如果你看過動漫作品《工作細胞》，你就會知道過敏其實只是免疫系統對特定成分產生的過度反應，因此全名為「過分敏感」；而食物不耐受則並非免疫性反應，而是消化系統無法代謝或對該生物體有毒，例如狗不能吃洋蔥或巧克力，否則會致死等等。

由於寵物沒有選擇權，只能吃飼主提供的食物，如果飼料中恰好有會造成牠 AFR 的成分，就可能產生各種症狀。除了腸胃發炎和拉肚子外，最明顯的外在症狀就是皮膚問題，包括搔癢、脫毛和紅疹等。後者容易被誤判為皮膚性疾病，讓許多飼主狂跑獸醫院的同時，獸醫也難以對症下藥。

雖然曾有研究透過讓醫師用血液或唾液是否檢測出 IgE 抗體來判斷狗是否過敏（Ermel, R et al.,1997），但最新的研究卻發現，無論使用無論血清的 IgE 抗原或是唾液裡的 IgM 或 IgA 抗原都無法有效檢測出狗狗的過敏來源（Udraite Vovk Let al., 2019 & Lam ATH et al., 2019），甚至會造成偽陽性誤判。因此，目前學界公認唯一能識別食物過敏原的方法就是「食物排除法」（Food Elimination Method）。

食物排除法的原理相當簡單粗暴，類似我們過去在學校做的實驗一樣，抓出「控制組與對照組」。首先，將狗狗的食物換成牠沒吃過、單一來源且易消化的高蛋白質或水解蛋白質；同時嚴格限制牠對其他食物接觸，包括其他人餵食或路上亂吃等可能性都要注意，此為「對照組」，如此持續 8～12 週，觀察皮膚是否有改善。如果確實有改善，那就證明了確實是 AFR 而非皮膚病。

下一步我們可以進行「食物挑戰」，在每餐食物中逐一嘗試可能的過敏原（例如常見的牛肉、雞蛋等），有如「控制組」，等到症狀又出現，就可以確認哪種食物成分是過敏原，未來就可以在飼料中排除，讓狗狗健康快樂地成長。

這個方法需要飼主的大力配合和耐心紀錄，不僅要在漫長的試驗期，更需要在控制期一一排除所有不可能之後，才能找到答案。而其中最困難的部分，也是實驗的基礎可能是第一步：「提供狗狗牠從未吃過，且肉品單一的蛋白質」，這點對多數飼主來說幾乎是不可能的任務，因為大部分的寵物飼料成分都很複雜。不要說狗狗了，搞不好你連自己沒吃過什麼恐怕都不知道。

那該怎麼進行食物排除法呢？別擔心，沒有找不到的肉品，只有勇敢的狗狗。市面上已經有了針對過敏狗狗的低敏飼料，新萃推出了一系列低敏肉，包含單一肉種的袋鼠肉、鹿肉以及野豬等相比牛豬羊等較不容易取得的肉類，是進行食物排除法第一步測試的首選。

此外，新萃牌無論哪種飼料都有美國專利 Good 4 Life® 奧特奇專利保健元素，能促進飼料中的營養都被狗狗完整吸收。不僅過敏的狗狗能吃，有消化不良症的狗狗也適用。

• 新萃產品說明

參考資料

1. Thus for the purpose of this discussion, although the term food allergy is used throughout, it should be recognized that this term is a presumptive clinical diagnosis and adverse food reaction is a more accurate term for these canine cases. – Consensus
2. Jackson, H. (2009). Food allergy in dogs – clinical signs and diagnosis.. Companion Animal Practice.
3. Assessment of the clinical accuracy of serum and saliva assays for identification of adverse food reaction in dogs without clinical signs of disease – PubMed (nih.gov)
4. Lam ATH, Johnson LN, Heinze CR. Assessment of the clinical accuracy of serum and saliva assays for identification of adverse food reaction in dogs without clinical signs of disease. J Am Vet Med Assoc. 2019 Oct 1;255(7):812-816. doi: 10.2460/javma.255.7.812. PMID: 31517577.
5. Direct mucosal challenge with food extracts confirmed the clinical and immunologic evidence of food allergy in these immunized dogs and suggests the usefulness of the atopic dog as a model for food allergy. – Consensus
6. Ermel, R., Kock, M., Griffey, S., Reinhart, G., & Frick, O. (1997). The atopic dog: a model for food allergy.. Laboratory animal science.
7. https://www.moreson.com.tw/moreson/blog-detail/furkid-knowledge/pet-knowledge/dog-food-allergen-TOP10/
8. 狗狗因為食物過敏而搔癢不舒服，為什麼做「過敏原檢測」沒什麼用？
9. 【獸醫診間小教室】狗狗皮膚搔癢難改善？小心食物過敏！ – 汪喵星球 (dogcatstar.com)
10. 寵物知識+／毛孩對什麼食物過敏？獸醫：驗血完全不準！診斷法只有一個 | 動物星球 | 生活 | 聯合新聞網 (udn.com)
11. Is there a gold-standard test for adverse food reactions? – Veterinary Practice News

國小高年級科普文，素養閱讀就從今天就開始!!

前陣子不知道各位是否有發漏到一個很科幻的消息，有一名 GOOGLE 工程師勒穆因（Blake Lemoine）上網公布他自己和他協助開發的對話型 AI LaMDA（Language Model for Dialog Applications）之間的對話紀錄。

他宣稱這個 AI 已經具有知覺和自我意識，甚至能對《悲慘世界》有獨到的評論，也略懂禪宗甚至能冥想。震驚的勒穆因形容它就像個 7 – 8 歲的孩子，而且 LaMDA 還明確表達自己是人而非 google 的財產。

難道說 AI 界最知名的圖靈測驗已經被 google 攻克了嗎？

圖靈與模仿遊戲

提起圖靈，大家心中應該會浮現以新世紀福爾摩斯、奇異博士走紅，人稱飾演天才專業戶的班奈狄克·康柏拜區 Benedict Cumberbatch）的臉。

他曾在一部名為《模仿遊戲》的電影中，詮釋了現代電腦科學概念之父艾倫‧圖靈 （Alan Turing） 的傳奇一生。他在二戰時期成功研發出一台能破解德軍密碼的計算機 Bombe ，而後更完成了電腦數學的理論化，在概念發展上仍是無人能出其右，例如他 1936 年提出的通用計算機/圖靈機架構，以及嘗試區隔AI與人的差異的哲學思考：圖靈測驗（Turing Test）。

圖靈測驗是一個思想實驗，早在 1950 年，第一台商用電腦連個影子都沒有的時代下，圖靈就已經思考到未來「計算機」的智慧表現將可能到達人類難辨真假的程度，具體來說這個思想實驗是如果一台機器能夠透過介面，與不知對面是機器人或是人類的受試者展開對話，而不被辨別出其機器身分，那麼就可稱這台機器具有智慧。

但我們也知道智慧有很多面向跟層次，語言和問題回應都不一定能反應這台機器有無智慧，因此這個思想實驗的有效性也被許多科學家和心理學家質疑。即使如此簡單粗暴的模仿遊戲，至今其實也都沒人能攻克。

等等，你可能會想到，前面提到的 google 工程師勒穆因，他不是已經分不出來對面是機器還是人了嗎？原因很簡單，他自己就是 AI 的開發者而非圖靈測試設定中的不知情受試者，因此根本不能算數，除非 google 拿這個 AI 給不知情民眾作測試。

不過今年 8 / 28 google 已經將這個對話機器人以 AI Test Kitchen 項目開放部分美國人作小規模測試，其中包含了「 Imagine It （想像一下）」，只要你說出一個想像或實際存在的地點，LaMDA 就會嘗試以文字描述，而另一個「List It（列個清單）」，則會幫你摘要分類起你提供的清單內容。最有可能和圖靈測驗有關係的「 Talk About It （你說看看）」項目，可以針對特定主題與使用者進行自由對談。

搞不好等到這個封閉測試結束後，我們會真的分不清楚現在到底是人還是 AI 在和我們對話，屆時也許就真能達成「通過圖靈測試」這個 AI 里程碑！

真實世界的棋靈王 AlphaGo

其實這已經不是 google 第一次用 AI 震驚世人了，讓我們回到 2016 年的圍棋大賽會場，當時 google 收購的公司 Deepmind 研發的圍棋計算 AI Alpha Go 以四勝一敗擊敗韓國棋王李世石，爾後又於 2017 年三戰全勝當時世界棋王柯潔。

若這場對奕發生在網路上，就像是棋靈王中佐為以 SAI 為化名擊敗塔矢名人，我們是否真的能分辨在電腦對面和你下棋的是 AI 藤原佐為、還是黑嘉嘉呢？

而這樣玄妙的畫面，當年還真的發生了，就在 2016 年末網路棋壇上一個名為 Master 的帳號出現，專挑職業棋士對奕，最後獲得 60 勝 1 和這麼大殺四方的成績。

而在第 54 局和中國棋聖聶衛平對奕後， Master 首次打出繁體中文「謝謝聶老師」，在第 60 局對上中國的古力九段 Master 更自曝身分，說出自己就是「AlphaGo 的黃博士」。這位黃博士就是打從 2012 就開發出國產圍棋程式 Erica ，爾後被 Deepmind 公司挖角，參與開發 AlphaGo 的台灣資深工程師黃士傑。

不論是讓工程師自己都認知錯亂的 LamDA ，或是在圍棋界痛宰各路棋王的 AlphaGo ，驚嘆之餘，我們更好奇的是，它們是怎麼開發出來的？

人工智慧的起起落落

讓我們來看看歷代電腦科學家們是如何發展出各種人工智慧，一路迎來現在幾乎琴棋詩書樣樣通的黃金時代，我先提醒大家，這過程可不是一帆風順，就像股票一樣起起落落，在 AI 的發展史上，套牢過無數科學家。

人工智慧這概念是在 1956 年提出，就在麥卡錫（John McCarthy）和明斯基（Marvin Minsky）、羅切斯特（Nathaniel Rochester）和香農（Claude Shannon）四位 AI 鼻祖與其他六位研究者參與的一個名為「達特茅斯夏季人工智慧研究會」的會議上，這一年也被公認為 AI 元年。

會議中除了人工智慧這個詞以外，當年這些金頭腦們就已經提出大家現在很熟悉的「自然語言處理」（就是 SIRI 啦）、神經網路等概念，而在這個會議後，正好遇上美蘇冷戰和科技競賽的時代。除了在大家耳熟能詳的阿波羅系列等太空任務上較勁外，兩大強國也投資大量資源在電腦科學上，期待能夠像圖靈當年那樣，開發出扭轉戰局的電腦科技。

而他們也不負所託產出了很多有趣的運用，例如第一個具備學習能力的跳棋程式、或是聊天機器人伊莉莎（Eliza）、醫療診斷系統「MYCIN」。史丹佛大學（Standord University）甚至就從那時開始研發現在很夯的汽車自動駕駛技術。

然而到了 70 年代初期，AI 的發展開始遭遇許多瓶頸，主要是研究者們慢慢發現，即使他們開發的AI 已經擁有簡單的邏輯與推理能力，甚至一定程度的學習能力，但仍離所謂智慧和判斷能力差太遠，使得當時的 AI 甚至被批評為只能解決所謂的「玩具問題（Toy Problem）」。

也因為能解決的問題太有限，也導致出資的英美政府失去了信心， AI 研究領域迎來了第一次寒冬。但這並非當時的科學家能力不足，而是他們生錯了時代，例如我們現在都經常聽到的「類神經網路」就是前述的 AI 鼻祖明斯基提出的。

就像仿生獸的創造者一樣，他想從大自然中找答案，而既然要探索智慧，明斯基就直接模仿人類腦細胞，做出第一台神經網路學習機，但當年受限於電腦硬體效能和可用的資料不足，使類神經網路沒有辦法像現在一樣揚名立萬。

在寒冬之中，另一位大神麥卡錫認為追求智慧和思考是緣木求魚，不如利用機器比我們還強大的優勢邏輯與運算，來幫我們解決問題就好，因此演進出「專家系統」這條路線，帶來人工智慧的復興。

專家系統的本質就是把所有參數和結果塞進去，用搜索和運算的方式來回答問題，這種人工智慧特別適合解決一些有明確答案的專業問題，所以被稱為專家系統，例如醫生針對已知病徵開立處方用藥，或是法律相關問題。

隨著電腦運算效能的大提升，專家系統在復興之路上有不少發揮和成果，但很快又遇到下一個瓶頸，即是「專家系統無法面對新問題」，例如即使能將開處方籤這件事自動化，但卻沒有辦法對應新疾病例如 COVID – 19，或是還沒來得及輸入資料庫的新型藥品，離取代醫生太遠了。

於是就像景氣循環一樣，大量投資的熱錢又開始泡沫化，人工智慧迎來了第二次寒冬，許多電腦科學家甚至改自稱自己在做自動化設計或最佳化系統等等來掩人耳目，避免被唱衰。

這概念非常合理，可惜受限於當時電腦硬體能力和資料量，因此原型機能解決問題的速度還不如傳統統計方式，但隨著電晶體的高速發展，以及網路世代帶來海量資料，類神經網路這門技藝開始文藝復興。

1984 年，美國普林斯頓大學的物理學家和神經學家霍普菲爾德（John Hopfield）用模擬集成電路（linear integrated circuit）完成了新的類神經網路模型，而雲端運算、大量資料讓科學家可以輕易的餵養資料訓練模型，更能夠增加更多「隱含層」讓運算更複雜，這種「深度學習技術」，讓人工智慧的第二次寒冬看見暖陽。

從李飛飛推出的 ImageNet 年度競賽開始，演化到 google 的 alphaGo ， AI 開始能夠認得圖像上的物件，甚至攻克本來被認為不可能攻克的圍棋領域。何會說圍棋曾被認為不可能被攻克呢？因為每一盤圍棋的複雜度可是高達 10 的 172 次方，比現在已知的宇宙原子數量還多，因此圍棋界才有「千股無同局」之說。

相較起來 1997 年 IBM 的深藍攻克的西洋棋複雜度僅有 10 的 46 次方，但也動用了 30 台電腦加裝 480 加速運算晶片，基本上就有如火鳳燎原中八奇思維的「我知道你的下一步的下一步」，當年深藍每一次下棋可是都暴力計算到了後面 12 步的發展，才打敗西洋棋世界冠軍卡斯帕羅夫。

AlphaGo 到底是怎麼算出這麼複雜的圍棋呢，難道它比深藍還厲害，能像是奇異博士雖然能透過時間寶石演算出一千四百多萬種平行宇宙的可能性才落子嗎？

這就要提到 Deepmind 公司非常有趣的洞見，那就是真正的智慧是捨棄那些無須多想、壓根不可能成功的可能性。 google 工程師使用了一種叫做蒙地卡羅樹搜尋的方式一方面讓 alpha go 大量隨機生成類神經網路參數和層數，二方面讓它快速搜尋並略過「不需要運算的路徑」。

這其實是我們日常生活中很熟悉的現象　——人腦的「捷思」，也就是直接專注於我們要解決的問題，忽略周遭的雜訊或多餘的想法。而類神經網路的設計思維是尋求最佳解而非唯一解，即使是 Alpha go 也會下錯棋，也曾輸給李世石，但關鍵是能夠在有限的資訊和時間中得到答案。

除了下出神之一手以外，Alpha go 這樣的 AI 能做的事情還多著， Deepmind 用 AlphaGo 打遍天下無敵手後宣布讓 AlphoGo 退休，後續將這套技術拿去學玩貪食蛇，打星海爭霸，展現出超越電競選手的技巧，現在甚至能預測蛋白質結構，或比醫生更精準地判定乳癌。

人類的最後堡壘陷落了嗎？

最後我們回到一開始的問題，實用化的 LaMDA 究竟有沒有可能通過圖靈測試呢？

即使目前 google 仍強烈否認 LaMDA 具有知覺，而勒穆因也因涉嫌洩漏商業機密被停職。英國謝菲爾德大學機器人學院教授羅傑‧摩爾澄清這個AI背後的算法體系只是「詞序建模」（world sequence modelling）而非「語言建模」（language modeling）。

他強調對答如流的 LaMDA ，會給你他有人格的感覺只是錯覺。但最新的應用中，google 找來了 13 個作家，測試以 LaMDA 為基礎開發的寫作協助工具LaMDA Wordcraft。運作上有點像手機輸入法的關聯字詞推薦概念，但它的設計完全是為了文字創作者而生，利用整個網際網路中的文字，它彷彿擁有了類似榮格「集體潛意識」的能力，當小說家起了一個頭，它就能開始推薦下一個單詞甚至一整個句子補完，甚至還能調整生成文字的風格，例如有趣或憂鬱，這些應用聽起來簡直像是科幻小說。

奇妙的是，參與測試的作家之一正是曾翻譯《三體》英文版並寫出《摺紙動物園》的科幻小說家劉宇昆，他形容這個工具讓他數次突破「創作瓶頸」，節約了自己的腦容量，專注於創作故事更重要的東西。

更驚人的是，他提到有一次他連開頭的靈感都沒有，因此他把「創作的主動權」交給了 LaMDA ，並從中看到了從未想過的可能性，有了繼續寫下去的新寫作靈感。儼然就像當年 Alpha Go 下出一些人類棋譜中從沒想過的棋路一樣，有了「洞見」。

到了這個地步，你仍能堅持 AI 只是我們拿來「解決問題」的工具，而不具備一定程度對人文的認知或智慧嗎？

美國政府企圖開發出人工智能武器

克萊瑞菲（Clarifai）這家公司位於紐約市的一間小辦公室內，就在紐約大學深度學習實驗室附近，主要是研發可以自動辨識數位影像中物體的科技，例如在零售網站上搜尋鞋子、服飾與皮包的相片，或是辨識保全攝影機影片的人臉。該公司的目的是複製谷歌與微軟等科技業者過去幾年在人工智慧實驗室內所建造的影像辨識系統──然後出售給其他企業、警局與政府機構。

2017 年秋天，克萊瑞菲位於曼哈頓下城辦公室角落的一間房間，窗戶全都用紙糊住，門上有一個牌子寫著「消失的密室」（The Chamber of Secret），引用的是《哈利波特》（Harry Potter）系列的第二集書名。這個牌子是用手寫的，掛得有些歪歪斜斜。在門後有個八位工程師組成的團隊，正在進行一項他們被禁止對公司其他同事談起的計畫。

其實，即使是他們自己也不太清楚所從事的計畫是什麼。他們知道是在訓練一套系統，使其能夠自動辨識在沙漠中某處所拍攝影片裡的人物、汽車與建築物，但是他們不知道要如何使用此一科技。當他們詢問時，公司的創辦人暨執行長麥特．塞勒（Matt Zeiler）會解釋，這是政府有關「監視」的計畫。他說此一計畫可以「拯救生命」。

後來克萊瑞菲搬到較大的辦公室，幾位工程師發掘儲存在公司內部電腦網路的數位檔案，發現有幾個檔案談到一筆政府合約，他們的工作才浮現檯面。

他們是為國防部的專家計畫（Project Maven）研發相關科技。該計畫的構想是建造一套系統，可以為無人機辨識攻擊目標。但是此一系統的確切用途仍不明朗。他們無法確定此一科技是用來殺戮，還是如塞勒所說的是為了避免殺戮。也無法確定這套系統是用來進行自主性的空襲行動，還是為人類操作員扣下扳機前提供資訊。

接著，在 2017 年末的一個午後，三名身著平民服裝的軍方人員走進克萊瑞菲的辦公室，與幾位工程師闢室密談。他們要知道此一科技的精確度有多高。他們先是詢問它能否辨識像清真寺這樣的特殊建築物。他們表示，恐怖分子與叛亂分子往往會利用清真寺作為軍事總部。他們然後又問道它能否區分男人與婦女。

「你是什麼意思？」一位工程師問道。軍方人員解釋，在曠野之中，它應該能夠根據男人兩腿間隙來分辨男人（都是穿著褲子）與婦女（都是穿著長及腳踝的裙子）。他們表示，他們只准許射殺男人，不能殺婦女。「有時候男人會穿長裙來騙我們，不過沒有關係，」一位軍方人員說道，「我們還是會幹掉這些混帳東西。」

美國國防部專家計畫：自主性武器

2017 年 8 月 11 日，週五，美國國防部長詹姆士．馬提斯（James Mattis）坐在谷歌總部會議室的桌前。他對面坐著新上台的谷歌執行長桑達．皮采（Sundar Pichai），還有創辦人賽吉．布林（Sergey Brin）、法律總顧問，以及人工智慧部門的主管。

會議室內還有其他一些人，包括幾名國防部的人員與谷歌雲端運算團隊的主管們。國防部的人員大都穿西裝打領帶。谷歌的與會者大都穿著西裝，但沒有打領帶。布林則是穿著一件白色 T 恤。

馬提斯部長正在進行西海岸巡迴考察，參訪矽谷與西雅圖的多家大型科技業者，主要是代表五角大廈探詢專家計畫的採行選項。國防部是在四個月前發動專家計畫，旨在加速國防部「對大數據與機器學習的使用」。該計畫又名「演算法作戰跨職能團隊」（Algorithmic Warfare Cross-Functional Team）。此一計畫的推動有賴像谷歌這類的企業支持，因為它們近幾年來已累積了建造深度學習系統所需的專業與基礎架構。

這也是五角大廈建立新科技的典型方法──與民間企業合作──但是現在的情況與過去有所不同。谷歌與其他科技業者掌握了美國人工智慧的人才，然而它們都不是傳統的軍事承包商。它們是才開始涉足軍事相關領域的消費性科技業者。

不僅如此，川普現在已入主白宮，使得這些公司的員工更加警惕政府的計畫。谷歌對其中的緊張態勢尤其敏感，這是因為該公司特有的文化允許──甚至鼓勵──員工說出自己的看法、做他們喜歡做的事，而且通常在工作場所的行為表現就和在家裡一樣。

專家計畫所造成的緊張情勢尤其高亢。許多主持谷歌深度學習研發工作的科學家都反對自主性武器，包括「深度學習運動之父」傑弗瑞．辛頓（Geoffrey Hinton）與深度心智（DeepMind）的創辦人。但是根據了解，谷歌的最高層卻希望能與國防部合作。

谷歌董事長艾力克．施密特（Eric Schmidt）同時也是國防創新委員會（Defense Innovation Board）的主席，這是由歐巴馬政府成立的民間組織，旨在促進矽谷的新科技加速移轉至國防部。

在該委員會最近一次會議中，施密特表示在矽谷與國防部之間有一道「顯著的鴻溝」，該委員會的任務就是弭平此一差距。谷歌高層同時也視與軍方合作為其發展雲端事業的另一契機。其實該公司暗中已和國防部建立合作關係。

專家會議上的暗起雲湧

在五月的時候，也就是專家計畫發動一個月後，谷歌一支團隊與國防部官員會面，而在第二天谷歌就向政府申請在自家電腦伺服器儲存軍事數據的許可證。但是三個月後國防部長馬提斯來到谷歌總部商討相關科技時，他知道必須動用一些技巧才能引導其中的關係傾向他這一邊。

馬提斯表示他已深刻了解該公司科技在戰場上的威力。畢竟，美國的敵人都是使用谷歌地球──以衛星影像組合而成的互動式世界數位地圖，來辨識迫擊砲的目標。他強調美國應該加強作戰能力。現在，在專家計畫下，國防部不僅要發展人工智慧，能夠閱讀人造衛星的照片，同時還要能夠分析無人機在更接近戰場的位置所捕捉到的影片。

馬提斯盛讚谷歌「在科技業界的領先地位」與「企業責任上的崇高聲譽」。他表示，這就是他來這兒的一個主要原因。他十分關切人工智慧的道德倫理問題。他表示該公司應該讓國防部「感到如芒在背」──以此來反制其傳統的態度。他說道：「國防部歡迎你們的理念。」

在桌子另一側的皮采表示，谷歌經常在思考人工智慧的倫理問題。他指出，愈來愈多的壞人會使用這類科技，因此讓好人領先是重中之重。馬提斯問谷歌能否將一些道德與倫理下的規則予以編碼輸入系統之內──谷歌人員心知肚明這是一個不切實際的選項。

主持谷歌人工智慧研發工作的約翰．吉安南德雷亞（John Giannandrea）強調，這些系統最終都需仰賴其訓練數據的品質。但是谷歌的法律總顧問採用不同的說詞。他表示，這些科技具有拯救生命的巨大潛能。

九月底，在馬提斯造訪谷歌總部的一個多月後，谷歌簽下參與專家計畫相關工作為期三年的合約，總值在二千五百萬美元到三千萬美元之間，其中一千五百萬美元必須在頭十八個月內付清。對谷歌來說，這只是一筆小數目，而且其中一部分還必須與其他參與合約的人分享，不過該公司著眼的是放長線釣大魚。

就在同一個月，國防部邀請美國企業參與 JEDI 的競標，這是聯合企業防禦架構（Joint Enterprise Defense Infrastructure）的縮寫，是一筆為期十年、高達一百億美元的合約，主要是提供國防部應用核心科技所需的雲端運算服務。問題在於谷歌爭取 JEDI 合約時，是否會公開其參與專家計畫與未來其他可能的政府合約的事實。

AI 圈的呼籲：禁止自主性武器！

在國防部參訪谷歌總部的三週後，生命未來研究所發表了一封公開信，呼籲聯合國禁止他們所謂的「殺手機器人」（killer robot），這是對自主性武器的另一個稱呼。

「針對企業界製造的人工智慧與機器人科技可能會被重新利用發展自主性武器，我們特別覺得有責任提出警告，」公開信寫道，「致命的自主性武器極有可能引發戰爭型態的第三次革命。一旦發展出來，軍事衝突的規模勢必遠大於過去，而且發動速度之快也將遠超過人們的理解。」

該封公開信獲得人工智慧圈內逾百人的簽署，包括不時對超智慧威脅發出警告的馬斯克，此外還有辛頓、深度心智創辦人哈薩比斯與蘇萊曼。

蘇萊曼認為，這些科技需要一種新型態的監管。「是誰在做未來有一天將會影響這個星球數十億人口的決策？又是誰在參與此一決策過程？」他問道，「我們必須分散此一決策過程的參與者，這也代表監管人士必須在一開始就參與決策──政策制定者、公民社會行動人士，以及我們這些科技服務的對象──應該讓他們深入參與我們產品的創造與了解我們的演算法。」

未公開真相：人工智慧武器化

九月，谷歌準備簽下專家計畫的合約，負責審查該協議的銷售人員相互以電子郵件討論公司是否該將合約公開。「我們應該宣布嗎？我們能談論報酬嗎？我們提供給政府的指示是什麼？」谷歌一位人員寫道，「如果我們保持沉默，我們就無法控制相關的訊息。這對我們的品牌形象沒有好處。」他最終認為谷歌應該發布此一新聞，其他人也同意。

「這個消息最後一定會流出去，」另一位谷歌人員寫道，「還不如照我們自己的方式發布。」這樣的討論持續了好幾天，期間某人說服了李飛飛。李飛飛為這項合約喝采。「我們即將拿到專家計畫實在太棒了！這是一個了不起的成就，」她寫道，「你們的表現太好了！謝謝你們！」但是她也提醒在宣傳時必須格外謹慎。

「我認為我們應從一般雲端科技的角度，就國防部與 GCP 間的合作來進行公關活動，」她寫道，她所謂的 GCP 指的是谷歌雲端平台（Google Cloud Platform），「不過要不惜代價避免提到人工智慧，或是有任何相關暗示。」她知道媒體界一定會質疑該計畫的道德倫理問題，即使只是因為馬斯克挑起過這個話題：

人工智慧武器化就算不是人工智慧現今最敏感的議題，也是最敏感的之一。媒體界都等不及利用這個議題來打擊谷歌。你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。媒體界現在都十分關注人工智慧武器、國際競爭，以及人工智慧可能造成的地緣政治緊張情勢。

谷歌在人工智慧與數據方面已經有一些與隱私相關的議題需要處理，如果媒體界又找到谷歌正在發展人工智慧武器或是為國防產業提供可以武器化的人工智慧科技話題，我真不知道還會演變成什麼樣子。谷歌雲端 2017 年的主題就是在於推動人工智慧的民主化。我會超級謹慎維護這些正面的形象。

谷歌到頭來並未宣布這項計畫，並且還要求國防部也不要公開。即使是公司內部人員也必須靠自己才能知道這項計畫。

——本文摘自《AI製造商沒說的祕密： 企業巨頭的搶才大戰如何改寫我們的世界？》，2022 年 8 月，時報出版，未經同意請勿轉載。