勞動部當前重要勞動議題專題講座-「行政院及所屬機關(構)使用生成式AI參考指引應遵守規範」摘要

王權卿

　　勞動部於112年11月15日辦理當前重要勞動議題專題講座(第7場次)，邀請達文西個資暨高科技法律事務所葉所長奇鑫針對人工智慧(Artificial Intelligence，以下簡稱AI)發展與法規趨進行演講，期能藉由本次講座讓與會人員瞭解AI突破性發展對組織與個人之影響，提升勞動工作者在AI科技發展應具備的正確觀念與能力，並對於AI相關法規之研擬提供廣泛的觀點與建議。

　　葉奇鑫所長學歷為國立交通大學(現為國立陽明交通大學)電子工程學士、東吳大學法學碩士，於1995年律師、司法官考試及格，曾任職網際網路公司露天拍賣營運長及eBay交易安全長，以及法務部檢察司、資訊處檢察官，具備科技與法律雙專業深厚的實務經驗。茲將本次專題講座重點彙整如下：

一、AI突破性發展對組織及個人的影響

　　葉所長在就讀建國中學時，就已經利用蘋果2號電腦開發一個弱智AI程式–生物電腦檢索表，使用二分法簡單決策術，其具有學習能力可分辨144種蕨類，惟因為軟硬體限制無法做大數據關聯性運算，所以屬於弱智程式。但隨著電腦科技快速進步，運算力已是當年的百萬倍，具備機器學習能力，以及網際網路崛起，網路上有大量數據資料可供檢索應用，龐大的資料加上優秀的演算法，今日的AI已經更為聰明。目前人工智慧演算法僅為狹義型的AI(Artificial Narrow Intelligence，簡稱ANI)，是設計成專門處理某一特定任務的AI，其特性是單一任務目標導向（Single Goal-oriented)，缺乏其他綜合能力(像是人類特有能力及除本身針對任務外的其他智能)，可應用於車牌辨識、人臉及語音辨識和下圍棋等，「通用型的AI(Artificial General Intelligence，簡稱AGI)」則目前尚未出現，簡單來說這類型的AI就是人能做的它都能做到，可以跨領域同時解決不同的問題，像是可以做菜煮飯外也能夠有效與人溝通。其擁有人類感知認知與創意能力、多元智慧和學習能力，如同電影「魔鬼終結者」裡面的終結者機器人。

　　ChatGPT，聊天生成預訓練轉換器(Chat Generative Pre-trained Transformer)，是OpenAI開發的人工智慧聊天機器人程式，於2022年11月推出。ChatGPT目前仍不準確但會改變傳統使用Google搜尋引擎的搜尋方式，於是Google公司為應對ChatGPT的崛起，在2023年3月開發出Bard生成式人工智慧聊天機器人，相對ChatGPT回答比較保守，Bard分析的完整性令人感到驚訝，葉所長目前有使用Bard草擬研究所課程教學大綱的經驗，也強調AI編寫與回答的內容仍常有明顯問題，答案一定要人工核實，有些常識測驗AI仍無法給出正確的答案。而另一個有趣的應用是把往生的親朋好友的生長背景、口音及照片相關數據資料讓AI識別後，讓人們可以有如和往生者對話一般。

二、人類和AI是競爭還是合作？

　　人類不是第一次擔心自己被科技進步所取代，18世紀60年代蒸汽機的應用使工業生產效率大幅提高，從而導致了社會經濟的快速發展，「蒸汽時代」也帶來了新的社會階層，如工人階級和資產階級，是為第一次科技革命；第二次科技革命「電氣時代」的開始標誌是19世紀70年代年愛迪生發明了白熾燈，使電能能夠廣泛應用於家庭照明，電能的應用推動了電視、冰箱及洗衣機等家用電器的發展，從而改變了人們的生活方式。第三次科技革命「資訊時代」始於20世紀40至50年代，美國科學家William Shockley、Walter Houser Brattain和John Bardeen發明了電晶體，使電子計算機的體積和功耗得到了大幅降低，從而推動了電子計算機的發展，推動了自動化生產的發展，使生產效率得到了大幅提高。資訊技術被廣泛應用於製造業、物流業及服務業等行業，使這些行業得到了快速發展。

舉例來說，在探討律師會不會被AI取代這個議題上，正反兩方都各有說詞，葉所長認為高階律師的專業在於訴訟策略，這不是撰寫律師函等容易被AI取代的工作，最受歡迎的說法是折衷說，即「被取代的不是Jobs，而是Tasks」，亦同李開復提出的「五秒鐘原則」，李開復認為人工智慧在處理大量數據和快速做出決策方面具有優勢。因此，如果一項工作需要在五秒鐘之內做出決策，那麼人工智慧就可以通過分析大量數據，做出比人類更準確的決策。

　　輝達公司(NVIDIA)執行長黃仁勳認為，確實有些人會因為AI而失去工作，但他認為他們只是被另一個會用AI的人取代，生產力提高帶來的繁榮會讓更多的人被僱用。人類一直會有新想法，不會無所事事，公司取得更大成功時，他們會僱用更多員工，因為他們想擴展到更多領域，例如交通、零售、娛樂、技術和藥物各行各業有新的想法產生，只有不思長進的公司在採用 AI 提高生產力後縮編人員。

三、AI應用產生的法律問題(以AI孫燕姿為起點)

　　隨著AI創作工具的發展，AI創作將如雨後春筍般的出現，更不用說以AI生成技術的以假亂真，在知名圖片、文字及歌曲創作人都會成為被生成的熱門模仿對像，目前網路上已出現滿坑滿谷的AI孫燕姿翻唱，由這些已開始層出不窮的生成模仿，也可證明在AI工具簡單隨手生成作品的情況下，有經濟價值的並非是創作的內容，而是特定的被模仿的真人。

　　上揭AI生成模仿有兩個被害人，分別是孫燕姿與詞曲著作權人，詞曲部分依照傳統著作權法，可能侵害詞曲著作權人著作財產權而有刑事責任，而用AI仿真某歌手聲音，很明顯該聲音一定具有明確的個人特徵，按《民法》第18條第1項規定：「人格權受侵害時，得請求法院除去其侵害；有受侵害之虞時，得請求防止之。」《民法》第195條第1項亦規定：「不法侵害他人之身體、健康、名譽、自由、信用、隱私、貞操，或不法侵害其他人格法益而情節重大者，被害人雖非財產上之損害，亦得請求賠償相當之金額。」，所如果聲音是人格權保護的客體，那麼未經同意而為使用，甚至刻意表明是特定人的聲音，即可請求人格權侵害的保護。

　　但《民法》第195條並沒有明文例舉「聲音」，就須討論「其他人格法益」是否可予含括。有人認為「在日常生活中，隨處可見以「聲音」作為辨別他人的方式(如接聽他人來電)，即便係不識之人，若將其聲音與其他個人資料結合紀錄，下次再依聲音對照出該人身分亦非難事。我國現行「個人資料保護法」所要保護的是避免個人人格權遭受不法侵害，「聲音」既屬於可以識別出特定個人之資料，即應受到我國法的規範。

　　另外，智慧財產法院101年度民著訴字第19號民事判決，認為肖像權係個人對其肖像是否公開之自主、彰顯其個人人格特徵之權利，具有人格利益，且肖像權於商業使用之公開權，因具有商業價值，除具人格權外，亦含有財產權性質。

　　因此，有看法認為依該判見之見解，名人對其賦特色並具有辨識力之姿態、聲音或其他個人形象特徵，應亦有權決定是否自主公開，並對於其商業使用之公開與否具有支配權，應認定屬於《民法》第18條之「人格權」，及《民法》第195條第1項之「其他人格法益」，也是持肯定見解。聲音可確定是識別特定人的個人特徵，個人特徵資料既然重要性已達到法律立有個人資料保護法給予保護之程度，若反謂《民法》第195條之人格法益未含聲音的自主使用，則顯不合理。

　　所以，不論是否為知名之人，他人未經同意使用特定人之聲音，刻意表彰特定人或以聲音之辨識力使第三人自動聯結至特定人，即可能侵害該特定人之人格權，可依《民法》第18條之規定，請求停止侵害行為。如情節重大者，可依《民法》第195條第1項，請求精神上之慰撫金。

　　深偽孫燕姿歌聲的案例也衍伸出AI著作能否主張有著作權的議題。人類利用電腦輔助創作已有幾十年的歷史，現在用Word撰寫語文、音樂著作、繪圖或修改照片等，已經完全不是新鮮事。人類藉由電腦輔助而完成之創作，並未發生著作可保護(Copyrightable)的爭議，因為電腦只是工具，創意依然源自人類，人類不僅是電腦輔助創作之著作人(author)，還可以透過約定或法律之擬制，讓虛擬的法人也成為著作人。但人工智慧著作(以下簡稱AI著作)則不然，從AI著作問世以來，即存在著作可保護性之爭議，由於傳統著作權法向來認為著作必須是人類的創作，若AI目前仍無法獨立創作，則AI著作實為人類之著作，AI仍只是輔助工具，此時AI著作當然受著作權保護，且著作權歸屬人類。但如果AI著作係由AI獨立完成，在著作產生過程中，人類介入極少，此時才有討論AI著作是否具有著作可保護性之意義。而AI雖為人類所設計，但充其量只是一種有特殊功能的軟體，並無獨立之思想與人格，因此目前大部分國家均仍否認 AI著作可受著作權保護。AI著作目前已經發展到何種程度？實為本議題之關鍵。

　　每當討論AI著作權的文章，都必然談到以下「猴子自拍照」這個案例：一隻名叫Naruto的黑冠獼猴，拿起了英國攝影師David Slater 的相機，「自拍」了幾張照片，Slater隨後將自拍照公布在網站上，Naruto因此成了第一位會自拍的動物而聲名大噪。這樁有趣的新鮮事，沒想到後來在動物保護界和著作權界掀起了一陣波瀾。首先是維基百科刊登了Naruto自拍照，Slater先生以著作人身分要求維基百科將Naruto自拍照下架，而維基百科則以「猴子自拍照」非人類創作，沒有著作權，而拒絕了Slater先生的下架要求。有趣的是，動物保護團體PETA隨後也跳出來淌這場混水，以Naruto「訴訟代理人」身分自居，對Slater先生提起著作權侵權告訴，法院隨後認為PETA不具當事人適格，而程序駁回了PETA的起訴。

　　因為美國著作權法實務向來認定，只保護人類之原創著作，除了美國著作權局施行細則(Compendium of U.S. Copyright Office Practices)第306條已敘明「人類著作人要件(The Human Authorship Requirement)」之外，該細則第313.2條更直接舉例：猴子自拍照、大象畫的壁畫、純粹由機器隨機或自動操作生成的作品等，均不受美國著作權法保護。「動物自拍照」案凸顯了美國著作權法「人類」才能成為著作人的要件，而AI並不是人類，因此當然也無法取得著作權保護。

　　英國是目前少數在法律上正式承認電腦產生著作(computer-generated)亦受著作權保護之國家，所謂之電腦產生著作，係指「在沒有人類作者情形下，由電腦產生之著作」而該著作權則歸屬於對該著作之產生為「必要安排」(arrangement necessary)之人，雖然目前其他各國主流見解不承認AI創作之著作權，葉所長認為近期生成式AI已具有獨立完成著作之能力，依照歷史經驗，AI科技發展龐大的經濟利益將導致廣義著作權法之修正，將來將可能不必然是「人類」的創作才受到著作權保障，葉所長建議以「鄰接權」的方式保護AI著作權，權利單獨歸屬於AI設計者，使用者至多取得AI著作之利用權。另外，關於訓練AI是否可以主張著作權，目前仍然沒有答案，在此葉所長的建議是不樂見用法律來阻礙科技的發展。

　　葉所長特別提到雖然AI已可獨立完成許多事情，但目前AI做出的決定也可能有歧視性的問題，例如美國加州Palantir科技公司2010年使用AI面試，在履歷篩選及電話面試階段「例行性淘汰」亞裔求職者，儘管他們資格與白人求職者相當；2014年亞馬遜AI履歷篩選涉及歧視女性，肇因於過去資料大多是男性聘用紀錄，所以葉所長強烈不贊成AI系統用於僱用員工之層面。另外，美國法院假釋判定引入替代性制裁犯罪矯正管理剖析軟體(Correctional Offender Management Profiling for Alternative Sanctions，COMPAS)也被認為有種族歧視疑慮，最後美國法院認為法官可以採用評分系統，但必須增加限制與警語。

四、AI的國內外監管趨勢(從歐盟AI法談起)

　　歐洲議會於2023年6月14日，正式表決通過《人工智慧法草案》(The AI Act)其立法目的開宗明義，要確保歐盟的人工智慧系統安全、透明、可追蹤、不含歧視，以及環境友善。另外，AI系統應該要由人類監督，而不是自動化管理，以免導致有害的後果。並採用以風險為基礎的分級管制方法，依照風險嚴重程度，把AI系統分成四大類：

　　第一類是風險無法接受。這類AI由於對人類構成嚴重威脅，因此要全面禁止，包括以行為、社經地位、個人特徵為準的社會評分系統，遠端即時生物特徵辨識系統，預測個人會不會犯罪的預防性執法系統等等。何謂風險是高到不能接受？其實這部份引發不少討論，尤其是能不能為了國安和執法，有條件開放即時性的遠端生物特徵辨識系統。但最終辯論結果，連為了抓捕恐怖份子，或尋找失蹤兒童，都不開放即時辨識，只能允許非即時性辨識，以免AI系統淪為大規模監控的工具。

　　第二類是高度風險，也就是有可能損害人身安全或基本人權的AI系統，必須要在上市前接受審查，上市後也要持續追蹤。例如，交通、醫療、電梯設備等等，安全性非常重要的產品。另外，關鍵基礎建設、教育職業訓練、邊防移民、司法和民主程序等等，可能牽扯到歧視或基本人權的領域，也屬於這一類。

　　第三類是有限風險，ChatGPT等生成式AI就屬於這一類。這類的規範重點是資訊透明，必須標示AI生成的內容、必須讓用戶知道自己正在跟AI互動。目的是希望AI不要被拿來傳播假資訊。另外，如果AI系統的訓練過程使用任何有版權的文字、影像及聲音作品，也必須明確列出。這樣一來，等於給了版權持有人要求分潤的機會。

　　最後一類則是風險極低的，例如過濾垃圾信件、遊戲軟體等等，目前絕大多數應用應該是屬於這類，就不需要面對任何特殊規範。

　　最後，我國人工智慧基本法刻正由行政院請國家科學及技術委員會(國科會)持續密切觀察國內外發展草擬中，將在適當的時機提出AI基本法草案。台灣與美國同採先指引、後立法之規劃，行政院於112年10月3日函頒「行政院及所屬機關(構)使用生成式AI參考指引」，其餘由各部會依政院平台協調推動相關法規修正。該指引共計十點，詳列於以下附錄。

五、結論與心得

　　近年來生成式AI快速發展，影響遍及全球產官學研各界。其中ChatGPT於2022年底發布後，更掀起全球熱潮，且功能極為多元，已被視為人工智慧之一項重大突破。參考歐盟之定義，生成式AI 模型是一種電腦程式，旨在創建類似於人類製作(human-made)的新內容；其大量蒐集、學習與產出之資料，可能涉及智慧財產權、人權或業務機密之侵害，且其生成結果，因受限於所學習資料之品質與數量，而有可能真偽難辨或創造不存在的資訊，我們在使用時務必謹慎客觀且遵守相關規範，並評估其風險。

附錄、「行政院及所屬機關（構）使用生成式AI參考指引」

一、為使行政院及所屬機關（構）（以下簡稱各機關）使用生成式 AI 提升行政效率，並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險，特就各機關使用生成式 AI 應注意之事項，訂定本參考指引。

二、生成式 AI 產出之資訊，須由業務承辦人就其風險進行客觀且專業之最終判斷，不得取代業務承辦人之自主思維、創造力及人際互動。

三、製作機密文書應由業務承辦人親自撰寫，禁止使用生成式 AI。前項所稱機密文書，指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。

四、業務承辧人不得向生成式 AI 提供涉及公務應保密、個人及未經機關（構）同意公開之資訊，亦不得向生成式 AI 詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式 AI 模型，須確認系統環境安全性後，方得依機密等級分級使用。

五、各機關不可完全信任生成式 AI 產出之資訊，亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。

六、各機關使用生成式 AI 作為執行業務或提供服務輔助工具時，應適當揭露。

七、使用生成式 AI 應遵守資通安全、個人資料保護、著作權與相關資訊使用規定，並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式 AI 之設備及業務性質，訂定使用生成式 AI 之規範或內控管理措施。

八、各機關應就所辦採購事項，要求得標之法人、團體或個人注意本參考指引，並遵守各該機關依前點所訂定之規範或內控管理措施。

九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式 AI，得準用本參考指引。

十、行政院及所屬機關（構）以外之機關得參照本參考指引，訂定各該機關使用生成式 AI 之規範。

參考資料：

葉奇鑫（2019）。〈當電腦也開始「創作」─人工智慧（AI）著作未來可能之立法保護方式初探〉。《智慧20再創價值-慶祝智慧局20週年特刊》。經濟部智慧財產局。

陳益智（2023年5月26日）。〈網路上已出現滿坑滿谷的AI孫燕姿翻唱，法律無法保障歌手的「聲音」嗎？〉。關鍵評論網。