首頁 要聞 焦點

禁公部門生成式AI處理機密文書 國科會9大指引草案曝光

OpenAI旗下聊天機器人ChatGPT去年底發布後,掀起一波生成式AI應用熱潮。(Lionel BONAVENTURE / AFP)
OpenAI旗下聊天機器人ChatGPT去年底發布後,掀起一波生成式AI應用熱潮。(Lionel BONAVENTURE / AFP)

【記者侯駿霖/臺北報導】OpenAI旗下聊天機器人ChatGPT去年底發布後,掀起一波生成式人工智慧(AI)應用熱潮,但也涉及侵害智慧財產權、人權或業務機密等疑慮。國科會18日發布公部門使用生成式AI參考指引,明定要避免國安、資安風險,AI產出資訊應由承辦人專業判斷,且不得用於製作機密文書,目前草案仍在討論階段。

國科會主委吳政忠近期指出,生成式AI發展迅速,對人文社會產生重大影響,確實需要布局相關法規及指引,優先研議公部門針對AI的使用方針。

國科會表示,若參考歐盟定義,生成式AI模型為一種電腦程式,旨在創建類似人類製作的新內容,但大量蒐集、學習與產出資料,將涉及智慧財產權、人權或業務機密的侵害,尤其受限於學習資料品質與數量,可能有難辨真偽、創造不存在資訊的風險。

因此,在衡酌AI發展重要性及資安、國安等考量下,現階段釋出的草案共有九大指引。首先,生成式AI產出資訊,仍需要業務承辦人就其風險進行客觀、專業的最終判斷,不得取代業務承辦人自主思維;第二,製作機密文書,應由業務承辦人親自撰寫,禁止使用生成式AI。

第三,公務機關不得向生成式AI提供涉及公務應保密、個人及未經機關同意公開的資料,也不得詢問AI相關機密業務問題,或運用AI蒐集或處理個資;第四,各機關不可完全信任AI產出的資訊,不得將未經確認的內容,作成行政行為、公務決策的唯一依據。

第五,各機關以AI執行業務或提供服務輔助工具時,應適當揭露;第六,使用AI應遵守資安、個資保護、著作權及相關資訊使用規定,避免侵害智慧財產權、人格權,且各機關可自訂AI規範或內控管理措施。

第七,公務機關採購得標的法人、團體或個人,應注意此參考指引;第八,公營事業、公立學校、行政法人及政府捐助的財團法人,使用生成式AI得準用此指引;最後,行政院及所屬機關以外的其他機關,得參照指引,另訂各機關使用AI規範。

國科會指出,將後續觀察全球AI發展趨勢與因應作為,並針對AI應用推動情況,滾動式修正指引,目前草案仍在討論階段。◇