時事
中研院AI稱「習近平是領導人」急下架 監察院出手了
發佈時間2024.02.06 16:37 臺北時間
更新時間2024.02.06 16:37 臺北時間
近幾年AI當道，尤其當Chat GPT被開發出來後，更是引發全球驚嘆與關注，然而去年10月我國中研院就發表了類似於Chat GPT的大型語言模型CKIP-Llama-2-7b，卻被網友發現該AI不僅使用簡體中文資料庫，還會回答「習近平」為國家領導人等，因此在上線3日後就下架。對此，今（6日）監察院則發布新聞稿，稱要申請自動調查。
監察院今發布新聞稿指出，AI現今普遍應用在各項領域，生成式AI也用於創造性的工作，然而我國在推動可信任生成式AI亦面臨多項挑戰，包括大型語言模型（LLM）繁體中文語料不足，可能被濫用或生成負面及偏見言論等，因此監委賴鼎銘、林郁容、葉宜津深表關切，申請自動調查。
監委表示，2023年10月國內研究單位釋出繁中優化大型語言模型（LLM）產生爭議內容，引發各界疑慮而下架，凸顯我國在推動LLM時繁中語料不足所產生之困境，及自主研發大型語言模型的重要性。
考量到LLM未來的普及性、影響力，以及所用資料之語言分布落差可能導致歧視性或偏見言論、虛假信息，監委將著手調查「政府機構對於推動健全LLM之關鍵要素，如語料取得、算力建置及測評，相關措施是否允當？政策是否積極？」等諸多疑慮。