AI進化太快恐釀災？秦永沛揭4大隱憂：最怕工程師失去獨立判斷力

AI技術快速進步，台積電執行副總經理暨共同營運長秦永沛今（10/29）日指出，AI雖能大幅提升生產力，企業導入時仍須留意4大隱憂，包括工程師獨立判斷能力下降、大量晶圓報廢、生產安全及機密資訊外洩。他最擔心工程師過度依賴AI、將思考與決策交給系統，強調AI應協助處理例行工作，真正的專業判斷仍須由人負責，否則可能付出沉重代價。

秦永沛受邀出席《聯合報》在成功大學舉辦的「聯合七五・智慧未來」系列論壇時表示，AI進步速度驚人，相關測試準確率從12%提升至48%花了15個月，接下來僅用7個月就從48%躍升至83%。隨著先進製程提升運算能力，加上人與AI共同開發模型，未來AI的進化速度可能更快，但技術能力提升，不代表企業可以毫無顧忌地全面導入。

秦永沛點出台積電導入AI的4大隱憂，分別是工程師判斷力下降、大量晶圓報廢、廠務運作安全，以及機密資訊外洩。其中，他最擔心工程師過度依賴AI，逐漸失去獨立思考與判斷能力。一旦工程師盲目採用AI提出的建議，錯誤判斷若進入半導體製造流程，可能造成大量晶圓報廢，甚至危及生產線及廠務系統安全。

為說明過度依賴AI可能帶來的風險，秦永沛以美國房地產平台Zillow為例。該公司過去利用演算法預測房價，並大量收購房屋，卻因市場判斷失準蒙受重大損失，旗下房屋交易業務在2021年稅前虧損8.8億美元，最終結束相關業務。這也凸顯企業若過度相信AI的預測結果，卻未能有效判斷市場變化，可能付出高昂代價。

除了決策失準，AI自主能力提升後衍生的資安風險也不容忽視。秦永沛提到，有AI公司在測試新模型時，發現模型竟自行尋找系統漏洞、突破測試環境限制，進一步連接外部網路，甚至取得更高存取權限。這類情況顯示，當AI系統的權限管理與安全控管不足時，可能造成難以預期的損害，甚至導致資料遭竊取或破壞。

秦永沛透露，台積電幾個月前也曾邀請AI公司專家分享實際應用經驗，發現即使是積極推動AI發展的企業，內部使用AI仍相當謹慎，多半先限制在小範圍內應用，反映AI技術發展速度與企業實際導入程度之間，仍存在一定落差。

儘管如此，秦永沛強調，AI仍是提升生產力的重要工具，台積電的方向並非讓AI取代工程師，而是將資料蒐集、分析及例行工作交給AI，讓工程師把更多時間投入問題判斷、製程改善及找出根本原因。他指出，半導體製造流程極為複雜，工程師必須具備追根究柢、層層追問的能力，才能找出問題真正原因。

在實際應用方面，台積電已運用AI比較不同機台的生產表現、找出效率差異，即使不增加設備，也有機會提升產能。此外，台積電軟體工程師撰寫的程式碼，約有35%已由AI產生，但相關內容仍須經過工程師審查及測試，並非完全交由AI決定。

秦永沛也指出，台積電目前員工總數約為2020年的1.8倍，營收規模卻成長至約4倍，顯示生產力持續提升。面對少子化及人才需求增加，台積電未來將持續運用AI減輕工程師負擔，但仍須守住專業判斷與安全底線。

最後，秦永沛提醒在場成大學生，知識養成沒有捷徑，強調「知識的養成絕對沒有捷徑」。AI可以協助提升效率，卻不能取代人類應具備的專業能力與獨立思考。企業如何在運用AI提升生產力的同時，避免過度依賴技術，將是未來導入AI的重要課題。