AI當道「人在環中」責任誰屬？
傳統專業工作由製作者與審閱者分工把關，但當AI取代製作者角色，「人在環中」的審閱機制面臨根本挑戰。專家指出，AI無法提供可驗證的決策過程，審閱者只能「品嚐成品」而無法追溯工序，令問責出現真空。
專業工作傳統上依賴兩個角色：由製作者負責產出，審閱者負責檢查。遇到問題時，審閱者可查問數字如何得出、使用了哪些證據、為何作出某項判斷。兩者各自為自己負責的部分承擔責任。
然而，部分機構現正將人工智能（AI）放在製作者的位置，並以「人在環中」這個流行說法作為安慰。工作流程幾乎不變：機器準備，人類審閱。但過程中，一些重要元素已經消失。
AI能夠就其輸出回答問題，但其解釋本身只是另一個生成的輸出。它可能描述一條看似合理的路徑，卻無法提供實際走過的可驗證記錄。無論AI如何解說，機器本身不會因工作出錯而承擔後果。製作者的位置看似有人，但實際上並無任何可問責的人坐在該處。
試想像一名廚師獲要求批准一道已完成的菜餚。即使擁有敏銳的味覺可判斷味道，但無法重構廚房發生的事：食材來自何處、哪些被替換、用了哪些捷徑、不應放入鍋中的又是什麼。然而，審閱者現在卻被期望單憑成品去認證整個過程。
那麼，當審閱者並無參與準備工作，亦無可問責的製作者可供查問時，審閱的基礎何在？單憑品嚐輸出是不足夠的。將人類留在環中，不應只是將其放在末端僅為批准結果。人類必須仔細檢查證據、假設及達至答案的實質路徑，直至能把判斷視為自己的判斷。AI可以執行大部分工作，但對結論的問責仍然屬於接納結論的人。
當AI負責準備工作時，「人在環中」已不再是過程中第二個可問責的頭腦；該人類是唯一的一個。本文由退休納斯達克行政總法蘭·吳（Frank Ng）與其兒子賴恩·吳（Ryan Ng）共同撰寫，他們在出版《Hey AI, Let's Talk!》一書後合寫本專欄。