Skip to main content

LLM 與機械手臂的類比

Wei Ji

LLM 生成文件的能力似乎被不少工程師視作「自動補全文件」的解方,畢竟很多工程師都很懶得寫文件,但是我認為「作為 LLM context input 的文件」跟「給人類閱讀的文件」應該嚴格區分,因為 LLM 能夠很輕易的產生或更新大量的文件,但是人類的認知負荷容量並不會因此提昇,每個人能夠處理的資訊量依然是固定的,大量的甚至可能灌水的生成式內容反而會大幅度的消耗人類的處理量能並且提高認知負荷。

即便機械手臂在製造業能夠造成產能的提昇,實際上工廠依然是嚴格分離機械手臂和人類的工作區以免發生事故,只有特殊處理的「協作型機械手臂」能夠和人類直接處於同一個空間工作,這些協作型機械手臂透過特別的反饋來避免傷害工作人員。我認為 LLM 應該也有相同的問題,只是由比較不明顯的「精神傷害」取代傳統的「物理傷害」,因此不應該讓 LLM 的生成式內容「直接侵害人類的工作空間」。