【版主推薦3】語言可以像數字一樣計算嗎？淺論計算語言學

天龍

語言是溝通，藉著語音、符號或文字，傳達訊息和意義。

AI的大語言模型就是經由海量的閱讀，拆解除一個一個語素（token），依據上下文給每個語素定義一個多維空間中的內嵌向量（embedding vector)，例如蘋果，它是水果？還是全球知名的科技公司？端看「蘋果」這個語素的前後文決定這個詞彙的向量座標！所有，語言是可以拆解的，也是可以計算的！

但，這也帶出一個問題：AI很會接話，但它⋯真的懂文學的意境嗎？AI科技目前仍嘗試著讓AI學會思考、學會理解文學意境⋯或許在不久的未來，AI科技的突破會讓AI成為更像像人類思考策略的棋王、也更像能領略生命春夏秋冬的文豪一樣呢！

。


拆解一句話的每一個語素後，依據上下文迭代出每一個語素的向量座標，形成大語言模型
 

每一個語素可以理解為：依據上下文語素的關聯，可以在多維空間中計算並標定一特定的語素
 

經由海量的閱讀，讓語言大模型的語素向量座標更精確
 

大語言模型需要的算力、能源、金錢是龐大的資源投入
 

大語言模型（LLM）也能理解不同語素間的關係，但距離理解其真實的意義，仍有段路要走！
 

超級AI或許是未來的希望，能實現AI模型深層思考的能力，並應用於不同領域，協助人類解決問題！
 

smartlion

很棒的影片，對於生成式語言的發展歷史、技術突破及極限有很深入的闡述！
適合有點基礎的朋友看看，或許理解後，可以再繼續深入瞭解AI思考能力的探究！