在上個月與大家分享的 AI 2023 上半年小結文章當中，我提到 Meta 藉由 LLaMA 已經在 AI 開源社群取得了相當程度的領導地位。現在 Meta 趁勝追擊，今日（7/19） 大動作推出 LLaMA 2 ，要更加鞏固自己的地位。

相較於第一代的 LLaMA，LLaMA 二代用了 2 兆個 token (可以簡單當做是文字的數量) 來訓練，並且提供了 4,096 字數的前後文輸入長度，比前一代長了一倍。

最近 AI 的研究社群開始進行文字長度的競賽，大家在拼語言模型一次可以吞下去的 token 數量，因為這有助於語言模型展現出更完整的前後文推理，讓這些 AI 表現更好。

OpenAI 的 ChatGPT、Anthropic 的 Claude、和一些剛剛發表的研究宣稱，已經將 token 長度分別擴展到 32,768、10 萬、和 100 萬。LLaMA 2 看起來似乎短了點，不過別忘了，這當中唯一開源的就只有 LLaMA 2。

Meta 在公布 LLaMA 2 的論文當中提到，LLaMA 2 的能力依舊不如 GPT-4。不過，這恰恰凸顯出 OpenAI 的一個大麻煩：未來，每個企業都要有一個自己的 AI 大腦作為運作中心，但這個 AI 大腦並不需要像 GPT-4 這麼強大、這麼昂貴。

企業要的是客製化、能夠解決自己商業問題、「學有專精」的 AI 就好，他們並不需要一個無所不知的 AI 天神。

所以從上半年以來，自從「縮小大腦」（也請參考我之前的文章）的 AI 軍火競賽開始以來，整個趨勢不僅還在加速當中，LLaMA 2 更達成了一個新的里程碑，因為 LLaMA 2 不僅完全開源，而且 Meta 在今天還發表了一個非常重要的合作。

Qualcomm 與 Meta 攜手，將把 LLaMA 2 放在手機晶片裡面，2024 年這件事情將會成真，意味著 Meta 在 AI 的邊緣運算市場取得了先發優勢。其他 Big Tech 公司在這邊暫時還沒有與 LLaMA 2 相對應的競爭開源模型。

別忘了當年 Google 是靠著 Android 這個開源軟體，把手機的作業系統市佔率給寡佔了下來，Meta 當年錯失了手機的發展機會，只能依附在 Apple 和 Google 的生態上，時不時得因應隱私權並針對廣告商業模式做出調整，一直以來三家公司的拉扯從來沒有平息過。

今年以來祖克柏（Zuckerberg）毅然決然不再談元宇宙，把整艘 Meta 大船轉了一個大彎全力擁抱 AI，靠著（意外洩漏的）LLaMA 第一代打開了一個新的競爭局面，有機會更深入到我們每個人的手機裡面去。

別忘了我們一直以來在講的，任何的數位生意，打的都是一個生態系的戰爭，而 Meta 整合 AI 晶片、開源 AI 模型、搭配原有的強大網路效應這 3 個重要武器，在 Google 和 OpenAI / Microsoft 兩個巨頭對撞之時，橫空出市打開了一個新的 AI 戰場，打算一路從社群網路應用，垂直往下鑽到每個人的手機運算晶片裡面。

至此，已經驗證了我之前提到的，任何人說 Meta 在整個 AI 戰爭當中缺席或是落後，是完全錯判情勢。

Meta 不是後發先至，而是從一個完全不同的競爭角度切入這場 AI 大戰。大家現在對於對祖克柏的元宇宙仍舊保有質疑，不過他真的很厲害，而我一直主張，AI 的發展只會加速元宇宙的發展，幾年後回頭來看的話，祖克柏只是暫時繞個路而已。

外傳 Meta 已經在內部測試把 LLM 大語言模型大規模部署在 messenger 上面，身為一個全世界最大的對話平台，要大量創造出現在很夯的虛擬人（digital human），沒有比 Meta 旗下平台更適合的地方，我也相當肯定 Meta 會快速切入這塊市場。

所以近來如雨後春筍般出現的生成式 AI 公司，像是虛擬人公司也倍感壓力，畢竟科技巨頭一旦跟上來，擺擺尾巴，這些公司都會直接被掃到受重傷。

網路效應終究還是 Big Tech 們掌握的最有利護城河，下半年將會是這些科技巨頭的主場，純粹靠著生成式 AI 技術創業，至今還沒有明顯護城河的生成式 AI 新創，都會面臨極大的競爭壓力。

隨著 LLaMA 2 的重磅發布，產業界也遍地開花拿著越來越多的開源模型建構自己的 AI 應用，那些小心翼翼、把「獨家大語言模型」當做商業秘密和主要競爭優勢的公司，如果不再儘快建構出整個 AI 生態系，成為新的網路入口，將會被 Big Tech 既有的生態壓著打，最好的下場也許頂多是被吞噬成為一部分。

建構新的生態系談何容易，這些公司下半年將面臨關鍵的生死存亡時刻。真的好快。

主持人數位時代社務顧問盧諭緯：

有一位現場的高中生想要請問，我們現在都鼓勵大家學習程式、軟體，甚至要去寫程式，那麼在 AI 時代下，我們到底該學習 AI 到什麼程度？是要學習 AI 工具還是背後原理？還是真的要開發出一種模型？

iKala 共同創辦人暨執行長程世嘉：

我自己有一個八歲的女兒，所以我最近也的確面臨孩子是否該學習程式語言的這些問題。我先講一下我對程式語言的看法，我認為現在其實不用過早投入，這是我的結論，也不用把它塑造成一個全民運動。

我覺得要從兩個角度來看，第一個是從 AI 的角度，AI 現在有一個研究方向，其實是 AI 回頭過來重新設計電腦系統，因為電腦的系統是一層一層的抽象化上來的，這其實是為了人類方便，所以有很多中間的語言，再來是程式語言、再來是自然語言，而其實中間的這一段，AI 是不需要的，所以我預期程式語言在接下來的研究方向就是，AI 會反過頭來去設計非常 efficient 的程式語言，而且可能是新的程式語言。可以確定的是，從程式語言變更的速度來看，先不要說程式語言本來就一直在進步，你現在的選擇跟十年後會完全不一樣，AI 接下來可能會加速程式語言更新的迭代，產生出一個人類史上可能是最 efficient 的程式語言，那個時候再投入其實不遲。

第二個則是我們現在跟 AI 的互動其實已經走到自然語言，我常遇到一些語言的教育者說：「糟糕！語言機構不用開了，AI 可以當老師」，我覺得完全不會、完全不對。因為自然語言只會更重要，先不要說你要跟 ChatGPT 溝通，你要設計出好的 prompt，你要有辦法引導出對的答案，問對的問題，這個技能很重要，而且不只是跟人溝通方面，跟 AI 溝通上也很重要。因為 AI 就像一個停在那邊無所不知，但你要問對問題，它才會給你智慧。所以我覺得自然語言是更重要的，講到教育的時候，我覺得自然語言是大於程式語言的，因為對人類來說，語言不只是一個技能，其實多學一種語言，是多學一種新的思考方式，這個才是 AI 無法取代的部分。因此，一個能講多國語言的人，為什麼他看事情會可以有批判性思維、有更多思考角度，有更多組合，創新其實就是組合兩個遙遠的事物起來，為什麼人類有這個能力，也是因為人類的語言能力所形塑的。所以更多的語言代表更多不同的思考框架和能力。

回歸到教育來講的話，要不要學程式語言？我覺得它以後可能會像英文一樣，會是一門通識課，但是千萬不要為了學程式語言而去學程式語言，更不要說 AI 可能會再繼續 polish 程式語言的設計還有所有電腦系統。大家一定可以看到接下來這件事情會發生。無論是什麼，我們現在都說要終身學習，因為每天的東西都是新的，所以如果你現在是中學生、大學生，我覺得學習最重要的還是跟著金字塔，最底層的是「自信」，中間是「自我管理」，金字塔頂端是「自學」，這件事情不會因為 AI 時代有任何的改變。

主持人數位時代社務顧問盧諭緯：

新創早期也是會碰到數據很少的問題，你們怎麼看這個問題？怎麼取得？

iKala 共同創辦人暨執行長程世嘉：

首先，AI 已經是一個開放的社群，所以 base model 或是 open 的 data set，就是大家都已經訓練好的很多模型了。一個策略就是站在巨人的肩膀上，他們都已經把 base model 訓練好了，不要再去重新訓練一個，因為那可能是用數百萬美金才能訓練出一個還可堪用的模型。另外講到的 fine-tune 就很像是，base model 是一個小孩子的大腦，你要教它什麼專業，你就要加入自己想要的資料。像是我們做網紅搜尋，我們會把網紅的資料餵到這個大腦裡面，它就可以跟我們講說，例如「在日本最適合代言拉麵的網紅是誰？」就這樣 GPT 一下，它就可以直接回答。所以現在真的是每個企業都可以開始訓練自己的一個大腦，這個成本還一直降低當中。

因此，我們現在也從原本的數位典藏走到智慧典藏這件事情。以往這些垂直產業的資料其實在各位手上是最珍貴的，而且你可以用 GPT 的模式把它儲存下來，那它就變成你的一個專家在企業內部、或你的研究專案裡面。我們現在也的確看到，現在垂直資料非常缺乏，也最珍貴，一定要保護好，未來雖然 AI 技術人人可用，但是 Data 才是最重要的。我們的確看到，整個 research 在往 small data 去走。其實人腦相較之下非常的 efficient，它的功率大概是 20 到 25 瓦，就是你一天吃一個漢堡，你就可以像一個 GPT 運作一整天，可是 GPT 運作一整天是要噴掉幾萬幾億的錢，所以人腦還是非常的 efficient，人腦其實是透過很少的資料學到很厲害的事情，所以，我覺得 AI 在這一點還比不上人腦，大家可以放心。

主持人數位時代社務顧問盧諭緯：

我們應怎麼去思考未來的 AI 生態系？

iKala 共同創辦人暨執行長程世嘉：

最近有一個訊號是，AI 的研究真的是因為研究社群非常開放，所以才能在過去幾年發展得更快速，從 2017 年 Google 的 Transformer、2018 年 Google 的 BERT，然後 Meta 2019 年的 RoBERTa，再來是 Stanford 的 Foundation Model，所以 AI 的突破其實是大家不斷疊加上去的。但是現在 ChatGPT 集大成後，這個開放性似乎有反轉的跡象，也就是說，當 AI 的影響力已經大到它成為一個 trade secret（營業秘密）的時候，領先的 AI 公司會開始保護它的東西。所以從一個比較悲觀的方向來看，接下來 AI 的 research 可能會稍微變得封閉，尤其是出自這些 big tech 公司的 AI research，它們可能會開始保護。接下來生態也許不會再像過去十年超級高速發展、所有東西都發表出來，但是肯定還是會持續的進步，因為我們還是有學界在前面繼續推進。不過資料接下來仍會是一個很大的問題，以上是從整個 research community 來看；如果從產業面來看的話，其實還是回到 AI 變成一個水、電一樣的東西，你怎麼去加值自己既有的商業模式，這還是回到「場景」找出來。

以台灣的優勢來說，台灣的硬體製造真的是全球最厲害的，不論是晶片或是整個硬體的供應鏈，這些是無可取代的，而且 AI 現在的算力其實是不夠的。所以可以期待，台灣的半導體還會有一個榮景再繼續往前走，因為 AI 現在的算力就是不夠，大家買不到顯示卡、GPU，都只有最大的公司能第一時間取得。這些短缺在接下來幾年還會持續。在軟體產業，則建議第一時間要看全世界，要把我們自己當成以色列或新加坡來看，因為軟體追求的是規模化，一個兩千三百萬的人口，若不去 plus 其他的市場人口是絕對不夠的。無論是 AI 還是其他軟體，第一天都一定要從台灣看向世界。

主持人數位時代社務顧問盧諭緯：

Sega 作為父母，會希望未來孩子們如何生存在怎麼樣的一個 AI 世界？以及現在可以做什麼事情？

iKala 共同創辦人暨執行長程世嘉：

把時間軸拉長，也許是五十、一百、兩百年，人類發展數位科技很可能只是一個過渡的階段，到一百年後也許沒有人會在談論數位科技或 AI，因為那些都已經成熟了。到時候基因編輯、蛋白質、新藥、長生不老、太空探索這些都是 AI 在輔助的，所以我覺得這一段時間其實非常的重要，因為技術永遠是中立的，就看人類的選擇，怎麼去用它、怎麼不用它。這也是我覺得接下來很大一個關鍵，當 AI 的影響力已經到每一個角落的時候，就是我們必須做出選擇，哪些領域我們真的不能用？哪些領域我們應保持開放？哪些領域要有限度地使用？這些事情會是接下來的大問題。

人類社會每一次的進步就會加大兩極的分佈，且隨著一次次的進步持續拉大，所以接下來最危險的問題其實是，為什麼技術進步會衝擊整個社會？不是因為人類沒有過得更好，而是因為人類變得更不公平，不患寡而患不均。我們比一百年前的每一個人都過得還好，那為什麼我們會不高興、不滿足？是因為不公平、如果技術再繼續加大這個不公平的話，那就是社會會崩解，所以我相信這也是 AI 帶來接下來非常重大、需要被解決的問題。

因此，我覺得在整個人類社會的面向，我們必須從社會的角度來看 AI，而不是從技術的角度來看 AI。在這個進步這麼快速的列車上，我們要盡可能做的就是讓每個人都搭上這個列車，都能取得這個車票。這也是工業革命給我的一個啟示，因為 reskill、upskill 這些是非常困難的事，但是必須要去做，才能吸收整個技術革命帶來的衝擊。因此，我們接下來要從人文的角度來看 AI，而不是從 AI 的角度來看人文。