分類
CEO 觀點

生成式 AI 一定能提升工作生產力?學習善用 AI 前,先從掌握自身工作流程開始!

今年 AI 發展大躍進,許多工作者變得焦慮、擔心自己被取代,其實 AI 並不會取代工作,而是取代任務。就現階段觀察而言,AI 對於每個產業影響的程度都不太一樣,AI 的發展就像是兩面刃,工作者處理的任務若跟 AI 高度重疊,就需要擔心AI 帶來的衝擊,相反地 AI 其實能夠成為互補的工具,提升工作者的生產力。我們觀察到許多文字工作者的出版量、網路上許多部落格、行銷文案內容都正在大量增加當中,對於純文字工作者而言,原先一天只能張貼一篇文章的社群小編,透過 AI 的協助能夠增加至一天張貼三篇文章,還可以運用 AI 工具偵測外部發展趨勢來豐富文章,AI 加速了工作者產製內容的速度。

如何在日常工作中應用 AI?這是工作者需要反思自身、團隊甚至擴及到企業組織的必要問題,因此研究日常工作流程非常重要,AI 能夠加速任務的部分流程,卻也能讓部分流程變慢,顯然 AI 並不是萬靈丹。當 AI 變成工作的標配,就像是某個語言或技能作為標配一樣,工作者不需要知道 AI 背後是如何運作,但是必須了解如何使用它。

今年七月份,Nielsen Norman Group 發布了一份報告(AI Improves Employee Productivity by 66%),說明生成式 AI 影響生產力最深的三個領域。首先在客服方面,一開始大部分人認為,聊天機器人這麼會聊天,客服人員是不是全部要失業了?這件事情並沒有發生,主要是因為客服人員回答的資訊必須非常精準,尤其在處理客訴的時候需要非常小心,並且要懂得安撫客戶的情緒,若將 ChatGPT 應用於這些細部流程,目前是無法預測結果的,也就是說聊天機器人雖然很厲害,上知天文下知地理,但如果明確指使它照著指令來處理事情的時候,它會呈現一定程度的不確定性,所以大家會猶豫將 ChatGPT 應用在客服的場域,畢竟沒有人想要得罪客戶,也因此目前在客服領域得到的進展反而較少,大家還在嘗試規範聊天機器人。

第二是在內容生成的領域,生產力明顯提升超過五成。美國麻省理工學院 MIT 研究人員於今年三月發布了一篇論文(Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence),量化生成式 AI 對於內容生成工作的影響。在這個人們幾乎離不開數位工具的時代,這些工具與交換資訊、產生內容相關,例如產出文案、翻譯、報告、整理簡報及會議記錄,這是數位工作者幾乎每天都會做的事情,在工作流程中 ChatGPT 能夠協助發想與草稿,但是對於編修,研究人員發現它反而會耗費工作者更多時間,當工作者收到一篇冗長的報告,可能會想自己全部重寫,因為編修它比你重寫還要花時間。經過研究,ChatGPT 適用於大範圍地提供意見、方案作發想,以及給予框架作簡單的草稿,但同時較難協助撰寫詳細的內容,工作者必須自行處理這個部分。整體來說,使用 ChatGPT 還是能夠縮短任務的處理時間,研究人員發現採用 AI 工具,生產力能夠提升 37%,等同於減少大約四成的工時,且品質提升將近兩成,顯示生成式 AI 能夠同時優化品質與效率。

最後針對 AI 提升生產力最多的領域,結果表示軟體工程師寫程式的生產力能夠提升超過 125%,也就是原先單位時間只能寫一行程式,有了 AI 幫助之後軟體工程師可以寫兩到三行程式,這個結論出乎許多人的意料之外。不過觀察業界的狀況,今年以來矽谷已經進行約 50 萬位軟體工程師的裁員,科技公司都觀察到了 AI 帶來的加值,進而積極調整人力配置,這也說明了原先 AI 被普遍認為會衝擊非理工科的工作,現在得出的結果反而是相反的。

總的來說,AI 的角色應該被視為一個重要的生產力提升工具,但它不會也不應該將一個職位完全取代掉,而是解構工作流程。因此,AI 時代下,人人都必須了解如何在自身工作流程中善用 AI 來增強工作效率和價值。人需要工作,並從中找到意義;而 AI 是輔助工具,不會也不需要變成主角

*本文章已同步投稿至 TechOrange【程世嘉專欄】

分類
CEO 觀點

iKala CEO 程世嘉榮獲遠見青年傑出創業獎:從雲端、大數據到 AI,我的創業變成了志業

下方文章出自 iKala 共同創辦人暨執行長程世嘉(Sega)於獲獎感言環節的致詞內容:

人類史上每一次的科技進展,都會讓全世界重新檢視一些重要的事情。

AI 不但越來越像人類,聽說讀寫的能力甚至已經超越一般人了。AI 最近的成功,讓我們重新問一個重要的問題:人類的意識到底是什麼?AI 是否具有意識?

意識是科學最後的疆界,可能也是人類相較於機器最後的防線。

我其實隱隱擔心,AI 最近的進展,會加強我們對唯物論的信念,認為世界不過就是由一堆物質所構成,所謂的意識不過是人類的幻覺,沒有任何神祕之處。

這種想法不但會減少我們探索未知的精神,也會讓我們落入一切命中註定的宿命論當中,造成我們的意義感喪失,這是相當危險的事情。

19 世紀時,人們還在嘲笑「細菌」這個概念,否認這種東西存在,但後來細菌真的被發現了。同樣的,20 世紀時,量子力學顛覆了古典物理學,我們才驚覺世界並不是表面上看起來的那樣。即使是愛因斯坦,他在世時也得到結論,相對論在黑洞的中心是失效的。

越是理解這個世界,就會發現我們對於世界的理解實在還是太少了,我們沒有理由自滿。

一個科技的好與壞,從來不在於它的新或舊,而在於它是否能造福人類、以及是否能讓我們回答更多目前還無解的問題。

AI 無疑是這個世紀最大的科技進步之一,而我也非常幸運地躬逢其盛,我相信 AI 作為一項強大的科技,將為人類社會帶來跳躍式的進步。2005 年我進入史丹佛大學,開啟了 AI 的研究生涯。2012 年 iKala 正式開始營運,我們從雲端、大數據、到今天的 AI,與時俱進取得了成功。

今天,我的創業已經變成了志業,不是為了變成獨角獸而創業,而是希望我能在這條道路不斷前行,繼續用科技造福人類,也同時讓我們更加了解這個世界的本質。

這個獎,獻給我最敬愛的爸爸媽媽哥哥,還有我的至親家人。

 

分類
CEO 觀點

綜觀 2023 上半年全球 AI 技術發展 11 項重點歸納

2023 上半年 AI 技術發展大躍進,這篇文章將分享 AI 實戰經驗 11 項重點,主要基於 iKala 在 AI 網紅數據行銷平台 KOL Radar(擁有全世界超過 100 萬的跨國網紅資料)、顧客數據平台 iKala CDP 兩個產品,以及我們協助客戶導入 AI 的研究發展整理而成。iKala 會持續在 Hugging Face 和公開論文中發表我們的成果。

1. 縮小模型大腦仍一樣聰明?

要達成這項任務很難,模型的參數量對於大型語言模型(LLM)的能力目前仍是決定性的關鍵,我們總計測試了 40 餘種模型,大部分在 30B 以下,發現 AI 大腦縮小就會難以維持相同的理解能力,論文 "The False Promise of imitating proprietary LLMs" 總結了這件事情。但是誰不希望模型又小、又好、又快呢?所以研究社群對於把模型縮小還是持續投入非常多的心力,不過值得注意的是:AI 寫程式的能力似乎與模型大小沒有必然關係,這跟其他人類認知工作呈現不一樣的趨勢,目前我們還無法解釋這個現象。

2. 各界爭相誇大自有開源語言模型的能力

承續上一點,過去半年來,有無數的公開模型發表,很多公司和開發者宣稱,自己用幾百(千)塊美金、少少的訓練資料、快快的訓練速度,就讓小模型的表現跟 GPT-4 有 87% 像。這些看似驚人的成果僅供參考,重要的是一定要自己部署、重製這些實驗,才能驗證其中的真實性。

3. AI 私有化和客製化的趨勢已經形成

導入 AI 進程較快的客戶已經普遍認知到,市面上的大模型諸如 GPT-4、Claude、Midjourney、PaLM 2 等等,是非常難重製的模型,況且也沒有必要耗費龐大資源,只為了把這些大模型放在自身企業當中,因為多數的企業並不需要一個「通用型 LLM」,僅需要根據商業模式決定語言模型應具備的能力。

4. 模型整體弱化或是摘除特定能力

由於重製大模型的可行性低,企業又急迫於導入 AI,所以現在的方向是訓練「產業專屬模型」,而方式則是「直接摘除語言模型的特定能力(例如只會聽說讀、但是不會寫)」或是「整個模型弱化(例如聽說讀寫一起變差)」,這部份可以參考論文 "Distilling Step-by-Step! Outperforming Larger Language Models with Less Training Data and Smaller Model Sizes"。

5. 企業導入 AI 的雙軌思維

企業主現在思考的是:「AI 如何運用於既有的商業模式?」以及「AI 如何提升既有人員的生產力?」目前每個組織都在拆解內部的工作流程,去蕪存菁加上自動化提升人員單位生產力,同時也積極探索 AI 究竟能否為企業帶來商業模式的增值。我們服務的企業多數從 iKala CDP 開始建置「數據中台」,在探索的同時也加速資料整理,因為無論如何,沒有資料就沒有 AI,既然未來一定會使用到 AI,那在摸索的同時能處理的重要任務就趕緊一起進行,所以我們看到 AI 開始快速拉動 Big Data 和 Cloud 的市場發展。以往的數位轉型目的不明,但現在的數位轉型是為了取得「智慧」,目的明確也證明 AI 真的有效,企業主也因此開始積極投入。

6. 大模型平台化的趨勢形成

承續上面提到的大模型,回到經濟學規模經濟的現象,由於大模型的訓練和維運成本只有科技巨頭有能力負擔,並且能夠降低單位服務成本阻擋小型的競爭者,這些模型正在全面走向平台化。它們會是私有模型的基礎,外部企業和開發者可以憑藉低成本調用這些大模型產出的結果,不過無法得知太多運作的細節。目前沒有任何誘因足以讓科技巨頭們揭露大模型的細節(Meta 是例外,請見下一點),除非是透過政府的監管和介入,不過這仍是條漫漫長路,而政策制定者最後可能還是會和科技巨頭取得商業利益與國家(區域)治理的平衡,整體來說科技巨頭並不會受到太多傷害。

7. Meta 已經在開源 AI 社群拔得頭籌

隨著 LLaMA 和 SAM(Segment Anything Model)受到廣大的歡迎,Meta 已經搶回相當程度的 AI 話語權,不過 Meta 最不一樣的是,這家公司並不「直接靠 AI 賺錢」,Google、Amazon、Microsoft 都將 AI 放到雲端讓企業租賃、OpenAI 在販賣 ChatGPT 的訂閱,只有 Meta 是持續靠著極其強大的社群平台網路效應賺進大筆的廣告費,所以 Meta 在開放 AI 的激進程度,肯定會持續超越其他科技巨頭。

8. 英文語系主導 AI 模型領域發展

多數的(開源)模型明顯還是在英文的表現最好,這會擴大西方國家和全世界的科技發展差距,以及主導全世界使用者日後的使用習慣,甚至危及某些語言的普及性,所以各國政府和大型私人企業開始發展屬於自己的大模型,想要抵抗這種「語言霸權」。但就算投入龐大資源訓練出國家的專屬模型,重點仍在於「有沒有人要使用?」當訓練 AI 模型拉升到國家層級的時候,已經變成是行銷和服務的問題,而不是技術的問題,各國相關單位應把重點放對地方。

9. 多數生成式 AI 新創並沒有護城河

就連 ChatGPT 本身的商業模式是否能持續運作都尚無定論,其他只依靠 OpenAI 提供 API 的新創公司就更可能無以為繼。在特定商業領域已經有經濟規模的公司雖然動作可能較慢,但只要釐清究竟如何導入且應用 AI,一個轉身就會大幅超越這些公司。再加上科技巨頭靠著經濟規模把生成式 AI 的使用成本不斷降低,這些都會讓生成式 AI 新創雪上加霜。所以 AI 的重點仍然在於「應用場域」,憑藉純粹的 AI 技術去創業是難度非常高的事情,也是第一時間就選擇加入資本戰。

10. 通用型人工智慧(AGI)

目前距離還很遙遠,儘管 GPT-4 和 DeepMind 對於 RL 的意外研究結果顯示機器有可能自我行動。但截至目前為止,各種追求突破 AGI 的努力,大部分還是在 high-level 組合各種 toolchain 加上既有的 LLM,而且能解決的 task 是以一個一個微調的方式在進行,成本高昂也導致很多中途放棄的開源專案,並沒有完全通用的解決方案出現。與其說是 AGI,仍比較像是 RPA。

11. AI 要發揮功用,最重要的是「信任」、「使用者體驗」、「商業模式」

這是 AI 要進一步擴散到人類社會每一個角落最重要的三個元素。目前可解釋 AI(XAI) 這個研究領域雖然快速崛起,但還處在很初期的發展階段,GPT-4 這種大型模型對於所有人來說,仍是一個龐大的黑箱,了解其如何做出決策和推理還有很長的一段路要走。使用者體驗則是新的課題,既有的產品和服務如何融入 AI,是令人興奮的新機會,同時也是挑戰使用者舊習慣的大題目。商業模式則如上面所述。

分類
CEO 觀點

從 Meta 發布 LLaMA 2 的重磅消息,探討 AI 產業未來趨勢發展

下半年 AI 圈第一個重磅消息:Meta 發布 LLaMA 2,並且完全開源、商用免費。

在上個月與大家分享的 AI 2023 上半年小結文章當中,我提到 Meta 藉由 LLaMA 已經在 AI 開源社群取得了相當程度的領導地位。現在 Meta 趁勝追擊,今日(7/19) 大動作推出 LLaMA 2 ,要更加鞏固自己的地位。

相較於第一代的 LLaMA,LLaMA 二代用了 2 兆個 token (可以簡單當做是文字的數量) 來訓練,並且提供了 4,096 字數的前後文輸入長度,比前一代長了一倍。

最近 AI 的研究社群開始進行文字長度的競賽,大家在拼語言模型一次可以吞下去的 token 數量,因為這有助於語言模型展現出更完整的前後文推理,讓這些 AI 表現更好。

OpenAI 的 ChatGPT、Anthropic 的 Claude、和一些剛剛發表的研究宣稱,已經將 token 長度分別擴展到 32,768、10 萬、和 100 萬。LLaMA 2 看起來似乎短了點,不過別忘了,這當中唯一開源的就只有 LLaMA 2。

Meta 在公布 LLaMA 2 的論文當中提到,LLaMA 2 的能力依舊不如 GPT-4。不過,這恰恰凸顯出 OpenAI 的一個大麻煩:未來,每個企業都要有一個自己的 AI 大腦作為運作中心,但這個 AI 大腦並不需要像 GPT-4 這麼強大、這麼昂貴。

企業要的是客製化、能夠解決自己商業問題、「學有專精」的 AI 就好,他們並不需要一個無所不知的 AI 天神。

所以從上半年以來,自從「縮小大腦」(也請參考我之前的文章)的 AI 軍火競賽開始以來,整個趨勢不僅還在加速當中,LLaMA 2 更達成了一個新的里程碑,因為 LLaMA 2 不僅完全開源,而且 Meta 在今天還發表了一個非常重要的合作。

Qualcomm 與 Meta 攜手,將把 LLaMA 2 放在手機晶片裡面,2024 年這件事情將會成真,意味著 Meta 在 AI 的邊緣運算市場取得了先發優勢。其他 Big Tech 公司在這邊暫時還沒有與 LLaMA 2 相對應的競爭開源模型。

別忘了當年 Google 是靠著 Android 這個開源軟體,把手機的作業系統市佔率給寡佔了下來,Meta 當年錯失了手機的發展機會,只能依附在 Apple 和 Google 的生態上,時不時得因應隱私權並針對廣告商業模式做出調整,一直以來三家公司的拉扯從來沒有平息過。

今年以來祖克柏(Zuckerberg)毅然決然不再談元宇宙,把整艘 Meta 大船轉了一個大彎全力擁抱 AI,靠著(意外洩漏的)LLaMA 第一代打開了一個新的競爭局面,有機會更深入到我們每個人的手機裡面去。

別忘了我們一直以來在講的,任何的數位生意,打的都是一個生態系的戰爭,而 Meta 整合 AI 晶片、開源 AI 模型、搭配原有的強大網路效應這 3 個重要武器,在 Google 和 OpenAI / Microsoft 兩個巨頭對撞之時,橫空出市打開了一個新的 AI 戰場,打算一路從社群網路應用,垂直往下鑽到每個人的手機運算晶片裡面。

至此,已經驗證了我之前提到的,任何人說 Meta 在整個 AI 戰爭當中缺席或是落後,是完全錯判情勢。

Meta 不是後發先至,而是從一個完全不同的競爭角度切入這場 AI 大戰。大家現在對於對祖克柏的元宇宙仍舊保有質疑,不過他真的很厲害,而我一直主張,AI 的發展只會加速元宇宙的發展,幾年後回頭來看的話,祖克柏只是暫時繞個路而已。

外傳 Meta 已經在內部測試把 LLM 大語言模型大規模部署在 messenger 上面,身為一個全世界最大的對話平台,要大量創造出現在很夯的虛擬人(digital human),沒有比 Meta 旗下平台更適合的地方,我也相當肯定 Meta 會快速切入這塊市場。

所以近來如雨後春筍般出現的生成式 AI 公司,像是虛擬人公司也倍感壓力,畢竟科技巨頭一旦跟上來,擺擺尾巴,這些公司都會直接被掃到受重傷。

網路效應終究還是 Big Tech 們掌握的最有利護城河,下半年將會是這些科技巨頭的主場,純粹靠著生成式 AI 技術創業,至今還沒有明顯護城河的生成式 AI 新創,都會面臨極大的競爭壓力。

隨著 LLaMA 2 的重磅發布,產業界也遍地開花拿著越來越多的開源模型建構自己的 AI 應用,那些小心翼翼、把「獨家大語言模型」當做商業秘密和主要競爭優勢的公司,如果不再儘快建構出整個 AI 生態系,成為新的網路入口,將會被 Big Tech 既有的生態壓著打,最好的下場也許頂多是被吞噬成為一部分。

建構新的生態系談何容易,這些公司下半年將面臨關鍵的生死存亡時刻。真的好快。

分類
企業文化

擁抱成長思維與學習心態,在 iKala 舞台充分發揮 AI 模型開發興趣

iKala 機器學習工程師 Ray

我來自馬來西亞,畢業於交通大學電機系及研究所,研究 AI 領域是我的熱忱所在。

我主要專精於自然語言與圖像生成模型,在學期間也執行過許多語言理解相關的計畫。我從小就對電子零件非常有興趣,高一時為了提升澆花(做家事)的效率,突發奇想設計出一款「自動澆花系統」,搭配電子零件和程式,能夠偵測濕度自動灑水,如此為了快速完成任務而實踐的自主學習,也意外奠定了我日後從事軟體相關工作的基礎。

畢業後踏入職場的過程中,為了獲得更多的發揮空間和挑戰機會,熱愛 AI 研究的我將自由創新的工作環境設為求職首選,當時常在社群平台上注意到 iKala 共同創辦人暨執行長 Sega 的活躍分享,也閱讀過許多 Sega 在網路上發布的文章,發覺 iKala 擁有快速的步調與極具潛力的發展空間,同時也相當看好公司的發展前景及認同核心價值,因此萌生了想要加入 iKala 的念頭。

成為 AI 團隊的一份子,在 iKala 舞台充分發揮興趣

身為機器學習工程師,我日常的工作主要包含設計和開發 AI 模型,而我個人的休閒嗜好也包含寫程式和訓練 AI 模型,因此能夠很順利地適應這份工作,並結合興趣與過去所學實際應用於工作場域。與此同時,在我需要新刺激、新想法時,我會從論壇、Twitter 和 Reddit 等平台挖掘靈感,進一步提出未來的計畫趨勢,而這些計畫往往涉及商業用途,因此考量計畫本身是否具有「可行性」也是我的重點任務之一。

團隊廣納多元人才,分工明確且包容人才多樣性

首先,iKala 集結了來自多元文化背景的跨國人才,我能夠藉此訓練自己的人際溝通協作能力,同時透過公司 HR 安排的專業培訓課程,也能精進個人簡報與溝通等軟實力。回想工作過程中面臨過最大的挑戰是參與機器學習團隊的組織調整,不過我也將此視為機會,從中深化與拓展跨部門溝通的經驗。另一方面,工作中也會發生一些有趣的小故事,例如,有次團隊需要申請更多顯示卡才能開發更多模型,而我非常期待能推進各項 AI 研發計畫,因此向上喊出:「只要有顯示卡,我就能給你各種 AI 模型」,加上當時提出的許多研發計畫也都被團隊認可採納,於是我在公司便多了一個名字,成為 Sega 口中的——「iKala 顯示卡」。

同時,iKala 的 AI 團隊工作氛圍融洽、同事也都年輕活潑,且主管願意接納不同的想法、組織分工很明確,如此一來在工作效率上提升了不少,專精分工也讓團隊在特定領域遭遇難題時,能夠找專責的同事討論如何解決、共同學習成長。除了在工作上的相互扶持,團隊對異國文化的包容程度也很高,私底下會交流台灣和馬來西亞的文化差異及各自獨有的特色,也有機會能碰撞出一些新點子。

作為「iKala 顯示卡」想對未來 AI 團隊新進夥伴說說話——

如果你也像我一樣,對 AI 領域抱持熱情,想要進入 iKala 團隊挑戰自我,我會建議先從培養自主學習的能力開始做起,才能在面對工作上需要閱讀論文或釐清如線性代數、微積分等複雜公式時,更快速適應且上手。AI 的進展非常迅速,我們必須具備快速的學習能力,才能追上科技變化的速度。以我自身為例,我非常重視成長思維和積極主動的學習心態,因此我會運用下班後的空閒時間處理開源 ChatGPT 的開發,不僅能協助公司優化相關需求,還可以同步累積自身的作品集,也因為 AI 的最終使用者是人類,因此機器學習工程師必須注重使用者的回饋,依據產品需求開發 AI 工具及模型。

"選擇比努力更重要,但要有能力選擇,就需要先努力"

最後,跟各位分享影響我相當深遠的一句人生至理名言:「選擇比努力更重要,但要有能力選擇,就需要先努力」。過去的我選擇加入 iKala 才有機會認識到這麼多優秀的人才,而我之所以有能力選擇,是因為持續在 AI 領域上努力不懈而收獲的實力積累,因此我認為先付出一定程度的努力,再做出不讓自己後悔的選擇,定能如願達到設立的目標。

加入 iKala,和我們一同創造更多精彩 iKala 人故事:https://ikala.ai/zh-tw/careers/
看更多關於 iKala 的文化與福利:https://ikala.ai/zh-tw/careers/culture/
職缺列表與投遞履歷:https://ikala.ai/zh-tw/careers/job-listing/