網路已成為現代人生活的一部分,食衣住行都能靠各種搜尋服務輕鬆解決,但當場景切換到辦公室就不見得能靠搜尋找到資料了。相信很多人都有過這樣的經驗,為了確認一個資料或數據出處,翻遍 Email 文字、Excel 表格、簡報圖片,甚至是會議錄影,可能花了很多時間卻還是找不到正確來源。

這其實不是單一個案,而是所有企業面臨的挑戰。根據經濟學人智庫 (Economist Intelligence Unit,EIU) 調查指出,大部分職員平均要花費超過 25% 時間來搜尋工作所需的資訊。隨著科技發展,我們總算能夠擺脫上述窘境,現在可透過大型語言模型(Large Language Model,LLM)打造出聊天機器人進行輕鬆對話,讓 AI 幫忙挖掘出關鍵資料。

導入大型語言模型 AI 的兩道門檻

大型語言模型(LLM)是一種深度學習模型,利用大量閱讀文本學習知識,讓電腦能夠理解文句、回答問題、翻譯和生成人類語言。

像是 OpenAI 發表 GPT-4 Turbo、Meta 研發 LLaMA,以及 Google 最新推出 Gemini,這些大家耳熟能詳的 AI 模型,結合 Chatbot 就能夠回答普遍的知識性問題,解決生活疑難雜症,但是詢問到專屬於企業的內部知識或專業領域,因為 AI 沒有看過相關資料,自然也沒辦法訓練產生對應的解答。

因此業者如果想要導入 LLM 模型,動手打造符合實際使用的 AI 智慧知識庫,其實沒有這麼容易,其中牽涉到兩個關鍵的項目:應用場景與數據品質。

科科科技集團多媒體科技業務群總經理李卓軒 Kevin C.H. Lee 解釋,雖然大家現在談論的 AI 都集中在生成式和大型語言模型上,但 AI 本身實際上是一個廣泛的概念。這就是為什麼明確的場景非常重要,如果想要導入 AI,你需要知道你要解決什麼問題。另外就是數據,因為所有的 AI 都以數據為基礎,如果數據一開始就不完整、不乾淨,資訊的源頭也不會精確。

這個「去蕪存菁」的 AI 導入過程,就像健身教練從頭到腳打造客製化訓練一般,要先找到身體的癥結,對症下藥才能獲得健康體態,如同從企業健檢開始,萃取數據資料、檢視營運模式,這就是推動數位轉型的過程。「內容開始數位化後,即形成所謂的數位資產,只是這樣還遠遠不夠。因此,BlendVision 為客戶規劃導入 AI 的路線,就是從資產管理一直延伸到知識管理,最終轉變為知識應用。」Kevin 說。

CooC+ 運用 AiSK 化身 AI 助教即時為學生授業解惑

為了加速 AI 導入以及聚焦應用情境,科科科技研發推出的 BlendVision AiSK,可以將各種資料型態分析並重組訓練入大型語言模型,針對每個問題或語意搜尋分析、產生出答案和精準資訊推薦。將此應用導入在線上教育、企業內訓、電子商務、客服問答等不同領域,就能讓效率大幅提升。舉例來說,企業內訓包括閱讀內部文件、理解教學影片,BlendVision AiSK 可以幫助員工自主學習,並提供答案查詢,同時確保資料安全,這樣的 AI 應用可以延伸至不同的行業,並且還能針對情境需求進行客制化的調整。

臺北市數位學習教育中心和科科科技集團合作推出「CooC+」,便是將「臺北酷課雲」線上教育串流平台重新打造並導入 BlendVision AiSK。臺北市政府教育局於 2013 年成立臺北市數位學習教育中心並推出酷課雲。服務上線至今累積超過上萬部教學影片、會員人數逾 123 萬人,瀏覽人次高達 1.4 億次,為了進一步提升酷課雲成效,這次專案藉由全新設計的使用介面以及智慧推薦,提升學生的觀影體驗、升級教學品質,此外透過 BlendVision AiSK,讓系統也能看懂教學影片、學習教材,融會貫通後,CooC+ 從教學平台搖身一變為全科助教,學生只需輸入文字和 CooC+ 對話提問,就能迅速獲得最佳解答。

Kevin 分享,我們的產品主要針對數位內容,其中包含各種多媒體形式,例如文字、圖片和影片。團隊致力於從影片中迅速提取所需的資訊。這不僅能為企業帶來優勢,還可以應用在不同領域,就像「CooC+」便是教育產業的最佳範例,將影音串流結合生成式 AI 讓單向觀看學習轉為互動教學,讓學生自主學習時能快速找到問題的答案與學習方式,也讓老師能針對被問到的問題變成反饋來持續增進教學內容。

短影音加劇資訊碎片化,AI 將革新資訊互動模式

當 AI 能夠理解影片,擔任助教即時解答之後,接下來會往什麼方向進化?

首先是個人化體驗,呈現在於愈來愈懂人心的推薦機制。BlendVision AiSK 推薦將影響用戶與內容的互動方式,無論是主動提問還是被動建議。對於使用者而言,透過文字輸入詢問,然後接收來自 BlendVision AiSK 的建議,將是一個重要的互動方式,久而久之系統會學習到專屬於用戶的習慣和喜好,讓推薦服務愈來愈貼心。

另一項則是多媒體形式的無縫轉換,資訊內容會以最合適的方式呈現給用戶。資訊碎片化的時代,人們的專注時間被短影音、社群分割,品牌費盡心思要在有限的接觸機會抓住眼球成為消費者心中的焦點。宣傳訊息透過 AI 生成出影片、圖文、語音多種版本,同時能自動判斷如何在不同平台上面呈現給消費者,發展出與目標受眾共鳴的個人化行銷策略。Kevin 強調,未來資訊形式的轉換會變得愈來愈流暢,這將帶來互動方式的創新,而資訊的快速傳播將進一步推動這種變化。

透過大型語言模型的應用,我們終於能夠擺脫資料追尋的困擾。BlendVision AiSK 彷彿為知識庫賦予了一個全知的智慧大腦,幫助解答各種疑難雜症,實現「一問就有」的理念。CooC+ 的誕生不僅展現 AI 在教育領域的助益,更是對 AI 在多媒體形式轉換和個人化體驗的潛在影響做出了前導的展示。不久的將來,AI 會和網路一樣無處不在,資訊流動將更加流暢,引領我們進入全新的互動時代。

(首圖來源:Pixabay)