生成式AI時代來臨
AI這個近年來非常熱門的話題,雖然一直被個人選擇性地忽略(感覺有點複雜),不過從Nvidia近來針對生成式AI挹注更多資源的動作,還有chatGPT帶動的聊天互動熱潮,都不難想像其未來的發展將會有質一般的飛越,當然AI運算絕對沒有想像中那麼簡單,也要有與其相輔相成的設備才能達到事半功倍的效果,所以本次的講座有聯合美光Micron,一起展示AI數據分析和文生圖的實際體驗

AI講座內容詳談
本次的主講人之一,CAVEDU 教育團隊創辦人 / MIT 電腦科學與人工智慧實驗室訪問學者,曾吉弘博士,討論的主題是關於生成式AI在文字和圖片上的應用,以及如何下達正確指令

chatGPT,全球爆紅的聊天機器人,是由OpenAI開發的大型語言模型,背後的支援者就是大名鼎鼎的Microsoft,chatGPT之所以能這麼厲害,是因為它能針對多義詞、代詞甚至語言的表達方式去解析上下文的脈絡並給於適當地回答,模擬出跟人對話的真實感

目前chatGPT的方案,免費方案使用GPT 3.5 模型,標準的回答速度,付費方案則是可以升級為chatGPT Plus版本,更新更強大的GPT 4.0 模型 ,更快速的回答速度且能套用插件和數據分析等功能

不過我們也能在Microsoft Edge瀏覽器內使用GPT 4.0 模型的Bing chat聊天功能,在回答的速度生成上確實比GPT 3.5 模型要快上許多

在生成式AI中,文字比影像更難處理,因為語言具備多樣性,想擁有一個通用的架構相當難,即便英文是全世界認知共通的語言,也可能會因為語境和詞意的不同而有各種不同的表達方式,而影像生成較為簡單,除了特徵的通用性高以外,給予的文字也不用太複雜就能生出一定框架的圖像

模型愈大,資料庫放存的內容越多,表示AI能取得的資訊越充足,在效能上就會更有效率,只是想擁有這類模型的成本也相當高,絕非一般小公司能負擔的起,所以目前的趨勢還是傾向於作為基礎建設使用,先求有再求好的意思

曾吉弘博士最常使用的操作就是資料彙整,以開箱文為例,能迅速整合多篇相關報導,並用readerGPT摘取重點,透過ChatGPT進行翻譯,透過簡單的提問將優缺點列出,尋求潛在的購買者與原因等

AI實際應用在行銷面向上,像是口號標題和媒體的文案內容,與客戶互動的聊天機器人和自動回應的服務項目,透過資料分析和市調來找出潛在需求的客戶,並針對客戶提出相關的內容策畫,另外還包括價格動態調整和多語言支援,擴展行銷的多面性

推薦的相關生成AI,有文字專用的Notion AI,還有自動產生投影片大綱的Gamma App

Generative Adversarial Network於2014年提出,由一個生成網路與一個判別網路組成。生成網路從潛在空間中隨機取樣作為輸入,其輸出結果需要盡量模仿訓練集中的真實樣本。判別網路的輸入則為真實樣本或生成網路的輸出,其目的是將生成網路的輸出從真實樣本中盡可能分辨出來。而生成網路則要盡可能地欺騙判別網路。兩個網路相互對抗、不斷調整參數,最終目的是使判別網路無法判斷生成網路的輸出結果是否真實,講白了就是會輸出以假亂真或是難以判斷真假的圖片

網頁版生圖的方便性高而且價格便宜,不過有很多細部的選項會比較少,而且對於敏感詞彙的管理也較為嚴格,不過一般的使用者透過網頁版已經很足夠了

文字轉圖像 AI 生成模型 DALL-E 3 在ChatGPT上只有提供給付費用戶使用,不過現在透過Bing Chat 內部的 Image Creator,一樣可以享受到這個功能,只要給予相關的提示字詞就能快速生成需要的圖案,重點是免費生圖

實際測試的結果在同一個Prompt下會生成四張類似但不一樣的圖片,而這些Prompt也可以透過chatGPT來取得,這樣就能更進一步精準設定我們想要獲得的圖片範圍

推薦的相關生成AI,遊戲素材專用leonardo.ai ,svg向量檔專用的Recraft.ai,找模型專用的civiAI和clipdrop算圖軟體

另一位主講人,夏酷科技股份有限公司 CIO 資訊長 / 台灣創博識有限公司-資料科學家 / 台灣人工智慧協會理事,吳定謙 (T.C.),本次講述的主要內容是AI在實際產業面向的應用,包括食品、餐飲等販售資訊的整合和操作

AI能幫助零售業者的事項

近年最主要因為疫情關係,連帶許多產業都收到衝擊,尤其是零售餐飲等產業在人們因為隔離而減少外出後,營業額幾乎屬於停滯的狀態,而且這個衝擊並非區域性的,而是全球性的災難

轉型成功的案例,包括國內的服飾業轉型為複合式的販售蔬菜服務,或是像英國線上超市 Ocado,無論是就近或是透過線上獲得蔬果,至少這樣的產業能確保居家上班或上課的家庭能保有新鮮食材

延續疫情後的習慣,即便是現在大部分的環境已開放,在家開伙、室內運動和生鮮外送的人數仍在持續上升,所以如果是當時的企業已進行相關轉型,都有機會轉虧為盈

零售業透過銷售預測,主要提供的五個面向包括客戶導向、生產管理、財務會計、行銷策略和供應鏈,拿行銷策略來舉例,折價趴數和商品組合到底哪種方式是消費者需要的,既能達到效果又省成本,這些都是可以透過AI來做預測

因為餐飲業的數據非常龐大,如果導入AI做數據化分析,就可以很簡單的看出每個天數在來客數的變化和預測業績等

利用Chat系統即時控管各店的庫存量,不僅可以省下大量成本,還能即時針對進貨量不足的單店進行立即支援

Crucial 美光產品的優勢
在AI講座中都有特別提到AI運算是從龐大數據的資料庫中提取、分析,甚至給予決策等,而生成式的AI不管是圖像還是文字更是著重在即時性和有效性,所以必須要擁有能應付多工的記憶體和高速讀取的固態硬碟,才能達到效能最佳化,而本次講座的體驗區包括AI數據分析和Stable Diffusion生圖程式所使用的硬體設備為捷元客製化的機種,均採用美光的Crucial PRO DDR5系列記憶體和T700系列PCIe Gen5 高速固態硬碟

Micron和Crucial系列的 DDR5 記憶體,都是走平價路線,強調運作穩定和高相容性

最新的Crucial PRO DDR5系列,是Crucial第一款擁有散熱片的記憶體,採用矮版的黑色霧面散熱片,中間有PMIC電源管理模組,支援雙平台Intel XMP 3.0和 AMD EXPO,確保能達到5600MHz的效能

Crucial T700系列,是Crucial第一款PCIe Gen5的NVEM SSD,PCIe Gen5這種次世代等級的速度,自然不是上一代Gen4能比的,採用美光232層TLC,有兩種版本,一種是有無風扇散熱器的Pro版,一種是可自行搭配散熱器的標準版,速度最快可達12,400MB/s 的循序讀取及11,800MB/s 的循序寫入

Crucial系列 PCIE 4.0的NVME SSD,P3 PLUS採用QLC顆粒,P5 PLUS採用TLC顆粒,想要便宜就選P3 PLUS,不然其實壽命高的P5 PLUS個人比較推薦,容量的部分有1TB/2TB/4TB可選

Crucial X8/X6 隨身SSD,有相當不錯的讀寫效能,能快速儲存和備份資料,重點是攜帶性極為便利,比手掌還小的高速硬碟外出備而不用也不會占多少空間

現場體驗AI進行零售業的數據分析,展示的是在各項行銷策略中,績效最高的是哪一種,而且還順便對T700進行測速

現場體驗Stable Diffusion生圖程式,只要給予足夠且精確的Prompt,生成圖片的速度非常快,而且每次生成的圖片都不太一樣

會後心得與個人想法
這是本次關於AI講座的話題中,個人最喜歡的一句話,AI是因為人給予目的而生,是作為更便利性的工具來輔助我們生活,其實從現代社會開始趨向少子化的過程,就可以知道未來的發展在人力部分絕對是嚴重匱乏,雖然AI能不能勝任複雜且多重的任務,尚須等待時間的認定,但是就目前來說能簡單輔助並取代現有的人力作業是肯定的,透過這次AI講座也讓我了解到AI發展的多面性,無論是針對公司或是個人,都有實質性的幫助

即便chatGPT的模型有持續更新,不過實際使用上還是有機會遇到前後文表達不一致的狀況,而且要從這麼龐大的資料庫中提取所需的資源,順暢操作並獲得即時反饋也是需要擁有較高等級的硬體設備(這也是為什麼會聯合Micron一起參與本次講座),所以無論是對使用者或是生成式AI的進程來說,個人覺得都還在起步的狀態,但是卻擁有無限且寬廣的延伸空間,真的很期待能實現當初看到雲端情人這部電影帶來的衝擊和感動