跳到主要內容

發表文章

目前顯示的是 12月, 2024的文章

如何準備應徵一份LLM工程師的工作?

 2024 的最後一天,就以這篇文章作結! 先講結論,直接拿標題下去網路搜尋,或者直接問ChatGPT、Gemini 等生成式AI,可能都能夠獲得比這篇文章還要詳細完整的答案。而筆者在這篇文章要分享的,是在過去一年來,所應徵過的 LLM 相關工作職缺時,被問到的問題。 雖然筆者本身過去幾年的確都在製造業當中從事演算法相關的應用開發工作,但因為部門屬性、專案的應用場景、公司的數位轉型政策、以及其他大人們的因素。筆者一直沒有機會真正接觸到生成式 AI 的開發工作。 打從 ChatGPT 一砲而紅之後,各家科技巨擎的生成式 AI 模型宛如軍備經賽般地快速發展,乃至今日,無論是功能強大的商業型生成式AI服務平台、完整的開源生成式AI開發工具生態系、各種新興的商業模式與應用等等,都不斷推陳出新、日新月異! 技術領域當個早期進入者當然有其風險與優勢,想想兩年前那些還在燒腦如何 fine-tuning LLM的前輩們,看到現在隨便一個LLM搭配個 Multi-Agents、RAG 的效能與功能完整性都比當年度燒肝燒薪水出來的玩意還要簡單易用,大概滿肚子辛酸血淚XD 現在才打算踏入 LLM 應用開發的求職者們,也不見得要灰心,因為現在要真正做LLM的應用開發,跟兩年前比起來可方便且快樂多了,但那也表示,這個就業市場也差不多一片紅海了XD 但總之,LLM 的相關整合應用,在未來幾年勢必仍舊會是一項趨勢,要不要踏上這條路,就看每個人如何權衡了🍵 好,感言說完了,以下就逐條羅列筆者在前述所提到的求職技術題目。題目的答案,就不占篇幅了,留給各位讀者們做功課: 『在 NLP 的領域中,請解釋什麼是「Language understanding」?』 『在 NLP 的領域中,請解釋什麼是「Question Answering」』 『在LLM 的 RAG 應用當中,如何評估 Retrieve 的正確率?』 『在LLM 的 RAG 應用當中,面對較大的知識庫時,有什麼可以優化 Retrieval 效能的方法?』 『假設你所隸屬的公司所使用的線上會議工具是 _______(基於大人們的因素,這裡以空格替代,讀者們可以自行想像是哪一套線上會議軟體),用戶想要把線上會議的內容,以自動化的方式產出摘要提供給會議召集人,請問如何應用 AI 技術作為解決方案?需要多少工時完成此需求?請簡單列出專案計...

Coursesa 線上學習心得

約莫三個月前,我完成了 Coursera上面的這幾項課程。想透過這邊文章來記錄一下這個學習歷程。 Q:「為什麼再進修以及選擇這些課程?」 A:「作為一名資料科學應用開發人員,持續學習新理論與新技術是理所當然的事情!」 而這不限於新東西,哪怕是已經十分成熟的技術,但先前自己沒碰過,現在或者未來需要用,那當然教學!現實社會當眾討生活,不進則退,理所當然。由於我自己的工作內容主要專注於製造與供應鏈管理應用場景的演算法開發設計,對於資料工程、資料架構設計、開發過程的測試與驗證…… 等等,較少有著墨。為了提升自己工作技能的廣度與就業彈性,才選擇了這些課程。 IBM Applied DevOps Engineering Professional Certificate https://www.coursera.org/professional-certificates/ibm-applied-devops-engineering IBM Data Warehouse Engineer Professional Certificate https://www.coursera.org/professional-certificates/data-warehouse-engineering IBM AI Engineering Professional Certificate https://www.coursera.org/professional-certificates/ai-engineer NoSQL, Big Data, and Spark Foundations Specialization https://www.coursera.org/specializations/nosql-big-data-and-spark-foundations Q:「為何選擇 Coursera?而不是其他綜合學習平台,或者 M$、Google、提供的官方學習平台?」 A:「技能的廣度與通用性、CP 值高!」 要選擇哪一個線上平台或者數位學習工具?這是使用者自己最先要面對的問題。對我而言,選擇 Coursera 的最大原因,正是上述這三點,這部份就可以細一點來談了! # 技能的廣度與通用性 首先是「課程內容的技能通用性」這一點,M$、Google、AWS 等大廠雖然也都有推出自己的數位...