3月23日，由傳智教育與科大訊飛聯合組織的大模型實戰應用之“AI開發者 TALK·北京站”在海淀舉辦。本次活動圍繞“大模型應用”展開探討，旨在為廣大AI開發者提供一個交流、學習和展示的平臺。
活動當天，共有來自傳智教育和科大訊飛開放平臺的4位嘉賓發表精彩的演講，內容涵蓋大模型行業動態、人才培養、技術洞察、開發心得和技術實踐等。
科大訊飛開放平臺運營總監汪艦老師從行業趨勢的角度分享了有關大模型的應用生態。他提到，在人工智能領域，大模型技術憑借其強大的數據處理能力和廣泛應用前景引領新一輪技術革命。
具體來說，從基礎架構和算法創新到預訓練模型的里程碑，大模型不斷突破，現已進入跨模態和跨領域應用新階段，在醫療、金融、教育等領域展現巨大潛力，提高行業效率，改善生活質量。
傳智教育人工智能學科教學主管趙晨杰老師從AI大模型行業發展現狀、大模型相關的技術和崗位要求及人才供需的角度出發，分享了大模型技術人才培養的課程體系。
同時為大家呈現了傳智教育黑馬程序員2024年大模型LLM學習路線圖，并強調了實踐經驗與創新意識對于大模型人才的重要性。
傳智教育人工智能研發中心高級研究員李剛老師從技術應用層面分享了什么是RAG（檢索增強生成），從企業實際應用大模型的角度出發，深度剖析了大模型容易出現的“幻覺”問題，以及傳統微調大模型方法的痛點，并分析了RAG方法的優勢。
在分享過程中，李剛老師以“電商”數據為基礎，詳細展示了RAG實現的整個流程，并針對RAG系統的優化，進行了多方位的補充，如：數據清洗、文檔多粒度切分、多層次索引、嵌入模型優化、檢索結果的Rerank以及在架構中加入知識圖譜輔助等方面全面提升RAG系統的性能。
傳智教育人工智能研發中心高級研究員姚曉瑩老師借助訊飛星火大模型，從企業級開發應用的角度演示了大模型平臺與技術的具體操作方法，現場開發者們一起參與了實踐。
姚曉瑩老師首先深入剖析訊飛星火大模型的定義、功能范疇以及實際應用場景，并利用訊飛智文快速制作了一份PPT演示文稿，通過視覺化的展示，使參與者對訊飛星火大模型有一個全面而深刻的認識。
在訊飛星火大模型API的應用實踐環節中，姚老師帶領現場學習者完成了星火大模型API的注冊，還展示如何利用該API開發出具備多種翻譯風格的英譯漢翻譯機。
最后，姚老師全方位解讀了訊飛星火大模型定制平臺的應用，內容涵蓋從數據預處理到模型的個性化定制，從高精度訓練到性能評估，直至模型部署的全過程。
通過一步步構建大模型服務，并借助webAPI和在線體驗的方式，為開發者提供一個實際操作的機會，確保開發者能夠掌握整個大模型定制流程的每一個環節。
除了嘉賓分享外，現場還安排了交流環節，開發者們除了把自己在大模型學習和應用中遇到的問題與老師進行了探討之外，還結合自己的應用案例進行了思考與實踐。
活動結束后，開發者們仍沉浸在熱烈的討論氛圍里，不愿離去。大家紛紛表示收獲頗豐，不僅學到了很多新的知識，還結識了許多行業內的朋友，希望未來能有更多這樣的交流機會。
傳智教育聯合科大訊飛攜手舉辦的此次活動，不僅為開發者們提供了一個寶貴的學習和交流的平臺，也為推動行業的發展做出了積極的貢獻。
