2024-end
2024过去了,对过去一年从工作和生活做个总结。
补档2023,2023年经历了工作变动,从金融科技转向AI,与部门的伙伴一起探索AI Agent,基于模型构建了NLU、DPL和NLG等模块。
2024年,在AI方面相比2023年(提示词工程、模型调用、效果评估和Agent搭建),今年做了模型微调和量化,对各个服务模块做了k8s容器化部署改造,今年还深度接触了golang。从入职以来,使用的编程语言从java到python,再到如今的golang,感觉变的是语言规范,不变的是底层技术和编程思想。这一年班没少加,接触了很多新东西,但是深度远远不够,特别是工程侧从头到尾完整地搭建saas服务,写技术文档等。
基座模型横向对比了几乎目前市场上开源的所有模型,根据业务方向收集了语料,区分测试集和验证集,并使用LLamaFactory做微调。量化方面评估了多种量化方式,包括AWQ、GPTQ以及llamacpp,在量化过程中发现,基于不同llama系列的分支对量化结果也会有影响。工作内容可以说是非常杂了,在团队建设逐渐专业化之后,自己要开始选择一个专门的领域了,从工作内容中可以提炼出几条路:
- SRE工程师,去年各个服务的部署落在我头上了,因为部署,所以也熟悉了各个服务的配置、大致工作原理。线上生产环境服务的更新、运维同样在我这里,亚历山大。
- 后台开发工程师,做了对话系统的后台设计(部分模块),串联整体调度,对saas内的各个服务都还熟悉,这部分做起来还算得心应手,当然挑战也是有的,比如提高工程师的素养,提高文档能力,熟悉新的开源组件等等。如果继续做,还需要深度golang,总感觉不像了解java那样深入。
- AI系统工程师,不知道该叫什么名字,算法工程师称不上,后台开发设计也不算,跟模型打交道的该怎么称呼呢,总之不能算提示词工程师,包含提示词,但不是专门做这个的,具体还包含什么内容跟主管再沟通吧。与后台开发相比,这一块的内容对我来说是崭新的,我只是有一些工程经验,比如微调、量化等,这一领域更新地太快了。如果做这一部分的工作,后台开发的东西俺也不想丢掉,看看有没有两者兼顾的领域。
2024年追了几部剧、读了几本书。印象最深的书就是《明朝那些事儿》了,真的好看。没找着类似风格讲清朝的书,就看了电视剧《雍正王朝》,剧也好看。还看了《硅谷》,IT男,IT难。但是也刺激,希望自己也有机会暴富😅
2024很充实,充满了挑战,这份总结补档在2025年处,年初一来时间安排上就很紧张,工作量拉满,希望2025再接再厉。