大模型本地化部署使用感受

由于一直感觉大模型有些虚无缥缈，为了便于实践中理解，近期进行了GPT3.5和阿里开源的qwen 7b模型本地部署，尝试与工作中的实际场景进行结合，形成一个直观的认知。测试了几个场景1. 开源大模型不加微调参加不同专业的测试选择了网络学堂不需要培训直接参加的考试，使用GPT3.5和阿里开源版本，在没有经过任何微调的情况下，使用自己开发的chrome的AI扩展插件参加四项考试，进行验证，验证结果： 测试采取的chrome插件直接读取题目并由模型给出参考答案，根据插件显示进行题目填充方式。 通过考试结果可以看出： 越是专业的网络知识，模型的成绩越好； 国家或者业内通用准则落地规范（例如采购规范）成绩也可以达到中等偏上的水平。 联通的自有产品的培训考试，因为个性化太强，没有达到考核标准。 结论：直接使用开源大模型基本相当于一个新入职的大学生水平（甚至略高）。 对其进行必要的培训（模型微调）具备在一些岗位提供专业技能支撑的能力 2. 对于大模型的“自以为是”、“胡言乱语”问题。通过提示词控制，可以避免大模型的自由发挥，只对明确知识进行解答。 以下在帮助家人确定治疗方案时利

技术专业 · 04-23
大模型本地化部署使用感受

被这个ai的浏览器插件震惊到了

Elmo太强了，被这个ai的浏览器插件震惊到了。在你浏览无论是中文网站还是英文网站都可以快速将文章的内容概括出来，提升效率：知道文章的大意决定是不是详细看。外语学习：刚刚学习的时候，知道大意再去看文章总是容易入门一些。

技术专业 · 04-14
被这个ai的浏览器插件震惊到了

我也在群晖上部署了immich照片管理软件

看了一篇介绍immich的的文章，其中对于照片管理中AI能力的支持对比吸引了我，immich因为开源支持很多插件，比较容易与目前的AI能力相结合，周末终于在我的nas上部署完成了，但是在将硬盘中的历史照片导入时，网上的中文材料过时了，总是不能成功，最终在官网的说明中找到了答案，nas的cpu已经占满到99%了，估计要到明天晚上才可以导入完毕。批量照片导入的操作过程如下：immich提供了批量的照片导入工具immich cli，按照步骤来说明一下：1）登录nas并安装immcih工具sudo npm install -g @immich/cli如果提示下面的错误，说明nas上的node.js版本太低：需要到群晖nas的组件管理中安装node.js的20版本，记得不要卸载原来的18.0的版本，否则会影响群晖drive、station等的使用更新完node.js后nas的ssh客户端重新执行安装脚本就没有问题了。2） 获取immich的token api在immich的页面（http://nas地址:2283）点击右上方的个人头像，选择Account Settings点击新建API KEY记

技术专业 · 04-14
我也在群晖上部署了immich照片管理软件

因使用量少 Google One 将取消 VPN 服务

谷歌今天宣布，Google One 的 VPN 服务将在未来几个月内关闭。Google 现在“停止使用 VPN 功能，因为他们发现人们根本不会使用它，”停用该功能将使团队“重新集中精力”并“通过 Google One 支持更多热门功能”。同时，随 Pixel 系列推出的免费 Pixel VPN 没有任何变化，发布时 Google 保证五年可用性。该功能最初被宣传为提供“额外的 Android 手机在线保护层”和“让您高枕无忧的数据安全”，该公司发布了一份白皮书，详细介绍了它的工作原理。此外，谷歌对该系统进行了第三方审核，并开源了客户端 API。

技术专业 · 04-12

2024年世界卫生组织公布的乙型肝炎诊治指南提到了那些关键信息

（原创整理，转载注明出处）乙肝在国内长期处于谈肝色变的恐惧中，过度医疗或者放任不管都是不科学的。根据国际卫生组织刚刚发布的乙型肝炎诊治方案，整理解答最为关键的八个问题：一、在最新发布的指南中，较之前有哪些变化？补充那些内容？在2024年发布的《世界卫生组织慢性乙型肝炎预防、诊断、护理和治疗指南》中，变化和补充的内容包括：1.扩展和简化成人及青少年的治疗资格：现在提供四个符合治疗资格的选项，其中只有一个需要进行HBV DNA检测。这意味着更多的HBsAg阳性人群（至少50%）将符合治疗条件，而以前只有8–15%符合条件。2.扩大孕妇使用抗病毒预防措施以防止母婴传播：通过使用抗病毒预防措施，扩大HBsAg阳性孕妇的资格范围，以防止母婴传播。3.改善HBV诊断：通过使用HBV DNA点护理病毒载量和反射式HBV DNA测试方法来改善诊断。4.HDV感染的测试：关于谁应接受HDV检测以及如何进行测试，包括对乙型肝炎Delta共感染的反射式测试。二、病毒携带但是肝脏没有损伤的情况下，是否需要治疗，需要治疗的判断标准是什么？对于没有肝损伤的慢性乙型肝炎（HBV）病毒携带者是否需要治疗，以下是文档中

技术专业 · 04-10
2024年世界卫生组织公布的乙型肝炎诊治指南提到了那些关键信息
2016 - 2024 自由翱翔：十年学习成长之路. All Rights Reserved.
Theme Jasmine by Kent Liao