今天搭建了一个自己的open-webui，实现AI能力的免费和本地

通过自己消费级显卡安装了一个本地lama3大模型，同时配置了open webui的交互界面。 安装过程非常简单，按照操作文档使用docker方式一条命令就可以搞定了。 安装后的open webui界面： 后端接入了One API的接口聚合服务，上游配置了cloudflare和groq两个AI服务。 加上本地部署的lama3 8B、70B两个服务，组成了远程+本地的AI的API接口服务。

技术专业 · 2024-05-10
今天搭建了一个自己的open-webui，实现AI能力的免费和本地

免费和开源 iOS 应用列表

| Application name 应用名称 | Description | License | Source | Notes

技术专业 · 2024-05-02

whisper与obsidian的组合，实现了文档中的语音录音与声音识别生成文字的全自动完成

今天完成whisper与obsidian的组合，实现了文档中的语音录音与声音识别生成文字的全自动完成。 涉及的功能包括 安装在obsidian的whisper插件。 需要使用的是前面安装的基于cloudflare ai的openai借口。

技术专业 · 2024-05-01
whisper与obsidian的组合，实现了文档中的语音录音与声音识别生成文字的全自动完成

搭建一个完全免费的通义千问、支持openai接口

如今很多AI大模型已经可以免费使用了，但是稳定一些的API接口服务总是要支付费用。cloudflare这个网络界的慷慨大户，提供了免费的使用额度。其中Beta类是免费的，包括阿里的通义千问在内达量模型居然都是免费的。 下面就来介绍下，如何将cloudflare的AI服务转换为openai的api接口规范，让前端程序在不做任何修改的情况下就可以直接使用？为什么选择这种实现方式？随着技术的发展，未来较小、成本较低的语言模型可能会成为 OpenAI 的 GPT-3.5 和 GPT-4 API 的有力竞争者。许多开发者可能不希望为了使用新兴的模型而重写整个代码库。同时，Cloudflare Workers 提供了一个很好的平台来托管 AI 和 API，因此我选择在此平台上实现了 OpenAI API，这样开发者可以在不修改现有代码的情况下使用新的 LLMs。兼容性与实现的 API已实现或计划实现的 API 包括： 完成创建（Completions） 聊天完成（Chat Completions） 音频转录（Audio Transcription） 嵌入（Embeddings） 音频翻译（Aud

技术专业 · 2024-04-30
搭建一个完全免费的通义千问、支持openai接口

对typecho的jasmine主题进行修改实现首页图片展现

后台obsidian自动同步typecho的过程中，因为xmlrpc不支持自定义字段的接口上传，导致首页图片无法展现，这可害苦了我这强迫症。 考虑后台守护更新和帮着typecho完善xmlrpc接口功能之后，还是决定选择最简单和偷懒的方式，直接将主题修改了，自动将正文中的第一个图片作为首页图片展现处理。付出的代价就是首页图片增多后网站的响应速度下降了，反正自用小网站，不去追求性能极致了，自己看着舒服就行了。下面记录下修改jasmine这个主题，实现首页标题旁边的图片展现的方法：修改后的效果修改内容1. function.php增加一个读取正文中第一张图片的函数，放入到文件的任意为止就可//获取文章中第一个图片 function getFirstImageFromContent($content) { $output = preg_match_all('/<img.+src="([^"]+)"/i', $content, $matches); if ($output && !empty($mat

技术专业 · 2024-04-28
对typecho的jasmine主题进行修改实现首页图片展现

今天对网站进行的几个优化

今天对网站进行了两个优化，一是增加缓存提升网站的打开速度，第二是给blog增加了到访分析功能。启用TpCache插件 1.进入TpCache的Github仓库，2.下载下面的插件：https://github.com/phpgao/TpCache/archive/master.zip 3.放入网站根目录/usr/plugins/文件夹下；4.解压压缩包，将文件夹重命名为TpCache；5.进入网站-控制台-插件-找到TpCache启用； *如未安装Memcache，RedisPHP扩展，可以使用MySQL驱动； 6.设置好后，可以强制刷新下首页试试看效果； 以上，如不想折腾redis则可到此结束。增加google网站分析 打开google分析网站 https://analytics.google.com/ 设置中创建一个新的账号： 创建后再配置代码中打开手工添加： 复制需要添加的代码，找到typecho当前使用主题下面的header.php文件。 将代码找个位置粘贴进去： 就可以了，可以在google analytics网站点击验证。

技术专业 · 2024-04-28
今天对网站进行的几个优化

国际和中国云厂商的大模型布局

这份财经整理的表格还是比较全的

技术专业 · 2024-04-27
国际和中国云厂商的大模型布局

大模型本地化部署使用感受

由于一直感觉大模型有些虚无缥缈，为了便于实践中理解，近期进行了GPT3.5和阿里开源的qwen 7b模型本地部署，尝试与工作中的实际场景进行结合，形成一个直观的认知。测试了几个场景1. 开源大模型不加微调参加不同专业的测试选择了网络学堂不需要培训直接参加的考试，使用GPT3.5和阿里开源版本，在没有经过任何微调的情况下，使用自己开发的chrome的AI扩展插件参加四项考试，进行验证，验证结果： 测试采取的chrome插件直接读取题目并由模型给出参考答案，根据插件显示进行题目填充方式。 通过考试结果可以看出： 越是专业的网络知识，模型的成绩越好； 国家或者业内通用准则落地规范（例如采购规范）成绩也可以达到中等偏上的水平。 联通的自有产品的培训考试，因为个性化太强，没有达到考核标准。 结论：直接使用开源大模型基本相当于一个新入职的大学生水平（甚至略高）。 对其进行必要的培训（模型微调）具备在一些岗位提供专业技能支撑的能力 2. 对于大模型的“自以为是”、“胡言乱语”问题。通过提示词控制，可以避免大模型的自由发挥，只对明确知识进行解答。 以下在帮助家人确定治疗方案时利

技术专业 · 2024-04-23
大模型本地化部署使用感受

被这个ai的浏览器插件震惊到了

Elmo太强了，被这个ai的浏览器插件震惊到了。在你浏览无论是中文网站还是英文网站都可以快速将文章的内容概括出来，提升效率：知道文章的大意决定是不是详细看。外语学习：刚刚学习的时候，知道大意再去看文章总是容易入门一些。

技术专业 · 2024-04-14
被这个ai的浏览器插件震惊到了

我也在群晖上部署了immich照片管理软件

看了一篇介绍immich的的文章，其中对于照片管理中AI能力的支持对比吸引了我，immich因为开源支持很多插件，比较容易与目前的AI能力相结合，周末终于在我的nas上部署完成了，但是在将硬盘中的历史照片导入时，网上的中文材料过时了，总是不能成功，最终在官网的说明中找到了答案，nas的cpu已经占满到99%了，估计要到明天晚上才可以导入完毕。批量照片导入的操作过程如下：immich提供了批量的照片导入工具immich cli，按照步骤来说明一下：1）登录nas并安装immcih工具sudo npm install -g @immich/cli如果提示下面的错误，说明nas上的node.js版本太低：需要到群晖nas的组件管理中安装node.js的20版本，记得不要卸载原来的18.0的版本，否则会影响群晖drive、station等的使用更新完node.js后nas的ssh客户端重新执行安装脚本就没有问题了。2） 获取immich的token api在immich的页面（http://nas地址:2283）点击右上方的个人头像，选择Account Settings点击新建API KEY记

技术专业 · 2024-04-14
我也在群晖上部署了immich照片管理软件
2016 - 2025 自由翱翔：十年学习成长之路. All Rights Reserved.
Theme Jasmine by Kent Liao