RWKV、Android-Stable-diffusion-ONNX,AI对话绘画离线版App
最近AI大模型很热门,但是受限于硬件成本,大多数都要钱,趣哥老早就想要是能直接离线运行在手机或者电脑上,那就完美了,人人都能用!
没想到,还真有大佬做了!
AI对话 绘画(安卓)
第一款:RWKV
趣哥最近发现有咱们国人大佬做了两个手机APP,一个AI对话,一个AI绘画,都可以直接运行,开箱即用。
首先是RWKV这个文本大模型,安装包808MB,安装后打开,点击复制模型按钮,然后就能点击对话或者续写。
点进去对话就是和GPT啥的差不多了,可以和AI对话,软件利用CPU算力来运行。
实际测试写个代码也不成问题,聊点日常问题也能轻松应对。
反应速度上趣哥觉得很流畅,除了第一句话会loading一下,其它的基本上秒出结果,趣哥手机是小米10的12G内存版本,芯片是骁龙865,如果大家是骁龙8Gen 2或者8Gen 3那估计更流畅。
第二个功能续写就是给它一段话他就会续写,比如这样。
只有第一个句号之前的文字是趣哥写的,看动图就知道速度还是挺快的。
第二款:ONNX
第二个软件名字有点长,叫Android-Stable-diffusion-ONNX,这是一个AI绘画软件,输入提示词Prompt就会生成图片。
同样还是先点复制ASSETS到模型路径,然后输入提示词就能生成图片了,比如这样。
不过趣哥测试这个比前一个软件慢,毕竟图片还是比文字难一点,上面那个384是图片分辨率,分辨率越高生成越慢。
另外这个prompt(提示限定词)也很重要,用上好的prompt生成的图片才真实好看,随便写个词AI生成的图片可能是乱的不真实的,大家不了解的话可以在网上搜一下,常见做法是直接用别人现成的prompt,或者让ChatGPT来生成prompt。
总结
以上就是两个生成式AI的离线手机版,离线版不受网络影响,没有什么黑名单白名单,大家可以自由发挥。
趣哥测试能用,但要说好用肯定是算不上的,因为两个都才1个G左右大小,利用手机这种小型设备很难获得强大的算力,模型参数自然就少,那么推演能力自然就弱。
不过可以期待一下,也许未来真人人都能拥有独立的AI呢。
两款APP下载地址:
https://pan.xunlei.com/s/VNjzemVy8TLSjRuHEHUUB4TMA1?pwd=h9ru