无标题无名氏No.63341265 只看PO
2024-08-05(一)11:31:04 ID:6gbuo8q 回应
求助肥哥们，如何从头写一个偏独立的ai？( ;´д`)
先叠个甲，po不是计算机专业的学生所以一些表述可能不太准确还请见谅。
想要达到的效果类似于一个独立的聊天机器人，可以通过训练让聊天至少有逻辑一些，最好能通过对话简单判断人类的情绪。
如果要从头开始，需要下载什么软件？有什么样的硬件基础？并学习什么编程语言？
无标题无名氏No.63550945
2024-08-23(五)23:40:10 ID: Bjw5ru5
单说弄个可以聊天的有独立人格的bot的话，本地ollama跑，然后参照ollama的文档根据现有模型另外创建一个模型(或者说只是调整参数，以及增加 SYSTEM 这个可以理解成 prompt 的东西) 多少也够用的( ﾟ∀。)
然后在这基础上想要实现持久的聊天的话也好办，ollama 上下文的回复其实是每次都把所有消息记录都提交给模型然后再输出的，你如果不想关窗口就一切清空的话就自己编程维护上下文，并且把这个上下文保存到文件中就可以了。
然后我自己的实现就是自己通过ollama的api接口来提交会话内容，然后上下文自己维护就可以。我没有持久化的需求所以我没把这个上下文保存成文件，但是显然要做也很容易(｀･ω･)
具体的代码实现当然也不局限于哪种语言，总之就是需要你能够读取和编辑 json 数据，以及向 ollama 服务端发送数据 (POST 请求)，我自己是用的 cpp&lua 这一套做的，主要是方便用在我自己的qq机器人上( ﾟ∀。)
当然如果 po 想从模型训练甚至是更底层开始就自己上手的话，那上面这些就不适合 po 了，也不是我所了解的了
无标题无名氏No.63551005
2024-08-23(五)23:47:58 ID: Bjw5ru5
>>No.63550945
我自己本地的条件是6G显存的 3060 ，够运行 llama3.1 最小的那个，再大就被迫要在cpu跑了；效果的话中文还不错，也基本符合人设，只说娱乐用途还是够的。
无标题无名氏No.63653895
2024-09-03(二)17:29:52 ID: s2TJBjD
如果只是基于现有模型搓工作流/知识库/向量检索这类不涉及模型本身的工作的话，可以试试
https://docs.dify.ai
低代码体验还是很好的