只需100GB内存，让Falcon 180B在你的电脑上起飞 一、前言 自2023年5月，阿布扎比技术创新研究所（TII）发布了两个预训练的LLM：Falcon 7B和Falcon-40B，这两个模型的表现十分优异，在OpenLLM排行榜上高居榜首。然而，在短短不到几个月的时间，研究所又推出了第三个重量级的大语言模型——Falcon 180B。 以下是有关... 2023-10-10 1858 Views Read More
OpenAI API参数详解 创建completions给定提示，模型将返回一个或多个预测完成，还可以返回每个位置的替代令牌的概率。 请求连接：https://api.openai.com/v1/completions 请求方式：POST 请求参数：Request Body 【model】string 必填使用的模型ID... 2023-09-26 3578 Views Read More
Claude 2开始收费了，值得每月20美元吗？ 9月7日，Anthropic推出了Claude 2的订阅服务Claude Pro，价格为每月20美元。作为ChatGPT的免费替代品，Claude 2从7月推出开始就受到广泛关注。尽管我已经购买了ChatGPT Plus服务，但这两个月来我仍然会同时使用Claude 2。因此我决定趁Claude P... 2023-09-26 3089 Views Read More
Claude2国内能用的方法介绍 Claude2，这款备受瞩目的人工智能工具自从发布以来，以其强大的功能和便捷的使用体验在全球范围内受到欢迎。本文将分享Claude2的注册教程，并特别介绍在国内如何顺利使用Claude2的方法。 Claude2注册教程 1. 访问Claude2官网 打开浏览器输入claude.ai。 2... 2023-09-26 4395 Views Read More
大模型部署框架 FastLLM 实现细节解析 0x0. 前言 接着 大模型部署框架 FastLLM 简要解析 这篇文章首先梳理了一下FastLLM的调用链和关键的数据结构，然后解析了 FastLLM 的一些实现细节和CPU/GPU后端实现采用的优化技巧。 0x1. 调用链和数据结构解析 以chatglm-6b的支持为例，函数入口在 htt... 2023-09-19 2679 Views Read More
Langchain-Chatchat + 阿里通义千问Qwen 保姆级教程 | 次世代知识管理解决方案 从ChatGPT出圈也快一年了，中文大模型也是一个百花齐放的态势， 如果你现在问我中文大语言模型及相关生态发展到了什么地步了。我想上面那段北岛的诗句就是一个很好的《回答》。 中文LLM生态观察 模型 就开源的部分而言，从一开始的MOSS[1] ChatGLM[2] ChatGLM2 [3] 到... 2023-09-19 2252 Views Read More
万字保姆级教程！Stable Diffusion完整入门指南 码字不易，SD 保姆教程，从原理功能到案例输出展示，最后简述 ControlNet 的使用技巧，图文约 1 万 5 千字左右，阅读时长约 20 分钟～ Stable Diffusion 的基本介绍 首先官方给出的解释是： 这和 MJ 有什么区别 为了更方便的理解我们将 Stable ... 2023-09-06 494 Views Read More
Profile Picture AI ｜用AI创建个人资料照片 Profile Picture AI 一款使用AI给你个人或者宠物创建资料照片的工具，这个在国外比较流行，你可以把创建的资料图片打印出来，然后印在衣服或者枕头等其他地方，特别彰显个性 网址：https://www.profilepicture.ai/ 网站语言：英语 费用：付费 Crea... 2023-08-23 329 Views Read More
Server-Sent Events 教程 一、SSE 的本质 严格地说，HTTP 协议无法做到服务器主动推送信息。但是，有一种变通方法，就是服务器向客户端声明，接下来要发送的是流信息（streaming）。 也就是说，发送的不是一次性的数据包，而是一个数据流，会连续不断地发送过来。这时，客户端不会关闭连接，会一直等着服务器发过来的新的数... 2023-08-22 1960 Views Read More
ChatGPT流式输出效果的实现原理 在使用ChatGPT时，模型的回复内容是一个字一个字蹦出来的，而不是整段话直接出现，因为模型需要不断预测接下来要回复什么内容，如果等整段回复生成之后再输出到网页，用户体验就会很差，一直以为这种流式输出效果是用WebSocket实现的，后来接入open ai接口，发现接口是http协议，才了解到SSE... 2023-08-22 1575 Views Read More
