LLM API的经常使用 不要钱失掉试用API方法 大模型 付费API计费模式

​API(运行程序编程接口,Application ProgrammingInterface)是一组定义和协定,用于构建和集成运行程序软件。API准许不同的软件系统之间启动通讯和数据替换。大模型API是大模型运行开发的基础。API的经常使用不须要很高的算力,CPU就能跑。

1.API作用及长处

大模型API(如GPT-4、BERT等)提供了弱小的人造言语解决(NLP)才干,可以运行于各种义务。以下是大模型API的关键配置和用途:

1. 人造言语了解和生成:

-了解和生成人造言语文本,如撰写文章、生成对话、回答疑问等。

2. 对话系统:

-创立智能聊天机器人,用于客户服务、技术支持等。

3. 文本剖析:

-剖析情感、分类文本、提取关键词、总结文章等。

4. 翻译:

-提供高品质的多言语翻译服务。

5. 内容生成:

-生成创意文案、写作辅佐、代码生成等。

6. 搜查和介绍:

-提供高低文关系的搜查结果和共性化介绍。

7. 教育和培训:

-提供共性化的学习辅佐,生成练习题、解释复杂概念等。

长处

1. 提高效率:

-智能化许多须要少量期间和精神的义务,如文案撰写、客户服务等。

2. 增强发明力:

-提供灵感和辅佐创作,协助人们打破创作瓶颈。

3. 共性化服务:

-依据用户需求提供定制化的照应和服务,提高用户满意度。

4. 裁减才干:

-将先进的NLP才干集成到现有系统中,优化全体配置和用户体验。

本文以chatgpt 的api为例启动说明。大家也可以试用其余大模型的API,在官方都可以购置到API。这个是API汇总的网站:

反常API都是要花钱购置的,计费依照token算。前面会有API的计费说明。这里提供几个不要钱失掉API的渠道,供大家参考。(网络系统或者随时变动,这些渠道后续也或者不能经常使用)

2.不要钱失掉试用 API 及API经常使用示例

一个叫做GPT-API-free,上方是它的网页。

Github授权完成后,取得无偿经常使用的API,然而数量有限。

Host地址

上方看看如何经常使用,经常使用API调用大模型启动对话:

先要装置必要的模块:

pip install openai
from openai import OpenAI# 假定您的 OpenAI API 密钥是 "sk-yourapikey"client = OpenAI(api_key="sk-****************************",base_url="https://api.chatanywhere.tech/v1")# 发送恳求response = client.chat.completions.create(model="gpt-3.5-turbo",messages=[{"role":"user", "content":"四大文化古国区分有哪些?"}])# 打印照应内容print(response.choices[0].message.content)

失掉的回复:

四大文化古国指的是古埃及、古巴比伦、古印度和古中国,它们被以为是环球上领有最悠久历史和文化的四个国度。

保管好自己的API key很关键,因此把KEY放到环境中,在调用的时刻就可以不显示key了。

编辑 ~/.bashrc 文件,把key添加环境变量

vim ~/.bashrc

在~/.bashrc 文件末尾加上key

保留分开后,要在终端会话中立刻运行 ~/.bashrc 文件中的更改,可以经常使用以下命令:

source ~/.bashrc

创立模型实例的代码可以是这样:

client = OpenAI(api_key="",base_url="https://api.chatanywhere.tech/v1")

3.不要钱失掉OpenAI API key二

ChatGPT API 水龙头,每24小时可支付一个 $1.00 令牌用于开发测试 AI 产品.

4.不要钱失掉OpenAI API key三

刷新页面后

5.API的计费

经常使用AI模型的API一个很有必要了解的常识点是,它们都是咋不要钱的?冗长的答案是,绝大局部大模型API的计费是基于token数量的。那么,什么是token呢?token可以被了解为是文本的一个基本单位,取决于不同的token化方法。短单词或者每个词是一个token。长单词或者被拆分红多个token,而中文的话所占的token数量会相对更多,有些字要用一个甚至更多token示意。

你可以去openai的这个网站,它有一个交互式分词器,能展现恣意文本如何被映射为不同的token。

假设你输入中文,可以看到很多独自的字,自身就是一个token,而罕用词或者一个词是一个token。而有些不经常出现的字,或者会被映射成多个token,以致于网页不可展现出拆分的半个字,就是图上的?。

计费时看的是的total token,即揭示和回应加一同的token数。

OpenAI API KEY的计费可以在上方网站查问,如今曾经比之前活动很多了。

AIRoobt ,作者:AIRoobt

原文链接:​​​ ​​ ​​

您可能还会对下面的文章感兴趣: