feat: maxtokens

src/constants/model.ts

@@ -23,7 +23,6 @@ export type ModelConstantsData = {
   maxToken: number;
   contextMaxToken: number;
   maxTemperature: number;
-  trainedMaxToken: number; // 训练后最大多少tokens
   price: number; // 多少钱 / 1token，单位: 0.00001元
 };
 
@@ -34,8 +33,7 @@ export const modelList: ModelConstantsData[] = [
     model: ChatModelNameEnum.GPT35,
     trainName: '',
     maxToken: 4000,
-    contextMaxToken: 7000,
-    trainedMaxToken: 2000,
+    contextMaxToken: 7500,
     maxTemperature: 2,
     price: 3
   },
@@ -46,7 +44,6 @@ export const modelList: ModelConstantsData[] = [
     trainName: 'vector',
     maxToken: 4000,
     contextMaxToken: 7000,
-    trainedMaxToken: 2000,
     maxTemperature: 1,
     price: 3
   }
@@ -57,7 +54,6 @@ export const modelList: ModelConstantsData[] = [
   //   trainName: 'davinci',
   //   maxToken: 4000,
   //   contextMaxToken: 7500,
-  //   trainedMaxToken: 2000,
   //   maxTemperature: 2,
   //   price: 30
   // }

src/pages/api/chat/gpt3.ts

@@ -87,10 +87,7 @@ export default async function handler(req: NextApiRequest, res: NextApiResponse)
         temperature: temperature,
         prompt: promptText,
         stream: true,
-        max_tokens:
-          model.trainingTimes > 0
-            ? modelConstantsData.trainedMaxToken
-            : modelConstantsData.maxToken,
+        max_tokens: modelConstantsData.maxToken,
         presence_penalty: -0.5, // 越大，越容易出现新内容
         frequency_penalty: 0.5, // 越大，重复内容越少
         stop: [`###`, '。！？.!.']