fix: Update model.json for Hub with engine nitro/ openai
This commit is contained in:
parent
486c5b8ca0
commit
22f12cd02c
@ -20,6 +20,6 @@
|
||||
"tags": ["34B", "Finetuned"],
|
||||
"size": 24320000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["70B", "Finetuned"],
|
||||
"size": 48750000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["Recommended", "7B", "Finetuned"],
|
||||
"size": 4370000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -19,6 +19,7 @@
|
||||
"author": "NeverSleep, The Bloke",
|
||||
"tags": ["34B", "Finetuned"],
|
||||
"size": 12040000000
|
||||
}
|
||||
},
|
||||
"engine": "llama_cpp"
|
||||
}
|
||||
|
||||
@ -1,12 +1,14 @@
|
||||
{
|
||||
"source_url": "https://api.openai.com/v1",
|
||||
"source_url": "https://openai.com",
|
||||
"id": "openai-gpt35",
|
||||
"object": "model",
|
||||
"name": "OpenAI GPT 3.5",
|
||||
"version": 1.0,
|
||||
"description": "OpenAI GPT 3.5 model is extremely good",
|
||||
"format": "api",
|
||||
"settings": {},
|
||||
"settings": {
|
||||
"base_url": "https://api.openai.com/v1"
|
||||
},
|
||||
"parameters": {
|
||||
"max_tokens": 4096
|
||||
},
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["13B", "Finetuned"],
|
||||
"size": 9230000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["34B", "Finetuned"],
|
||||
"size": 24320000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,5 +20,5 @@
|
||||
"tags": ["Tiny", "Finetuned"],
|
||||
"size": 1710000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "llama_cpp"
|
||||
}
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["Recommended", "7B","Finetuned"],
|
||||
"size": 4370000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["13B", "Finetuned"],
|
||||
"size": 9230000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -10,7 +10,8 @@
|
||||
"ctx_len": 2048,
|
||||
"system_prompt": "<|system|>\n",
|
||||
"user_prompt": "<|user|>\n",
|
||||
"ai_prompt": "<|assistant|>\n"
|
||||
"ai_prompt": "<|assistant|>\n",
|
||||
"engine": "nitro"
|
||||
},
|
||||
"parameters": {
|
||||
"max_tokens": 2048
|
||||
@ -19,6 +20,5 @@
|
||||
"author": "TinyLlama",
|
||||
"tags": ["Tiny", "Foundation Model"],
|
||||
"size": 637000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
}
|
||||
}
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["Recommended", "13B", "Finetuned"],
|
||||
"size": 9230000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["34B", "Foundational Model"],
|
||||
"size": 24320000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
@ -20,6 +20,6 @@
|
||||
"tags": ["7B", "Finetuned"],
|
||||
"size": 4370000000
|
||||
},
|
||||
"engine": "llama.cpp"
|
||||
"engine": "nitro"
|
||||
}
|
||||
|
||||
Loading…
x
Reference in New Issue
Block a user