(WIP) /v1/messages - Sionic Opengateway

Request

Authorization

Provide your bearer token in the

Authorization

header when making requests to protected resources.

Example:

Authorization: Bearer ********************

Header Params

anthropic-beta

string

optional

anthropic-version

string

optional

Body Params application/json

model

string

required

사용할 모델의 ID입니다. 작동하는 모델에 대한 자세한 내용은 호환성 표를 참조하세요.

messages

array [object {2}]

required

지금까지의 대화를 구성하는 메시지 목록입니다.

role

enum<string>

required

Anthropic 기준 user, assistant가 들어갈 수 있습니다.

Allowed values:

userassistant

content

string

required

메시지의 내용이며, Anthropic 기준 Required 속성입니다.

max_tokens

integer <int32>

optional

messages에서 생성할 수 있는 최대 토큰 수입니다.

stop_sequences

array[string]

optional

API가 추가 토큰 생성을 중지하는 최대 4개의 시퀀스입니다.

stream

boolean

optional

설정된 경우 ChatGPT와 같이 부분 메시지 델타가 전송됩니다.

temperature

integer <int32>

optional

0에서 2 사이의 값입니다. 0.8과 같이 값이 높을수록 출력이 더 무작위로 만들어지고, 0.2와 같이 값이 낮을수록 더 집중적이고 결정적이게 됩니다.

top_p

integer <int32>

optional

nucleus sampling이라고 하는 temperature sampling의 대안으로, 모델은 확률 질량이 top_p인 토큰의 결과를 고려합니다. 따라서 0.1은 상위 10% 확률 질량을 구성하는 토큰만 고려된다는 의미입니다.

top_k

integer <int32>

optional

다음 토큰을 선택할 때 확률이 높은 상위 K개 후보에서만 샘플링하여 낮은 확률의 응답을 제거하는 데 사용됩니다.

metadata

object

optional

요청과 관련된 메타데이터 정보입니다.

user_id

string

optional

요청을 수행한 사용자를 식별하기 위한 외부 식별자로, UUID 또는 해시값과 같은 고유한 값이어야 합니다.

system

string

optional

모델에 초기 지침과 컨텍스트를 제공하여 특정 역할이나 목표를 설정하는 데 사용됩니다.

Example

{
    "model": "string",
    "messages": [
        {
            "role": "user",
            "content": "string"
        }
    ],
    "max_tokens": 0,
    "stop_sequences": [
        "string"
    ],
    "stream": true,
    "temperature": 0,
    "top_p": 0,
    "top_k": 0,
    "metadata": {
        "user_id": "string"
    },
    "system": "string"
}

Request samples

Shell

JavaScript

Java

Swift

Go

PHP

Python

HTTP

C

C#

Objective-C

Ruby

OCaml

Dart

R

curl --location --request POST '/v1/messages' \
--header 'anthropic-beta;' \
--header 'anthropic-version;' \
--header 'Content-Type: application/json' \
--data-raw '{
    "model": "string",
    "messages": [
        {
            "role": "user",
            "content": "string"
        }
    ],
    "max_tokens": 0,
    "stop_sequences": [
        "string"
    ],
    "stream": true,
    "temperature": 0,
    "top_p": 0,
    "top_k": 0,
    "metadata": {
        "user_id": "string"
    },
    "system": "string"
}'

Responses

🟢200OK

application/json

201

Body

object {0}

Example

{}

🟢200OK

🟠400Bad Request